NVIDIA розпочала свою щорічну конференцію для розробників у сфері ШІ GTC 2024, яка проходить у Сан-Хосе, Каліфорнія, протягом 18–21 березня.
Графічний процесор Blackwell — найпотужніший чіп у світі, стверджує компанія
Чіпи Blackwell названі на честь Девіда Гарольда Блеквелла, математика, який спеціалізувався на теорії ігор і статистиці, пише Engadget. Вони до 30 разів швидші за H100 і споживають у 25 разів менше енергії.
Blackwell пропонує компаніям, що займаються розробкою штучного інтелекту, значний приріст продуктивності — 20 петафлопс у порівнянні з 4 петафлопсами, які забезпечував H100. Значна частина цієї швидкості стала можливою завдяки 208 млрд транзисторів у чіпах Blackwell у порівнянні з 80 млрд в H100. Щоб досягти цього, NVIDIA з’єднала дві великі кристалічні матриці, які можуть обмінюватися даними зі швидкістю до 10 терабайтів у секунду.
NVIDIA не розкриває, скільки коштуватимуть чіпи Blackwell. H100 можна придбати від $25 000 до $40 000 за чіп, за даними CNBC, а цілі системи, що працюють на цих чіпах, можуть коштувати до $200 000.
Проєкт GR00T
NVIDIA представила проєкт GR00T, універсальну базову модель для людиноподібних роботів, розроблену для подальшої роботи, спрямованої на прорив у робототехніці та втіленні ШІ, повідомляє компанія у себе на сайті.
Роботи на базі GR00T, що розшифровується як Generalist Robot 00 Technology, будуть спроєктовані таким чином, щоб розуміти природну мову та імітувати рухи, спостерігаючи за діями людини — швидко навчаючись координації, спритності та іншим навичкам для того, щоб орієнтуватися, адаптуватися та взаємодіяти з реальним світом.
GR00T також підтримуватиме нове обладнання від Nvidia — Jetson Thor — новий комп’ютер, розроблений спеціально для запуску робочих процесів симуляції, генерації моделей штучного інтелекту та багато іншого для роботів-гуманоїдів.
Програмна платформа NIM
Nvidia представила програмну платформу NIM для оперативного розгортання AI-моделей, призначену для оптимізації розгортання користувацьких та попередньо навчених моделей штучного інтелекту у виробничих середовищах.
Зазвичай розробникам потрібні тижні, а то й місяці, щоб доставити подібні контейнери, стверджує Nvidia — і це за умови, що в компанії взагалі є фахівці зі штучного інтелекту. За допомогою NIM Nvidia має на меті створити екосистему готових до ШІ контейнерів, які використовують її апаратне забезпечення як базовий рівень, а ці мікросервіси — як основний програмний рівень для компаній, які хочуть прискорити реалізацію своєї дорожньої карти ШІ, пише Techcrunch.
Зараз NIM включає підтримку моделей NVIDIA, A121, Adept, Cohere, Getty Images та Shutterstock, а також відкритих моделей Google, Hugging Face, Meta, Microsoft, Mistral AI та Stability AI. Nvidia вже працює з Amazon, Google і Microsoft, щоб зробити мікросервіси NIM доступними в SageMaker, Kubernetes Engine та Azure AI. Вони також будуть інтегровані в такі платформи, як Deepset, LangChain та LlamaIndex.
«Ми вважаємо, що графічний процесор Nvidia — найкраще місце для моделей і що NVIDIA NIM — найкращий пакет програмного забезпечення, найкраще середовище розробки, щоб автори могли зосередитися на розробці корпоративних додатків. Просто дозвольте Nvidia виконати роботу зі створення цих моделей найбільш ефективним чином», — сказав Манувір Дас, керівник відділу корпоративних обчислень у Nvidia.
