На конференции GTC генеральный директор Nvidia Дженсен Хуанг вновь вышел на сцену, предлагая революционные решения в сфере искусственного интеллекта. Главным событием стало представление серверного комплекса Nvidia Groq 3 LPX rack, который, как утверждает Хуанг, существенно ускорит процессы инференса. Данное оборудование включает 72 узла нового поколения Vera Rubin и 256 чипов LPU, разработанных Groq. Сделка на $20 млрд, заключенная в декабре, позволила Nvidia получить доступ к этим технологиям.
По словам Хуанга, запросы клиентов меняются: разработчики ИИ-сервисов больше ориентируются на вывод готовых продуктов, усиляя требования к скорости и энергоэффективности. Новая система способна генерировать 700 млн токенов в секунду, что в 350 раз выше показателей предыдущего поколения.
Также были анонсированы новые партнерства и коалиция разработчиков ПО для разработки передовых ИИ-моделей. Оборудование будет задействовано в крупном проекте облачного стартапа Nscale в Западной Виргинии. Вдобавок компания проанонсировала расширение своего влияния в области беспилотного транспорта, подписав соглашения с новыми партнерами. В завершение программы продемонстрирован робот Олаф, который обсудил с Хуаном будущие технологии компании.
