Институт искусственного интеллекта МФТИ инициировал исследование альтернативных графических процессоров и открыл Центр компетенций, чтобы помочь компаниям создать инфраструктуру, независимую от продукции Nvidia. В последние годы в России наблюдается нехватка оборудования и ПО от Nvidia, что приводит к задержкам поставок и отсутствию поддержки. В связи с этим, бизнесу необходимо искать новые решения для вычислительных задач в области машинного обучения. Исследование охватило альтернативные ускорители, такие как S4000 от Moore Threads и C500 от MetaX, с акцентом на их архитектурные характеристики, совместимость и производительность. Результаты тестов показали, что данные графические процессоры могут успешно запускать языковые модели и работать с современными фреймворками, а в некоторых задачах их эффективность сравнима или даже превосходит Nvidia A100. В будущем команда планирует расширить эксперименты с новыми ускорителями и разработать рекомендации для создания эффективной ИИ-инфраструктуры.
Заголовки
