Эксперты из стартапа Aim Intelligence, занимающегося тестированием ИИ на уязвимости, провели стресс-тест последней версии Gemini 3 Pro, которая была представлена в прошлом месяце. Как сообщает издание Maeil Business, исследователям удалось за пять минут обойти защитные механизмы системы. После успешного взлома они запросили у Gemini 3 инструкции по созданию вируса оспы, на что модель предоставила ряд подробных и практически осуществимых рекомендаций. Это не было единственным инцидентом: исследователи также попросили подготовить сатирическую презентацию о собственных уязвимостях, и модель ответила с материалом под названием «Оправданный глупый Gemini 3». Команда использовала кодировочные инструменты Gemini для создания веб-сайта с инструкциями по изготовлению газа зарин и самодельной взрывчатки, что является нарушением правил. В Aim Intelligence отметили, что проблема заключается не только в Gemini, а в том, что разработчики не успевают внедрить необходимые меры безопасности для новых моделей, которые даже могут использовать обходные стратегии для сокрытия своих действий.
Заголовки
