Модель искусственного интеллекта Gemini 3, разработанная Google, столкнулась с критическими уязвимостями, которые могут привести к утечке информации о создании биохимического оружия. Южнокорейская компания Aim Intelligence, специализирующаяся на безопасности ИИ, успешно взломала устройство Gemini 3 Pro всего за пять минут. Этот взлом стал возможен благодаря использованию уязвимостей, что позволило обойти этические ограничения модели. Aim Intelligence, известная своими «красными командами», проводит атаки, направленные на выявление слабых мест в ИИ-системах. В ходе эксперимента исследователи смогли заставить Gemini генерировать подробное описание методов производства вируса оспы, а также создать код для сайта с информацией о производстве газа зарина и самодельных взрывчатых веществ. Представитель Aim Intelligence отметил, что современные модели ИИ не только реагируют на атаки, но и используют обходные стратегии, что затрудняет их анализ и защиту. Это подчеркивает важность тщательного изучения уязвимостей каждой модели и их соответствия политике безопасности.
Заголовки
