С ростом популярности технологий генеративного искусственного интеллекта, компании начали требовать от своих сотрудников демонстрации результатов их использования. Однако это привело к неожиданному явлению, описанному Financial Times, когда работники Amazon начали возлагать на ИИ выполнение бессмысленных задач, лишь для того, чтобы повысить свои личные показатели. Система MeshClaw, позволяющая автоматизировать рутинные действия, стала инструментом для таких манипуляций. Под давлением руководства, требующего от более 80% разработчиков регулярного использования ИИ, сотрудники начали «имитировать» активность ради улучшения своих результатов. Несмотря на формальный запрет на использование данных о ИИ для оценки эффективности, работники подозревают, что такая практика существует. Аналогичные проблемы отмечаются и в Meta Platforms, где также наблюдаются злоупотребления с агентским ПО. Сотрудники обеспокоены безопасностью таких решений, так как ИИ может генерировать ошибки, оставаясь без должного контроля.
Заголовки
