Андрей Карпаты, один из ведущих инженеров в области искусственного интеллекта, в недавнем интервью выразил свои опасения по поводу того, как современные технологии могут затмить способность человечества к самостоятельному принятию решений. Он отметил, что современные языковые модели не учатся так, как это делают люди; они не способны на истинное мышление, а лишь копируют поведение, подстраиваясь под ожидания пользователей.
Карпаты критикует метод обучения с подкреплением, который лежит в основе многих популярных моделей, утверждая, что он ужасен, а всё, что было до него, ещё хуже. Он проводит параллели между людьми и языковыми моделями, подчеркивая, что люди создают собственные данные и формируют опыт, в то время как модели лишь имитируют этот процесс.
По его мнению, реальная угроза заключается не в восстании ИИ, а в том, что люди становятся всё более пассивными в своём мышлении. Мы уже доверяем машинам управление новостями, предпочтениями и даже медицинскими вопросами, и этот процесс может привести к «тихому вымиранию мышления». Карпаты не ожидает появления истинного общего искусственного интеллекта в ближайшем будущем, полагая, что до этого момента пройдет как минимум десять лет. Тем не менее, текущие тенденции вызывают тревогу, так как люди становятся всё менее активными в своих размышлениях.
