Современные искусственные интеллекты часто сталкиваются с проблемой «катастрофического забывания»: при дообучении на новых данных они начинают путать и забывать старые знания. Это создает сложности, особенно в бизнесе, где условия меняются постоянно. В новой работе Google предложили альтернативный взгляд на обучение, рассматривая его как систему вложенных задач с различными темпами обновления. Этот подход, названный Nested Learning, позволяет каждой внутренней задаче иметь свой контекст и ритм обновления, что облегчает усвоение новой информации без потери старых навыков. В рамках этой концепции Google разработала прототип — рекуррентную архитектуру Hope, которая демонстрирует улучшенные результаты в языковом моделировании и устойчивость на задачах с длинными контекстами. Hope предлагает возможность дообучения в реальном времени, что может значительно улучшить работу ИИ в бизнесе. Однако для окончательной оценки технологии потребуется проведение независимых тестов.
Заголовки
