Каждый день мы слышим о возможностях ИИ и о том, что программисты станут ненужными. Но вот пример, когда вайб-кодинг чуть не разрушил стартап. Кратко: код системы неверно оценивал капитал, считая, что 2 биткойна по 100 000 долларов равны 2, а не 200 000. Это вызвало массовые ликвидации трейдеров, которые пытались заимствовать деньги для покупки биткойнов. Итог — общий убыток составил 2 миллиона долларов.
Проблема возникла из-за того, что разработчики полагались на генерацию кода ИИ с минимальным пониманием его работы. А в репозитории стартапа лишь 17 из 28 тестов прошли, и код продолжает генерироваться без контроля. Совершенно неприемлемая ситуация для фин-теха!
Сравнивая с проектом Apache Superset, где тесты проходят на высоком уровне, становится очевидно, что текущая практика разработки в стартапе требует кардинальных изменений. Если тренд на замену людей ИИ продолжится, это может привести к катастрофическим последствиям.
Вопрос-ответ
Какую основную проблему демонстрирует приведённый пример с ИИ-генерацией кода?
Основная проблема — отсутствие достаточного понимания и контроля над генерируемым кодом, что приводит к критическим ошибкам в расчётах и последствиям для бизнеса (здесь — неверная оценка капитала и массовые ликвидации). Это подчёркивает риск использования ИИ как единственного источника кода без качественного тестирования и аудита.
Почему сравнение с Apache Superset важно в контексте статьи?
Apache Superset демонстрирует высокий уровень надёжности за счёт полного цикла тестирования и контроля качества. Это контрастирует с практикой стартапа, где лишь часть тестов проходит, и код продолжает генерироваться без должного контроля. Сравнение подчеркивает необходимость структурированного процесса разработки и автоматизированного тестирования в финтехе.
Какие меры рекомендуется принять для предотвращения подобных ошибок?
Рекомендовано внедрить строгий процесс проверки ИИ-генерированного кода: обязательные unit и integration тесты, покрытие критических финансовых расчётов; аудит кода со стороны людей; ограничение степени автоматизации в финансовых операциях; постоянная мониторинг и откат изменений; внедрение CI/CD с проходящими тестами перед продом.
Какие признаки указывают на необходимость кардинальных изменений в разработке стартапа?
Признаки включают: низкое покрытие тестами (меньше 100% по ключевым модулям), отсутствие видимого контроля за изменениями в кодовой базе, ЧП с непредсказуемыми результатами финансовых расчётов, зависимость от генерации кода без аудита, отсутствие репортинга ошибок и рискованных последствий в реальном времени. Эти сигналы говорят о необходимости пересмотра процессов разработки, тестирования и управления рисками.
