OpenAI выпустила техническое описание Codex CLI, локального инструмента для разработки кода, который работает непосредственно на пользовательском устройстве. Этот материал будет особенно полезен для тех, кто создает собственных агентов или пытается оптимизировать затраты на инференс и управление контекстом.
Codex CLI функционирует на основе классического цикла агентного взаимодействия. Пользователь отправляет запрос, и система формирует обширный промпт с проектными инструкциями. Модель работает по принципу: ответ либо в текстовом виде, либо вызов инструмента. Затем агент выполняет команду, добавляет результат в контекст и снова вызывает модель. Этот процесс продолжается до завершения задачи. Однако существует лимит: вся информация из AGENTS.md и корневых директорий собирается в один JSON, который не должен превышать 32 Кб.
Также акцентировано внимание на стоимости контекста. История диалога растет, что может привести к значительному увеличению затрат. Для минимизации расходов используется кэширование промптов. Важно помнить, что изменение порядка инструментов или конфигурации может значительно влиять на стоимость запроса.
По архитектуре API произошли значительные изменения: Codex CLI теперь работает в stateless режиме, что исключает хранение состояния диалога. Данные передаются в зашифрованном виде с ключом на сервере.
При заполнении контекстного окна автоматически активируется система компакции, которая сохраняет смысл предыдущего диалога, уменьшая объем занимаемого пространства.
Кроме того, OpenAI напомнила, что Codex CLI может работать и с локальными моделями, используя флаг –oss. В будущем компания планирует продолжить разбор архитектуры CLI и других аспектов инструмента.
Делегируйте рутинные задачи вместе с BotHub! Получите 100 000 бесплатных токенов для начала работы с нейросетями уже сейчас!
