База знаний по аналитике, ИТ архитектуре, API. Документирование. Тесты инструментов.
Полная программная инфраструктура, обёртывающая LLM: оркестрационный цикл, инструменты, память, управление контекстом, персистентность состояния, обработка ошибок и ограничения.
Цикл состоит из нескольких шагов: харнесс собирает промпт — объединяет системный промпт, схемы инструментов, файлы памяти, историю диалога и сообщение пользователя; промпт отправляется в model API — модель генерирует выходные токены; харнесс классифицирует вывод модели: если запрошены вызовы инструментов — выполняет их, если нет — завершает цикл; результаты инструментов форматируются и добавляются к истории диалога; при приближении к лимиту контекстного окна харнесс запускает compaction (суммаризацию истории); цикл повторяется до завершения задачи.