Skip to content

intelligence-runtime

intelligence-runtime — система, которая подключает правила продуктов DETai к LLM и управляет полным техническим ходом запроса. Её самостоятельный репозиторий репозиторий организует последовательность шагов, выбирает функциональные роли моделей, проверяет формат и качество ответа, повторяет или исправляет технически неудачные попытки и записывает trace выполнения.

Проще говоря, продукт определяет, что должно получиться и по каким правилам, а intelligence-runtime отвечает за то, как провести запрос через модели и вернуть проверяемый результат.

Система не принадлежит Storytelling или любому другому одному продукту. Каждый продукт остаётся владельцем собственного смысла, структуры данных, правил и границы human review.

Проектные проекции

Внутри репозитория есть структура projects/<project>. Название папки совпадает с подключаемым продуктом, но сама папка не является копией продукта и не превращает его в инфраструктурный проект. Это проектная проекция — технический взгляд intelligence-runtime на конкретное подключение.

Проекция может содержать:

  • порядок шагов LLM-сценария;
  • model roles и привязки к providers;
  • технические prompts и adapters;
  • retries, validators и tests;
  • ссылку на owning repository продукта.

Общая техника переносится в shared/ только тогда, когда действительно используется несколькими проекциями. Так runtime остаётся общим, а продуктовый смысл не дублируется.

Как устроен репозиторий

  • shared/ содержит adapters провайдеров, общие технические prompts, повторно используемые validators и учёт запусков;
  • projects/<project>/ содержит проектные проекции;
  • scenarios/ и runtime-код загружают нужную конфигурацию и выполняют её;
  • tests и подготовленные cases проверяют поведение без превращения частного продуктового правила в общую норму.

Обычный путь запроса выглядит так:

правила и запрос продукта
→ выбор проектной проекции и сценария
→ шаги LLM и технические проверки
→ repair или retry при технической ошибке
→ trace и результат для продукта

Связь с DETai Nexus

DETai Nexus — одна из сред, где intelligence-runtime исполняется. В текущей архитектуре Nexus хранит и обслуживает локальные LLM, inference runtime и изменяемое состояние запусков. Репозиторий intelligence-runtime хранит исполняемую логику и versioned-конфигурацию, но не веса моделей и не runtime-cache.

Конкретные семейства моделей, их количество и распределение ролей могут меняться. Они не определяют смысл intelligence-runtime и поэтому не фиксируются на этой канонической странице.