Что такое отслеживание решений AI?
Отслеживание решений — это практика фиксации полного рассуждения за каждым решением AI-агента в виде структурированных, подлежащих аудиту артефактов. В отличие от журналов выполнения, которые фиксируют, что произошло, отслеживание решений фиксирует, почему это произошло — рассматриваемые варианты, использованные доказательства, взвешенные аргументы и выбранные обоснования. AIAgentree реализует отслеживание решений через пакеты решений: запечатанные записи, содержащие предложение, дерево аргументов, снимки доказательств, выбранное обоснование и отслеживание результатов. Отслеживание решений позволяет соблюдать статьи 12-14 Закона ЕС о AI, поддерживает три режима доверия (человек в процессе, человек на процессе, полная автономия) и создает институциональную память через прецедент как инфраструктуру. Архитектура различает нормативные отношения (поддерживает/противоречит) от описательных отношений (упоминает/связано с), делая рассуждения AI запрашиваемыми, сопоставимыми и цитируемыми.
Большинство организаций путают журналирование (что сделал агент) с отслеживанием решений (что было решено и почему). Это различие имеет значение, потому что регулирование, управление и институциональная память зависят от последнего.
- •Логи фиксируют события выполнения — вызовы API, задержки, ошибки
- •Следы решений фиксируют структурированное рассуждение — варианты, доказательства, обоснования, результаты
- •Пакеты решений — это запечатанные артефакты, которые аудиторы могут запрашивать и воспроизводить.
- •Прецедент возникает автоматически из структурированных решений — институциональная память как инфраструктура
Регулятор только что запросил последние 100 решений, принятых вашим ИИ.
У вас есть 30 дней, чтобы ответить. Что у вас на самом деле есть?
Оригинальная тезис, переформулированный
Решения ИИ заслуживают подтверждений. Логирование — это не ответственность. Цепочка размышлений — это не истинная основа.
Эти утверждения остаются верными. Но они неполные.
Вопрос "Почему мы должны фиксировать решения?" имеет очевидный ответ: соблюдение норм, подотчетность, отладка. Более сложный вопрос: "Что происходит, когда мы это делаем?"
Ответ неожиданен: институциональная память становится автоматической. Не как функция, которую вы добавляете сверху. Не как модуль, который вы прикрепляете позже. Как естественное следствие модели данных.
Что на самом деле означает "Решение"
Решение — это не выходные данные модели. Это не ответ API. Это не значение, возвращаемое функцией.
Решение — это структурированный артефакт, содержащий:
- •Предложение — что решалось (одобрить кредит #1234)
- •Оцененные доказательства — факты, рассмотренные, замороженные в момент принятия решения
- •Рассматриваемые альтернативы — варианты, оцененные и отклоненные
- •Выбранная аргументация — какие доводы повлияли на решение
- •Зарегистрированный результат — что произошло после этого (немедленно, через 6 месяцев, через 1 год)
Это то, что AIAgentree называет Пакетом решений — запечатанный, неизменяемый документ, который аудиторы могут запрашивать, воспроизводить и цитировать.
Что логи не говорят вам
| Журнал выполнения | Трассировка решений |
|---|---|
одобрить_кредит(application_id=1234, score=0.87) | Предложение: Одобрить кредит #1234 ПРО: Подтверждение дохода пройдено (вес: 0.92) ПРО: 3 года трудового стажа (вес: 0.85) КОН: Кредитный рейтинг ниже порога (вес: 0.78) ИСКЛЮЧЕНИЕ: Ручное исключение одобрено старшим аналитиком Обоснование: Стабильность занятости перевешивает кредитные опасения Результат (6 мес): 0 пропущенных платежей |
| Что произошло. Когда это произошло. Сколько времени это заняло. | Почему было принято такое решение. Что было рассмотрено. Что произошло после. |
Журнал сообщает вам, что кредит был одобрен. Трассировка говорит вам почему он был одобрен, несмотря на беспокойство по поводу кредитного рейтинга, кто авторизовал исключение и каково было это решение.
Два примитива
Вся система отслеживания решений основана на двух примитивах:
Примитив 1: Долговечная запись рассуждений
Не "что сказала модель." Структурированная графическая аргументация с утверждениями, отношениями (поддерживает/опровергает), ссылками на доказательства и иерархией.
Примитив 2: Долговечная запись результатов
Не "модель вернула 200 OK." Запечатанный протокол решения с результатом, обоснованием, принимающим решением и трекером на три горизонта.
Как только у вас есть и то, и другое, прецедент больше не является чем-то, что вы "помните". Он становится чем-то, что вы можете запрашивать, сравнивать и цитировать.
Почему нормативное превосходит описательное
Контекстные графы хранят описательные отношения: "связано с", "упоминает", "принадлежит". Графы аргументов решений хранят нормативные отношения: "поддерживает", "противится".
Различие является основополагающим:
- •Описание: "Этот билет упоминает этого клиента"
- •Нормативный: "Эти доказательства поддерживают одобрение, поскольку они демонстрируют последовательную историю платежей"
Нормативная структура обеспечивает объяснимость, управление и прецедент. Описательная структура позволяет осуществлять поиск и открытие. Оба имеют ценность. Только одна из них позволяет осуществлять институциональное суждение.
Как возникает прецедент (механически)
Маховик
Агент генерирует дерево аргументов "за" и "против"
Люди одобряют/отклоняют + выбирают обоснования аргументов
Решение принято → дело заморожено
Следующее решение: агент ищет и ссылается на это дело
Прецедент становится узлом аргумента в новом деле.
Организация создает библиотеку шаблонов "как мы принимаем решения"
Шаблоны обеспечивают безопасную автоматизацию (автономия, основанная на прецедентах)
Вы получаете институциональную память в качестве побочного продукта нормального использования, а не как отдельную инициативу.
От хранимого к извлекаемому: решения в виде графа
Запись решений — это только половина ценности. Вторая половина заключается в возврате их — и именно здесь модель данных оправдывает свои затраты. Поскольку каждое решение хранится в виде нормативного графа аргументов (утверждения, соединенные ребрами поддерживает/опровергает), оно становится первоклассным средством для извлечения, а не просто архивом.
Укажите векторный поиск на сырых логах, и вы получите "суп из фрагментов" — разрозненные отрывки, которые цитируют вывод, но опускают контраргумент, одобряющего и прецедент. Вместо этого извлеките из графа решений, и вы получите ограниченный Пакет Решений: предложение, аргументацию за и против, доказательства и результат, в целостности. Это GraphRAG для AI-решений — причина, по которой прецедент является чем-то, что вы можете запрашивать и цитировать, а не просто тем, что вы надеетесь запомнить. (Больше о субстрате извлечения: что такое извлечение решений.)
Три режима доверия
Предприятия не передают решения ИИ за одну ночь. Они проходят через этапы:
Человек в цикле
Агент помогает, человек принимает решение. Агент генерирует рассуждения; человек делает окончательный выбор.
Человек в цикле
Агент принимает решения, человек контролирует. Агент принимает решения; человек может просмотреть и отменить.
Полная автономия
Агент принимает решения, человек периодически проводит аудиты. Достаточно прецедентов, чтобы оправдать автономную работу.
Прогрессия режима основана на доказательствах: доверие ≥ 95%, аналогичные прецеденты ≥ 5 с последовательными результатами, установленный и проверенный паттерн. Это не "доверяй, но проверяй." Это "проверяй, затем доверяй, затем продолжай проверять."
Что это означает для стека ИИ в предприятиях
КОНТЕКСТ СТЕКА ПРЕДПРИЯТИЯ
- •СЛОЙ C: ОБСУЖДЕНИЕ — ПОЧЕМУ это было решено? Деревья "за/против", ссылки на прецеденты, происхождение доказательств
- •СЛОЙ B: ЛИНИЯ РЕШЕНИЙ — ЧТО было решено? Результат, уверенность, оцененные политики, одобрения
- •УРОВЕНЬ A: ОПЕРАЦИОННЫЙ КОНТЕКСТ — КТО/ЧТО вовлечено? Субъекты, отношения, временное состояние (CRM, ERP)
Большинство команд создают A. Некоторые создают B. Почти никто не создает C хорошо. AIAgentree предоставляет C.
Три способа подключения — SDK это всего лишь один из них
Отслеживание решений — это не 6-месячное консультирование, и для этого не требуется наш SDK. Существует три способа подключения:
- •MCP (агент-нативный) — полный жизненный цикл как инструменты, от начала до конца: создать трассировку, записать рассуждения, запечатать решение (
create_trace,append_events,seal_decision) и немедленно получить Пакет Решения (get_packet,search_precedents) — не требуется установка библиотеки - •REST API — любой язык, любое время выполнения, ноль зависимостей (SDK является тонкой оболочкой над этими конечными точками)
- •SDK (Python / TypeScript) — эргономичный вариант с автоматическим извлечением рассуждений из вывода вашего агента
Путь к SDK — это самый короткий способ написания — трассировка решения примерно в десять строк:
from aiagentree import AgentreeClient
client = AgentreeClient(api_key="ask_...", base_url="https://api.aiagentree.com", tenant_id="acme")
# Trace your agent's decision point
trace = client.start_trace(
agent_id="discount-agent",
workflow_id="discount_approval",
entity_type="request",
entity_id="4521",
)
trace.add_input("discount", 0.18, source="crm")
trace.add_step("s1", title="SEV-1 incident yesterday", category="evidence", confidence=0.9)
trace.add_step("s2", title="Customer flagged as churn risk", category="evidence", confidence=0.85)
trace.add_step("s3", title="Exceeds standard 15% threshold", category="risk", confidence=0.7)
trace.seal("d1", action="approved", confidence=0.9)След зафиксирован, имеет временную метку и доступен для запроса. Когда поступит следующий аналогичный запрос, этот прецедент можно будет извлечь и сослаться на него.
Угол соблюдения
Регламент ЕС по ИИ устанавливает конкретные требования для систем ИИ с высоким уровнем риска:
- •Статья 12 — Автоматическая регистрация, позволяющая отслеживать решения и идентифицировать риски
- •Статья 13 — Прозрачность и предоставление информации развертывателям и пользователям
- •Статья 14 — Меры человеческого контроля, позволяющие вмешательство и понимание
Следы решений удовлетворяют этим требованиям, фиксируя структурированное рассуждение, происхождение доказательств, действия человеческого контроля и записи результатов — в формате, который регуляторы могут фактически запрашивать и понимать.
Срок до декабря 2027 года: Высокорисковые ИИ-системы в соответствии с Приложением III должны соответствовать требованиям по ведению журналов и отслеживаемости. Если ваши ИИ-агенты принимают решения о кредите, трудоустройстве, образовании или здравоохранении, время идет.
Что решение отслеживания НЕ решает
Отслеживание решений находится на вершине операционного контекста. Оно не заменяет:
- •CRM/ERP системы — вам все еще нужны ваши системы учета
- •Инструменты наблюдаемости — LangSmith, W&B, Arize по-прежнему отслеживают состояние модели
- •Разрешение идентичности — вам все еще необходимо связывание сущностей между системами
Эти инструменты решают разные задачи на разных уровнях. AIAgentree захватывает тот артефакт, который всем им нужен, но который никто не хранил исторически: само решение.
Как начать
Определите свои критически важные моменты принятия решений
Какие решения агентов влияют на клиентов, соблюдение норм или доход? Начните с этого.
Интегрируйте 10-строчный SDK
Оберните вашу существующую логику агента захватом трассировки. Переписывание не требуется.
Ответьте на вопрос регулятора
Выберите одного агента и спросите: "Если регулятор запросит последние 100 решений, смогу ли я ответить?"
Часто задаваемые вопросы
Что такое отслеживание решений для ИИ-агентов?
Отслеживание решений фиксирует полное обоснование каждого решения ИИ — рассматриваемые варианты, использованные доказательства, взвешенные аргументы и выбранную логику — в виде структурированных, подлежащих аудиту артефактов, называемых Пакетами Решений. В отличие от журналов, которые фиксируют, что произошло, трассировки решений фиксируют, почему это произошло.
Чем отслеживание решений отличается от логирования или наблюдаемости?
Логи фиксируют события выполнения (вызовы API, задержки, ошибки). Инструменты наблюдаемости отслеживают состояние системы. Трассировка решений фиксирует нормативную структуру рассуждений — какие аргументы поддерживали или опровергали решение, какие доказательства были приведены и какая логика определила результат. Это разница между знанием «кредит одобрен» и знанием «почему этот кредит был одобрен, несмотря на проблемы с кредитным рейтингом».
Что такое пакет решений?
Пакет решений — это основной артефакт AIAgentree: запечатанный, неизменяемый документ, содержащий предложение (что было решено), дерево аргументов (аргументация "за" и "против"), снимки доказательств (зафиксированные на момент принятия решения), выбранное обоснование (какие аргументы повлияли на решение) и отслеживание результатов (что произошло после). Это все, что необходимо регулятору или аудитору для понимания и воспроизведения решения.
Как отслеживание решений помогает в соблюдении Закона ЕС об ИИ?
Статьи 12-14 Закона ЕС об ИИ требуют от систем ИИ с высоким уровнем риска вести журналы, которые обеспечивают отслеживаемость решений. Следы решений удовлетворяют этим требованиям, фиксируя структурированное обоснование, происхождение доказательств, действия человеческого надзора и записи результатов — в формате, который регуляторы могут фактически запрашивать и понимать.
Каковы три режима доверия в управлении ИИ?
Три режима представляют собой прогрессию: Режим 1 (Человек в цикле) — где агенты помогают, но решения принимают люди; Режим 2 (Человек на цикле) — где агенты принимают решения с человеческим контролем; Режим 3 (Полная автономия) — где агенты принимают решения с периодическими аудитами. Прогрессия между режимами основана на фактических данных, движется с учетом оценок уверенности, последовательности прецедентов и отслеживания результатов.
Как работают прецеденты в отслеживании решений?
Когда решения фиксируются в виде структурированных артефактов, прецеденты возникают автоматически. Похожие прошлые решения могут быть извлечены по категориям, ссылкам на сущности, тегам аргументов или ограничениям политики. Эти прецеденты становятся узлами аргументов первого класса в новых решениях — их можно цитировать, оспаривать или отменять, как и любые другие причины. Институциональная память накапливается с каждым решением.
Сколько времени занимает интеграция AIAgentree?
Вы можете подключиться тремя способами: через MCP как нативные инструменты агента (без SDK, без библиотеки), REST API (любой язык, ноль зависимостей) или SDK для Python/TypeScript (около десяти строк, с автоматическим извлечением рассуждений). Полный жизненный цикл — создать трассировку, записать рассуждения, зафиксировать решение и немедленно вернуть пакет решений — работает только через MCP, от начала до конца, без какой-либо библиотеки. Нет 6-месячного консалтингового контракта; это уровень инфраструктуры, который вы добавляете к вашему существующему стеку агентов.
Связанные темы
Связанные статьи
GraphRAG для ИИ-решений: Почему графы превосходят векторный поиск для памяти агентов
Вектор RAG по логам возвращает "суп из фрагментов" — разрозненные текстовые фрагменты, которые не содержат контраргументов, одобрений и прецедентов, которые сделали решение обоснованным. Когда решения хранятся в виде нормативного графа аргументов, извлечение возвращает вместо этого ограниченный, подлежащий аудиту Пакет Решений.
Статья 6 Закона ЕС о ИИ: Что означает классификация высокого риска для ваших ИИ-агентов
Статья 6 Закона ЕС о ИИ определяет, является ли ваша ИИ-система "высокого риска" — и запускает обязательные требования к аудиторским следам. Если ваши агенты принимают решения о кредитах, трудоустройстве, образовании или здравоохранении, вам необходимо понять классификацию Приложения III до декабря 2027 года.
Что такое аудит следов решений?
Человеческий аналог решений ИИ: полный, подлежащий проверке отчет о том, кто принял какое решение и почему.
Команда AIAgentree
Управление AI
Команда AIAgentree строит инфраструктуру отслеживания решений для AI-агентов. Наша миссия — сделать рассуждения AI видимыми, подлежащими аудиту и улучшаемыми.
Готовы отслеживать ваши AI-решения?
Начните фиксировать трассы решений сегодня. Доступен бесплатный уровень — без необходимости в кредитной карте.
Начать бесплатный пробный период