Что такое запись решения?
Журналы показывают, что сделала ваша система. Запись решения объясняет кому-то другому, почему это решение принято. Это артефакт, который вы передаете, когда решение ставится под сомнение — через месяцы, человеком, не имеющим доступа к вашим системам.
Запись решения — это долговечный, самодостаточный документ одного решения ИИ. Он содержит обоснование в виде структурированных аргументов, доказательства, существовавшие на момент принятия решения, оцененные политики и личность человека, который его одобрил. Он разработан для момента, когда решение оспаривается: читаем без входа в систему, проверяем без доверия к поставщику, который его создал, и достаточно полон, чтобы читатель, не присутствовавший при принятии решения, мог понять, как было достигнуто заключение.
Журнал — это не запись.
Запись в журнале отвечает на вопрос "что произошло и когда." Запись о решении отвечает на вопрос "почему это решение можно защитить." Разница имеет значение в момент оспаривания: журнал сообщает проверяющему, что агент произвел вывод; он не может сказать, какие альтернативы были рассмотрены, какие доказательства были действительно доступны или принял ли человек решение. Инструменты наблюдаемости отлично справляются с первым вопросом и никогда не были предназначены для второго — это различие подробно рассматривается в разделе Аудит следов ИИ.
Что должно быть в записи решения
Четыре вещи, и все четыре должны существовать независимо от системы, которая их произвела. Аргументация — доводы за и против, структурированные, а не изложенные в виде рассказа, чтобы читатель мог увидеть, что было взвешено. Доказательства — зафиксированные так, как они существовали в момент принятия решения, потому что доказательства, которые могут измениться позже, ничего не доказывают. Политика — какие правила были оценены и какие провалились, сначала провалы. И авторизация — кто это одобрил и от чьего имени. Вместе они превращают след в доказательства соблюдения.
Почему это должно быть читаемо через десять лет
Основная цель записи о решении заключается в том, чтобы ее можно было изучить задолго после принятия решения. Это исключает все, что требует активной учетной записи, работающей службы или поставщика, который все еще ведет бизнес. Запись, которую можно читать только внутри портала, не является записью; это всего лишь представление. Вот почему формат имеет такое же значение, как и содержание — архивный документ, который содержит свои собственные данные в машинно-читаемом формате в качестве вложения, остается читаемым, когда все вокруг него изменилось. Это также то, что режимы с многолетними обязательствами по хранению, такие как статья 12 Закона ЕС о ИИ о ведении записей, подразумевают по умолчанию.
Доказательства вскрытия и то, что они не доказывают
Запись решения может быть запечатана так, чтобы любое последующее изменение было обнаружимо, и подписана так, чтобы читатель мог проверить ее без доверия к хранилищу, из которого она пришла. Это устанавливает целостность: это запись как запечатанная. Она не устанавливает, что содержание было истинным на момент написания. Никакая криптография не может доказать, что агент честно сообщил свои рассуждения, или что человек размышлял, а не просто нажал кнопку — именно поэтому человеческий контроль в соответствии со статьей 14 заслуживает отдельного структурного подхода. Точность в определении этой границы делает остальную часть утверждения достоверной.
Что содержит протокол решения
Четыре элемента, каждый из которых отвечает на вопрос, который на самом деле задаст рецензент.
Структурированное мышление
Аргументы за и против в виде графика, а не прозы, чтобы читатель мог увидеть, что было взвешено, а не то, что было резюмировано.
Доказательства, как они были
Источники и значения зафиксированы на момент принятия решения, поэтому запись отражает то, что было действительно известно тогда, а не то, что известно сейчас.
Оцененные политики
Какие правила были проверены и какие не прошли, сначала показываются неудачи, чтобы исключения были видны, а не скрыты.
Авторизация
Кто утвердил решение, включая делегирование от имени, зафиксированное так, чтобы машинное одобрение никогда не могло быть ошибочно принято за человеческое.
Вместе они превращают "агент решил X" в запись, которую рецензент может оценить, не восстанавливая момент с нуля.
Записи решений: общие вопросы
Чем запись решения отличается от журнала аудита?
Журнал аудита — это хронологический поток событий в системе; запись решения — это ограниченный документ о одном решении. Журнал отвечает на вопрос "что здесь произошло"; запись отвечает на вопрос "почему это решение принято". Большинству организаций нужны и то, и другое, и они не являются взаимозаменяемыми.
Запись решения подтверждает, что решение было правильным?
Нет, и любой инструмент, утверждающий иное, преувеличивает свои возможности. Запись решения устанавливает, что было решено, на каком основании и кем — это входные данные для оценки правильности, а не само суждение. Правильность решения — это вопрос для рецензента.
Можно ли изменить протокол решения задним числом?
Он может быть запечатан так, чтобы изменения были обнаружимы. Это существенно отличается от гарантии предотвращения: запись не становится физически неизменяемой, но читатель может определить, является ли то, что он держит, тем, что было запечатано.
Кто на самом деле читает это?
На практике: внутренний аудит, внешние оценщики, регуляторы, реагирующие на жалобу, и коллеги, унаследовавшие решение. Каждому нужно одно и то же — достаточно контекста, чтобы оценить решение, в котором они не присутствовали.
Нужен ли нам отчет о решении для каждого решения ИИ?
Нет. Обязанность касается решений с последствиями — тех, которые влияют на права человека, доступ, деньги или безопасность. Запись всего на одном уровне глубины дорогостоящая и усложняет поиск важных записей.
В каком формате должен быть протокол решения?
Что-то архивное и самодостаточное, что также содержит данные, читаемые машиной. Читаемость для человека важна, потому что люди оценивают решения; читаемость для машины важна, потому что системам нужно их искать и проверять. Формат, который предлагает только одно, оставляет другую аудиторию в затруднительном положении.
Как это связано с Законом ЕС о ИИ?
Статья 12 касается ведения записей, а статья 14 — человеческого контроля, и обе в конечном итоге подтверждаются записями индивидуальных решений. Запись решения — это один из способов удовлетворить эти обязательства — сама по себе она не является соблюдением, которое зависит от всей системы и от того, как она функционирует.
Related AI governance topics
AI Governance
The umbrella discipline: how organizations keep AI agents accountable, observable, and compliant — start here.
AI Observability
Seeing what your AI systems do in production — metrics, traces, and logs.
LLM Observability
Monitoring prompts, tokens, latency, and quality of large language model calls.
AI Traceability
Reconstructing the full lineage of an AI output — inputs, steps, and decisions.
LLM Traceability
End-to-end traces of multi-step LLM and prompt chains.
AI Agent Observability
Observability for autonomous, multi-step agents — tool calls, plans, and decisions.
Agentic AI Governance
Governing autonomous agents: policy, oversight, and accountable autonomy.
AI Audit Trail
Append-only, tamper-evident records of what an AI system decided and why.
AI Agent Monitoring
Real-time monitoring of agent behavior, drift, and decision quality.
Explainable AI (XAI)
Making AI decisions understandable to the people accountable for them.
AI TRiSM
Gartner's framework for AI trust, risk, and security management.
Decision Retrieval
GraphRAG for agents — retrieving past decisions as bounded, auditable packets.
AI Compliance Evidence
What auditors actually ask for, and why policy documents are not evidence.
AI Conformity Assessment
How an AI system is checked against the rules, and what that check consumes.
Decision Tracing
Capturing the structured reasoning behind every AI decision — AI Agentree's category.
AI Precedent Systems
Letting agents learn from past decisions as searchable precedent.
Decision Audit Trails
How human teams record why a decision was made — the deliberation counterpart to an AI audit trail.
Transparent AI
Making model reasoning inspectable, and what changes when several models are compared against each other.
Multi-Agent Simulation
Running many AI personas against one scenario to surface risks before a decision is taken.
Посмотреть запись решения
Самый ясный способ понять формат — это посмотреть на один документ, который включает в себя рассуждения, доказательства, след политики и одобрение.
Изучите платформу