决策记录是什么?

决策记录是一个单一的、自包含的文档,记录了一个人工智能决策——推理、当时可用的证据、评估的政策以及批准该决策的人。与记录某事发生的日志条目不同,决策记录是为了让后来的某个人阅读而构建的:审计员、监管者或继承该决策的同事。

决策治理

决策记录是什么?

日志告诉你系统做了什么。决策记录告诉其他人为什么这个决策成立。当一个决策受到质疑时——几个月后,由一个无法访问你系统的人——这是你交出的文档。

TL;DR

决策记录是一个AI决策的持久、自包含的文档。它包含了结构化论证的推理、在决策时存在的证据、被评估的政策,以及批准该决策的人的身份。它的设计旨在应对决策被质疑的时刻:无需登录即可阅读,无需信任制作它的供应商即可验证,并且足够完整,以便未在场的读者能够理解得出结论的过程。

日志不是记录

日志条目回答“发生了什么,以及何时发生。”决策记录回答“为什么这个决定是可以辩护的。”这种区别在挑战时很重要:日志告诉审查者一个代理产生了输出;它无法告诉他们权衡了哪些替代方案,哪些证据实际上是可用的,或者一个人是否行使了判断。可观察性工具在第一个问题上表现出色,但从未设计用于第二个问题——这一区别在AI审计轨迹中有深入的讨论。

决策记录中应包含什么

四个要素,所有四个都必须独立于产生它们的系统而生存。推理 — 赞成和反对的论点,结构化而非叙述化,以便读者能够看到权衡的内容。证据 — 在决策时的快照,因为事后可能悄然改变的证据毫无意义。政策 — 评估了哪些规则,哪些失败,先列出失败。授权 — 谁批准了它,代表谁。它们共同构成了将痕迹转化为合规证据的要素。

为什么它必须在十年内可读

决策记录的整个目的是在决策后很久被审查。这排除了任何需要实时账户、运行服务或仍在营业的供应商的情况。只能在门户内读取的记录不是记录;它是一个视图。这就是格式与内容同样重要的原因——一个带有自身机器可读数据作为附件的档案文件在周围一切都发生变化时仍然保持可读性。这也是具有多年保留义务的制度所隐含的,例如欧盟人工智能法第12条记录保存

防篡改证据,以及它不证明的内容

决策记录可以被封存,以便任何后来的更改都可以被检测到,并且可以被签名,以便读者可以在不信任其来源的存储的情况下进行验证。这确立了完整性:这是封存的记录。它并不证明内容在书写时是真实的。没有任何加密技术可以证明一个代理诚实地报告了其推理,或者一个人是经过深思熟虑而不是简单点击——这就是为什么第14条下的人类监督值得单独的结构处理。明确这一界限使得其余的主张更具可信性。

决策记录包含什么

四个元素,每个元素回答一个评审者实际会问的问题。

结构化推理

以图表而非散文的形式呈现支持和反对的论点,以便读者可以看到权衡的内容,而不是总结的内容。

证据的现状

在决策时刻,来源和数值被快照,因此记录反映的是当时实际可知的信息,而不是现在已知的信息。

评估的政策

检查了哪些规则,哪些规则失败,失败的规则优先显示,以便异常可见而不是被掩埋。

授权

谁批准了这个决定,包括代表授权的委托,记录下来以便机器批准永远不会被误认为是人类的批准。

这些共同将“代理决定X”转化为一个审阅者可以评估的记录,而无需从头重建那个时刻。

决策记录:常见问题

决策记录与审计日志有什么不同?

审计日志是系统中事件的时间顺序流;决策记录是关于一个决策的有限文档。日志回答“这里发生了什么”;记录回答“为什么这个决策成立”。大多数组织需要两者,它们不是替代品。

决策记录是否证明了该决策是正确的?

不,任何声称相反的工具都是在夸大其词。决策记录确立了什么被决定、基于什么以及由谁决定——这是对正确性的判断的输入,而不是判断本身。决策是否正确是审查者需要考虑的问题。

决策记录可以事后更改吗?

它可以被密封,以便可以检测到更改。这与预防有着实质性的不同保证:记录并不会变得物理上不可更改,但读者可以判断他们手中持有的是否是被密封的内容。

谁实际上会阅读这些?

在实践中:内部审计、外部评估者、回应投诉的监管机构,以及继承决策的同事。每个人都需要相同的东西——足够的背景信息,以评估他们未参与的决策。

我们需要为每个AI决策记录决策记录吗?

不。义务附加于有后果的决定——那些影响个人权利、获取、金钱或安全的决定。以相同深度记录所有内容是昂贵的,并且使重要记录更难找到。

决策记录应该采用什么格式?

一些档案性和自包含的内容,同时也携带机器可读的数据。人类可读性很重要,因为人们需要评估决策;机器可读性也很重要,因为系统需要搜索和验证这些数据。只提供一种格式会使另一方受困。

这与欧盟人工智能法案有什么关系?

第12条涉及记录保存,第14条涉及人工监督,两者最终都通过个别决策的记录来证明。决策记录是满足这些义务的一种方式——它本身并不构成合规,这取决于整个系统及其运作方式。

Related AI governance topics

AI Governance

The umbrella discipline: how organizations keep AI agents accountable, observable, and compliant — start here.

AI Observability

Seeing what your AI systems do in production — metrics, traces, and logs.

LLM Observability

Monitoring prompts, tokens, latency, and quality of large language model calls.

AI Traceability

Reconstructing the full lineage of an AI output — inputs, steps, and decisions.

LLM Traceability

End-to-end traces of multi-step LLM and prompt chains.

AI Agent Observability

Observability for autonomous, multi-step agents — tool calls, plans, and decisions.

Agentic AI Governance

Governing autonomous agents: policy, oversight, and accountable autonomy.

AI Audit Trail

Append-only, tamper-evident records of what an AI system decided and why.

AI Agent Monitoring

Real-time monitoring of agent behavior, drift, and decision quality.

Explainable AI (XAI)

Making AI decisions understandable to the people accountable for them.

AI TRiSM

Gartner's framework for AI trust, risk, and security management.

Decision Retrieval

GraphRAG for agents — retrieving past decisions as bounded, auditable packets.

AI Compliance Evidence

What auditors actually ask for, and why policy documents are not evidence.

AI Conformity Assessment

How an AI system is checked against the rules, and what that check consumes.

Decision Tracing

Capturing the structured reasoning behind every AI decision — AI Agentree's category.

AI Precedent Systems

Letting agents learn from past decisions as searchable precedent.

Decision Audit Trails

How human teams record why a decision was made — the deliberation counterpart to an AI audit trail.

Transparent AI

Making model reasoning inspectable, and what changes when several models are compared against each other.

Multi-Agent Simulation

Running many AI personas against one scenario to surface risks before a decision is taken.

查看决策记录

理解格式的最清晰方法是查看一个——在一个文档中包含推理、证据、政策轨迹和批准。

探索平台