결정 기록이란 무엇인가요?
로그는 시스템이 무엇을 했는지를 알려줍니다. 결정 기록은 누군가에게 결정이 유지되는 이유를 설명합니다. 이는 결정이 의문을 제기할 때, 시스템에 접근할 수 없는 사람에게 전달하는 유물입니다 — 몇 달 후에.
결정 기록은 하나의 AI 결정에 대한 내구성이 있으며 독립적인 문서입니다. 이 문서는 구조화된 논거로서의 추론, 결정 시점에 존재했던 증거, 평가된 정책, 그리고 이를 승인한 사람의 신원을 담고 있습니다. 이는 결정이 도전받는 순간을 위해 설계되었습니다: 로그인 없이 읽을 수 있고, 이를 생성한 공급업체를 신뢰하지 않고도 검증할 수 있으며, 그 결론에 도달한 과정을 알지 못하는 독자도 따라갈 수 있을 만큼 충분히 완전합니다.
로그는 기록이 아닙니다.
로그 항목은 "무엇이 발생했으며, 언제 발생했는가"에 대한 답변을 제공합니다. 결정 기록은 "왜 이 결정이 방어 가능한가"에 대한 답변을 제공합니다. 이 차이는 도전의 순간에 중요합니다: 로그는 검토자에게 에이전트가 출력을 생성했음을 알려주지만, 어떤 대안이 고려되었는지, 실제로 어떤 증거가 있었는지, 또는 사람이 판단을 행사했는지에 대해서는 알려줄 수 없습니다. 관찰 가능성 도구는 첫 번째 질문에 대해 훌륭하지만 두 번째 질문을 위해 설계된 적은 없습니다 — 이 구분은 AI 감사 추적에서 깊이 다루어집니다.
결정 기록에 포함되어야 할 내용
네 가지 요소가 있으며, 이 네 가지 모두는 그것들을 생산한 시스템과 독립적으로 생존해야 합니다. 추론 — 찬반 논거가 구조화되어 서술되지 않고, 독자가 무엇이 고려되었는지 볼 수 있도록 합니다. 증거 — 결정 시점에 존재했던 모습으로 스냅샷이 찍혀야 하며, 이후에 조용히 변할 수 있는 증거는 아무것도 증명하지 못합니다. 정책 — 어떤 규칙이 평가되었고 어떤 규칙이 실패했는지, 실패한 것부터 먼저. 그리고 승인 — 누가 이를 승인했으며, 누구를 대신하여 승인했는지. 이 모든 것이 함께 추적을 준수 증거로 바꿉니다.
왜 10년 후에도 읽을 수 있어야 하는가
결정 기록의 전체 목적은 결정이 내려진 후 오랜 시간이 지나도 검토될 수 있도록 하는 것입니다. 이는 실시간 계정, 운영 중인 서비스 또는 여전히 사업을 운영 중인 공급업체를 요구하는 모든 것을 배제합니다. 포털 내에서만 읽을 수 있는 기록은 기록이 아니라 뷰입니다. 이것이 형식이 내용만큼 중요한 이유입니다. 기계가 읽을 수 있는 데이터를 첨부파일로 포함한 아카이브 문서는 주변의 모든 것이 변해도 여전히 읽을 수 있습니다. 또한, EU AI Act 제12조 기록 유지와 같은 다년간 보존 의무가 있는 체제가 암묵적으로 가정하는 바입니다.
변조 증거 및 그것이 증명하지 않는 것
결정 기록은 나중에 변경이 감지될 수 있도록 봉인될 수 있으며, 독자가 출처를 신뢰하지 않고도 이를 검증할 수 있도록 서명될 수 있습니다. 이는 무결성을 확립합니다: 이것이 봉인된 기록입니다. 이는 작성 시 내용이 진실이었다는 것을 확립하지 않습니다. 어떤 암호화도 에이전트가 자신의 추론을 정직하게 보고했거나, 인간이 클릭하는 대신 심사숙고했음을 증명할 수 없습니다 — 이것이 제14조에 따른 인간의 감독가 별도의 구조적 처리를 받아야 하는 이유입니다. 그 경계에 대해 정확하게 하는 것이 나머지 주장을 신뢰할 수 있게 만듭니다.
결정 기록에 포함된 내용
네 가지 요소, 각 요소는 리뷰어가 실제로 물어볼 질문에 답합니다.
구조적 추론
주장에 대한 찬반을 글이 아닌 그래프로 제시하여 독자가 요약된 내용이 아닌 어떤 것들이 고려되었는지를 볼 수 있도록 합니다.
증거가 있는 상태
결정 시점에 스냅샷된 소스와 값이므로, 기록은 당시 실제로 알 수 있었던 것을 반영하며, 현재 알려진 것을 반영하지 않습니다.
평가된 정책
어떤 규칙이 확인되었고 어떤 규칙이 실패했는지, 실패한 규칙이 먼저 표시되어 예외가 숨겨지지 않고 보이도록 합니다.
권한 부여
누가 결정을 승인했으며, 대리 승인도 포함되어 있어 기계 승인이 결코 인간 승으로 오해되지 않도록 기록되었습니다.
함께 이들은 "대리인이 X를 결정했다"를 검토자가 처음부터 순간을 재구성하지 않고 평가할 수 있는 기록으로 바꿉니다.
결정 기록: 일반적인 질문
결정 기록은 감사 로그와 어떻게 다른가요?
감사 로그는 시스템 전반에 걸친 사건의 연대기적 흐름이며, 결정 기록은 하나의 결정에 대한 제한된 문서입니다. 로그는 "여기서 무슨 일이 발생했는가"에 대한 답을 제공하고, 기록은 "왜 이 결정이 유지되는가"에 대한 답을 제공합니다. 대부분의 조직은 둘 다 필요하며, 이들은 대체물이 아닙니다.
결정 기록이 결정이 올바른 것을 증명하나요?
아니요, 그렇지 않다고 주장하는 도구는 과장하고 있습니다. 결정 기록은 무엇이 결정되었는지, 어떤 근거로, 누가 결정했는지를 명시합니다 — 올바름에 대한 판단의 입력이지, 판단 자체는 아닙니다. 결정이 옳았는지는 검토자의 질문입니다.
사후에 결정 기록을 변경할 수 있나요?
변경이 감지될 수 있도록 봉인할 수 있습니다. 이는 예방과는 의미 있게 다른 보증입니다: 기록이 물리적으로 불변이 되지는 않지만, 독자는 자신이 가지고 있는 것이 봉인된 것인지 여부를 알 수 있습니다.
이걸 실제로 읽는 사람이 누구죠?
실제로: 내부 감사, 외부 평가자, 불만에 대응하는 규제 기관, 그리고 결정을 물려받는 동료들. 이들은 모두 동일한 것이 필요하다 — 그들이 참석하지 않은 결정을 평가할 수 있는 충분한 맥락.
모든 AI 결정에 대해 결정 기록이 필요합니까?
아니요. 의무는 결과가 있는 결정에 부여됩니다 — 즉, 개인의 권리, 접근, 돈 또는 안전에 영향을 미치는 결정입니다. 모든 것을 같은 깊이로 기록하는 것은 비용이 많이 들고 중요한 기록을 찾기 어렵게 만듭니다.
결정 기록은 어떤 형식이어야 하나요?
아카이브적이고 독립적인 무언가로, 기계가 읽을 수 있는 데이터도 포함되어 있습니다. 인간의 가독성은 중요합니다. 왜냐하면 사람들이 결정을 평가하기 때문입니다. 기계의 가독성도 중요합니다. 시스템이 이를 검색하고 검증해야 하기 때문입니다. 하나만 제공하는 형식은 다른 청중을 고립시킵니다.
이것이 EU AI 법과 어떻게 관련이 있나요?
제12조는 기록 유지에 관한 것이고 제14조는 인간의 감독에 관한 것입니다. 두 조항 모두 궁극적으로 개별 결정의 기록에 의해 입증됩니다. 결정 기록은 이러한 의무를 충족하는 한 가지 방법입니다. 그러나 그것 자체가 준수는 아니며, 준수는 전체 시스템과 운영 방식에 따라 달라집니다.
Related AI governance topics
AI Governance
The umbrella discipline: how organizations keep AI agents accountable, observable, and compliant — start here.
AI Observability
Seeing what your AI systems do in production — metrics, traces, and logs.
LLM Observability
Monitoring prompts, tokens, latency, and quality of large language model calls.
AI Traceability
Reconstructing the full lineage of an AI output — inputs, steps, and decisions.
LLM Traceability
End-to-end traces of multi-step LLM and prompt chains.
AI Agent Observability
Observability for autonomous, multi-step agents — tool calls, plans, and decisions.
Agentic AI Governance
Governing autonomous agents: policy, oversight, and accountable autonomy.
AI Audit Trail
Append-only, tamper-evident records of what an AI system decided and why.
AI Agent Monitoring
Real-time monitoring of agent behavior, drift, and decision quality.
Explainable AI (XAI)
Making AI decisions understandable to the people accountable for them.
AI TRiSM
Gartner's framework for AI trust, risk, and security management.
Decision Retrieval
GraphRAG for agents — retrieving past decisions as bounded, auditable packets.
AI Compliance Evidence
What auditors actually ask for, and why policy documents are not evidence.
AI Conformity Assessment
How an AI system is checked against the rules, and what that check consumes.
Decision Tracing
Capturing the structured reasoning behind every AI decision — AI Agentree's category.
AI Precedent Systems
Letting agents learn from past decisions as searchable precedent.
Decision Audit Trails
How human teams record why a decision was made — the deliberation counterpart to an AI audit trail.
Transparent AI
Making model reasoning inspectable, and what changes when several models are compared against each other.
Multi-Agent Simulation
Running many AI personas against one scenario to surface risks before a decision is taken.