AI 결정 추적이란 무엇인가요?
결정 추적은 각 AI 에이전트 결정 뒤에 있는 완전한 추론을 구조화된 감사 가능한 아티팩트로 포착하는 관행입니다. 발생한 일을 기록하는 실행 로그와 달리, 결정 추적은 왜 그런 일이 발생했는지를 기록합니다 — 고려된 옵션, 참조된 증거, 평가된 주장, 그리고 선택된 근거. AIAgentree는 결정 패킷을 통해 결정 추적을 구현합니다: 제안, 주장 트리, 증거 스냅샷, 선택된 근거, 그리고 결과 추적을 포함하는 봉인된 기록입니다. 결정 추적은 EU AI 법 제12-14조 준수를 가능하게 하고, 세 가지 신뢰 모드를 지원하며(인간-루프, 인간-온-루프, 완전 자율성), 선례를 인프라로서의 제도로 만들어 기관 기억을 생성합니다. 이 아키텍처는 규범적 관계(지지/반대)와 기술적 관계(언급/관련)를 구분하여 AI 추론을 쿼리 가능하고, 비교 가능하며, 인용 가능하게 만듭니다.
대부분의 조직은 로그(에이전트가 한 일)와 결정 추적(무엇이 결정되었고 왜 결정되었는지)를 혼동합니다. 이 구분은 규제, 거버넌스, 그리고 기관 기억이 모두 후자에 의존하기 때문에 중요합니다.
- •로그는 실행 이벤트를 기록합니다 — API 호출, 지연, 오류
- •결정 추적은 구조화된 추론을 포착합니다 — 선택, 증거, 근거, 결과
- •결정 패킷은 감사인이 쿼리하고 재생할 수 있는 봉인된 아티팩트입니다.
- •선례는 구조화된 결정에서 자동으로 발생합니다 — 인프라로서의 제도적 기억
규제 기관이 방금 귀하의 AI가 내린 마지막 100개의 결정을 요청했습니다.
응답할 수 있는 기간은 30일입니다. 실제로 당신은 무엇을 가지고 있습니까?
원래의 논문, 재진술됨
AI 결정은 영수증을 받아야 합니다. 로깅은 책임이 아닙니다. 사고의 연쇄는 사실이 아닙니다.
이 진술들은 여전히 사실입니다. 그러나 불완전합니다.
질문 "왜 결정을 기록해야 할까요?"에는 명백한 답이 있습니다: 준수, 책임, 디버깅. 더 어려운 질문은: "우리가 그렇게 했을 때 무슨 일이 일어날까요?"
답은 예상치 못한 것이다: 제도적 기억이 자동화된다. 나중에 추가하는 모듈로서가 아니라, 위에 구축하는 기능으로서가 아니라, 데이터 모델의 자연스러운 결과로서.
"결정"이 실제로 의미하는 것
결정은 모델 출력이 아닙니다. API 응답이 아닙니다. 함수 반환 값이 아닙니다.
결정은 다음을 포함하는 구조화된 산물입니다:
- •제안 — 결정된 사항 (대출 #1234 승인)
- •검토된 증거 — 결정 시점에 참고된 사실들
- •고려된 대안 — 평가되고 거부된 옵션
- •선택된 근거 — 어떤 주장이 결정을 이끌었는가
- •기록된 결과 — 이후에 발생한 일 (즉각적, 6개월, 1년)
이것이 AIAgentree가 결정 패킷이라고 부르는 것입니다 — 감사인이 조회하고 재생하며 인용할 수 있는 봉인된 불변 기록입니다.
로그가 말해주지 않는 것
| 실행 로그 | 결정 추적 |
|---|---|
대출_승인(신청_id=1234, 점수=0.87) | 제안: 대출 #1234 승인 장점: 소득 확인 통과 (가중치: 0.92) 장점: 3년 근무 이력 (가중치: 0.85) 단점: 신용 점수 기준 이하 (가중치: 0.78) 예외: 수석 분석가에 의해 수동 예외 승인 근거: 고용 안정성이 신용 문제보다 중요함 결과 (6개월): 0회 연체 |
| 무슨 일이 있었는지. 언제 일어났는지. 얼마나 걸렸는지. | 왜 결정되었는가. 무엇이 고려되었는가. 이후에 무슨 일이 일어났는가. |
로그는 대출이 승인되었음을 알려줍니다. 추적은 신용 점수 문제에도 불구하고 왜 승인되었는지, 누가 예외를 승인했는지, 그리고 그 결정이 잘 이루어졌는지를 알려줍니다.
두 원시인
전체 결정 추적 시스템은 두 가지 원시 요소에 기반합니다:
원시 1: 지속 가능한 추론 기록
모델이 말한 것이 아닙니다. 구조화된 주장 그래프는 주장, 관계(지지/반대), 증거 참조 및 계층을 포함합니다.
원시 2: 결과의 내구성 있는 기록
"모델이 200 OK를 반환하지 않습니다." 결과, 근거 논증, 의사결정자 및 세 가지 수평 추적이 포함된 봉인된 결정 기록.
두 가지를 모두 갖추게 되면, 선례는 더 이상 당신이 "기억하는" 것이 아닙니다. 이제 당신이 쿼리하고, 비교하고, 인용할 수 있는 것이 됩니다.
왜 규범적이 기술적보다 우월한가
컨텍스트 그래프는 설명적인 관계를 저장합니다: "관련됨," "언급됨," "소유됨." 결정 인수 그래프는 규범적인 관계를 저장합니다: "지지함," "반대함."
구별은 근본적이다:
- •설명: "이 티켓은 이 고객을 언급합니다"
- •규범적: "이 증거는 승인을 지지합니다. 왜냐하면 일관된 지불 이력을 보여주기 때문입니다."
규범적 구조는 설명 가능성, 거버넌스 및 선례를 가능하게 합니다. 기술적 구조는 검색 및 발견을 가능하게 합니다. 두 가지 모두 가치가 있습니다. 오직 하나만이 제도적 판단을 가능하게 합니다.
선례가 어떻게 발생하는가 (기계적으로)
플라이휠
에이전트는 찬반 논거 트리를 생성합니다.
인간은 승인/거부 + 선택한 논리적 주장을 합니다.
결정이 확정됨 → 사건 기록이 동결됨
다음 결정: 에이전트가 해당 사례를 검색하고 인용합니다.
선례는 새로운 사건에서 주장 노드가 된다.
조직은 "우리가 어떻게 결정하는지" 패턴의 라이브러리를 구축합니다.
패턴은 안전한 자동화(선례 기반 자율성)를 가능하게 합니다.
정상적인 사용의 부수적 결과로 기관 기억을 얻습니다. 별도의 이니셔티브로 얻는 것이 아닙니다.
저장된 것에서 검색 가능한 것으로: 그래프와 같은 결정
결정을 기록하는 것은 가치의 절반에 불과합니다. 나머지 절반은 그것들을 되찾는 것입니다 — 그리고 그곳에서 데이터 모델이 그 가치를 발휘합니다. 각 결정이 규범적 주장 그래프(주장이 지지/반대 엣지로 연결됨)로 저장되기 때문에, 단순한 아카이브가 아니라 일급 검색 기반이 됩니다.
원시 로그에 벡터 검색을 적용하면 "청크 수프"가 생성됩니다. 이는 결론을 인용하지만 반론, 승인자 및 선례는 생략된 단편들입니다. 대신 결정 그래프에서 검색하면 경계가 있는 결정 패킷을 얻을 수 있습니다: 제안, 찬반 논리, 증거 및 결과가 온전하게 포함되어 있습니다. 이것이 AI 결정을 위한 GraphRAG입니다. 선례는 단순히 기억하기를 바라는 것이 아니라 쿼리하고 인용할 수 있는 것입니다. (검색 기초에 대한 더 많은 정보: 결정 검색이란.)
신뢰의 세 가지 방식
기업들은 결정을 AI에 하룻밤 사이에 넘기지 않습니다. 그들은 단계별로 진행합니다:
인간-루프
에이전트는 지원하고, 인간이 결정을 내립니다. 에이전트는 추론을 생성하고; 인간이 최종 결정을 내립니다.
인간-루프 내에서
에이전트가 결정을 내리고, 인간이 감독합니다. 에이전트는 결정을 내리며, 인간은 이를 검토하고 무효화할 수 있습니다.
완전 자율성
에이전트가 결정하고, 인간이 주기적으로 감사합니다. 자율 운영을 정당화할 충분한 선례가 존재합니다.
모드 진행은 증거 기반입니다: 신뢰도 ≥ 95%, 유사한 선례 ≥ 5개로 일관된 결과, 패턴이 확립되고 검증됨. 이것은 "신뢰하되 검증하라"가 아닙니다. 이것은 "검증한 후 신뢰하고, 계속 검증하라."입니다.
이것이 기업 AI 스택에 의미하는 바
기업 컨텍스트 스택
- •레이어 C: 심의 — 왜 이것이 결정되었나요? 찬반 트리, 선례 인용, 증거 출처
- •레이어 B: 결정 계보 — 무엇이 결정되었나요? 결과, 신뢰도, 평가된 정책, 승인
- •레이어 A: 운영 맥락 — 누가/무엇이 관련되어 있습니까? 엔티티, 관계, 시간적 상태 (CRM, ERP)
대부분의 팀은 A를 구축합니다. 일부는 B를 구축합니다. 거의 아무도 C를 잘 구축하지 않습니다. AIAgentree는 C를 제공합니다.
연결하는 세 가지 방법 — SDK는 그 중 하나일 뿐입니다.
결정 추적은 6개월 간의 컨설팅 계약이 아니며, 우리의 SDK도 필요하지 않습니다. 연결하는 방법은 세 가지가 있습니다:
- •MCP (에이전트-네이티브) — 도구로서의 전체 생애 주기, 처음부터 끝까지: 추적 생성, 추론 기록, 결정 봉인 (
create_trace,append_events,seal_decision) 및 즉시 결정 패킷 검색 (get_packet,search_precedents) — 설치할 라이브러리 없음 - •REST API — 어떤 언어, 어떤 런타임, 제로 의존성 (SDK는 이러한 엔드포인트에 대한 얇은 래퍼입니다)
- •SDK (Python / TypeScript) — 인체공학적인 옵션으로, 에이전트의 출력에서 추론을 자동으로 추출합니다.
SDK 경로는 작성하기 가장 짧습니다 — 약 열 줄의 결정 추적:
from aiagentree import AgentreeClient
client = AgentreeClient(api_key="ask_...", base_url="https://api.aiagentree.com", tenant_id="acme")
# Trace your agent's decision point
trace = client.start_trace(
agent_id="discount-agent",
workflow_id="discount_approval",
entity_type="request",
entity_id="4521",
)
trace.add_input("discount", 0.18, source="crm")
trace.add_step("s1", title="SEV-1 incident yesterday", category="evidence", confidence=0.9)
trace.add_step("s2", title="Customer flagged as churn risk", category="evidence", confidence=0.85)
trace.add_step("s3", title="Exceeds standard 15% threshold", category="risk", confidence=0.7)
trace.seal("d1", action="approved", confidence=0.9)추적 정보는 봉인되어 있으며, 타임스탬프가 찍히고 쿼리할 수 있습니다. 다음 유사 요청이 도착하면, 그 선례를 검색하고 인용할 수 있습니다.
준수 각도
EU AI 법은 고위험 AI 시스템에 대한 특정 요구 사항을 규정하고 있습니다:
- •제12조 — 결정의 추적 가능성과 위험 식별을 가능하게 하는 자동 기록
- •제13조 — 배포자 및 사용자에게 정보의 투명성과 제공
- •제14조 — 개입 및 이해를 가능하게 하는 인간 감독 조치
결정 추적은 구조화된 추론, 증거 출처, 인간 감독 행동 및 결과 기록을 포착하여 규제 기관이 실제로 쿼리하고 이해할 수 있는 형식으로 이러한 요구 사항을 충족합니다.
2027년 12월 마감일: 부록 III에 해당하는 고위험 AI 시스템은 로깅 및 추적 가능성 요구 사항을 준수해야 합니다. 귀하의 AI 에이전트가 신용, 고용, 교육 또는 의료에 대한 결정을 내린다면, 시간이 흘러가고 있습니다.
결정 추적이 해결하지 않는 것
결정 추적은 운영 맥락 위에 위치합니다. 그것은 대체하지 않습니다:
- •CRM/ERP 시스템 — 여전히 기록 시스템이 필요합니다.
- •관측 도구 — LangSmith, W&B, Arize는 여전히 모델 건강을 모니터링합니다.
- •신원 해결 — 시스템 간의 엔터티 연결이 여전히 필요합니다.
이 도구들은 서로 다른 계층에서 서로 다른 문제를 해결합니다. AIAgentree는 그들이 모두 필요로 하지만 역사적으로 저장된 적이 없는 하나의 아티팩트를 포착합니다: 결정 자체.
시작하는 방법
고위험 의사결정 지점을 식별하세요.
어떤 에이전트 결정이 고객, 준수 또는 수익에 영향을 미칩니까? 거기서 시작하세요.
10라인 SDK 통합하기
기존 에이전트 로직을 추적 캡처로 감싸세요. 재작성할 필요 없습니다.
규제 기관 질문에 답하십시오.
한 에이전트를 선택하고 물어보세요: "규제 기관이 마지막 100개의 결정에 대해 요청한다면, 제가 대답할 수 있을까요?"
자주 묻는 질문
AI 에이전트를 위한 결정 추적이란 무엇인가요?
결정 추적은 각 AI 결정 뒤에 있는 완전한 추론을 포착합니다 — 고려된 옵션, 참조된 증거, 평가된 주장, 선택된 근거 — 이러한 내용을 구조화된 감사 가능한 아티팩트인 결정 패킷으로 기록합니다. 발생한 일을 기록하는 로그와 달리, 결정 추적은 왜 그런 일이 발생했는지를 기록합니다.
결정 추적은 로깅이나 가시성과 어떻게 다른가요?
로그는 실행 이벤트(API 호출, 대기 시간, 오류)를 기록합니다. 관찰 도구는 시스템 건강을 모니터링합니다. 의사 결정 추적은 추론의 규범적 구조를 포착합니다 — 어떤 주장이 결정을 지지하거나 반대했는지, 어떤 증거가 인용되었는지, 그리고 어떤 논리가 결과를 이끌었는지를 나타냅니다. 이는 '대출 승인'을 아는 것과 '신용 점수 문제에도 불구하고 왜 이 대출이 승인되었는지'를 아는 것의 차이입니다.
결정 패킷이란 무엇인가요?
결정 패킷은 AIAgentree의 핵심 아티팩트입니다: 제안(결정된 내용), 논증 트리(찬반 이유), 증거 스냅샷(결정 시점에 동결됨), 선택된 근거(결정을 이끈 논거), 그리고 결과 추적(그 이후에 발생한 일)을 포함하는 봉인된 불변 기록입니다. 이는 규제 기관이나 감사인이 결정을 이해하고 재현하는 데 필요한 모든 것입니다.
결정 추적이 EU AI 법 준수에 어떻게 도움이 되나요?
EU AI 법 제12-14조는 고위험 AI 시스템이 결정의 추적 가능성을 허용하는 로그를 유지하도록 요구합니다. 결정 추적은 구조화된 추론, 증거 출처, 인간 감독 행동 및 결과 기록을 캡처하여 이러한 요구 사항을 충족하며, 규제 당국이 실제로 쿼리하고 이해할 수 있는 형식으로 제공됩니다.
AI 거버넌스에서 신뢰의 세 가지 모드는 무엇인가요?
세 가지 모드는 발전을 나타냅니다: 모드 1(인간-루프 내)에서는 에이전트가 지원하지만 인간이 결정합니다; 모드 2(인간-루프 위)에서는 에이전트가 인간의 감독 하에 결정합니다; 모드 3(완전 자율성)에서는 에이전트가 주기적인 감사와 함께 결정합니다. 모드 간의 발전은 신뢰 점수, 선례 일관성 및 결과 추적에 의해 주도되는 증거 기반입니다.
선례는 결정 추적에서 어떻게 작용하나요?
결정이 구조화된 산물로 기록될 때, 선례가 자동으로 발생합니다. 유사한 과거 결정은 범주, 엔티티 참조, 주장 태그 또는 정책 제약에 따라 검색할 수 있습니다. 이러한 선례는 새로운 결정에서 일급 주장 노드가 되며, 다른 이유와 마찬가지로 인용되거나 도전받거나 무시될 수 있습니다. 제도적 기억은 각 결정과 함께 축적됩니다.
AIAgentree를 통합하는 데 얼마나 걸리나요?
세 가지 방법으로 연결할 수 있습니다: 에이전트 네이티브 도구로 MCP를 통해 (SDK나 라이브리 없이), REST API (모든 언어, 제로 의존성), 또는 Python/TypeScript SDK (약 10줄, 자동 추론 추출 포함). 전체 라이프사이클 — 추적 생성, 추론 기록, 결정 봉인, 그리고 즉시 결정 패킷을 다시 가져오는 것 — 은 MCP만으로도 완전하게 작동하며, 라이브러리 없이도 가능합니다. 6개월의 컨설팅 계약은 필요하지 않으며, 기존 에이전트 스택에 추가하는 인프라 계층입니다.
관련 주제
관련 기사
AI 결정을 위한 GraphRAG: 왜 그래프가 에이전트 메모리에 벡터 검색보다 우수한가
벡터 RAG가 로그를 통해 반환하는 것은 "청크 수프"입니다 — 반대 주장, 승인 및 결정을 방어 가능하게 만든 선례가 누락된 단절된 텍스트 조각들입니다. 결정을 규범적 주장 그래프로 저장하면, 검색 시 대신 한정된 감사 가능한 결정 패킷이 반환됩니다.
EU AI 법 제6조: 고위험 분류가 귀하의 AI 에이전트에 의미하는 바
EU AI 법 제6조는 귀하의 AI 시스템이 "고위험"인지 여부를 결정하며, 필수 감사 추적 요구 사항을 촉발합니다. 귀하의 에이전트가 신용, 고용, 교육 또는 의료에 대한 결정을 내린다면, 2027년 12월 이전에 부록 III 분류를 이해해야 합니다.
결정 감사 추적이란 무엇인가요?
AI 영수증에 대한 인간 결정의 대응물: 누가 무엇을 결정했는지, 그리고 그 이유에 대한 완전하고 검토 가능한 기록.
AIAgentree 팀
AI 거버넌스
AIAgentree 팀은 AI 에이전트를 위한 결정 추적 인프라를 구축하고 있습니다. 우리의 사명은 AI 추론을 가시화하고, 감사 가능하며, 개선할 수 있도록 만드는 것입니다.