Apa itu Pelacakan Keputusan AI?
Pelacakan keputusan adalah praktik menangkap penalaran lengkap di balik setiap keputusan agen AI sebagai artefak terstruktur yang dapat diaudit. Berbeda dengan log eksekusi yang mencatat apa yang terjadi, jejak keputusan mencatat mengapa itu terjadi — opsi yang dipertimbangkan, bukti yang dikonsultasikan, argumen yang dipertimbangkan, dan rasional yang dipilih. AIAgentree menerapkan pelacakan keputusan melalui Paket Keputusan: catatan tersegel yang berisi proposisi, pohon argumen, snapshot bukti, rasional yang dipilih, dan pelacakan hasil. Pelacakan keputusan memungkinkan kepatuhan dengan Pasal 12-14 Undang-Undang AI UE, mendukung Tiga Mode Kepercayaan (Manusia dalam Proses, Manusia di Proses, Otonomi Penuh), dan menciptakan memori institusional melalui preseden sebagai infrastruktur. Arsitektur membedakan hubungan normatif (mendukung/menentang) dari hubungan deskriptif (menyebutkan/terkait), menjadikan penalaran AI dapat dicari, dibandingkan, dan dikutip.
Sebagian besar organisasi membingungkan logging (apa yang dilakukan agen) dengan pelacakan keputusan (apa yang diputuskan dan mengapa). Perbedaan ini penting karena regulasi, tata kelola, dan memori institusional semua bergantung pada yang terakhir.
- •Logs mencatat peristiwa eksekusi — panggilan API, latensi, kesalahan
- •Jejak keputusan menangkap penalaran terstruktur — opsi, bukti, alasan, hasil
- •Paket Keputusan adalah artefak yang disegel yang dapat ditanyakan dan diputar ulang oleh auditor.
- •Preseden muncul secara otomatis dari keputusan terstruktur — memori institusional sebagai infrastruktur
Seorang regulator baru saja meminta 100 keputusan terakhir yang dibuat oleh AI Anda.
Anda memiliki 30 hari untuk merespons. Apa yang sebenarnya Anda miliki?
Tesis Asli, Dinyatakan Kembali
Keputusan AI memerlukan bukti. Pencatatan bukanlah akuntabilitas. Rantai pemikiran bukanlah kebenaran dasar.
Pernyataan-pernyataan ini tetap benar. Namun, mereka tidak lengkap.
Pertanyaan "Mengapa kita harus menangkap keputusan?" memiliki jawaban yang jelas: kepatuhan, akuntabilitas, pemecahan masalah. Pertanyaan yang lebih sulit adalah: "Apa yang terjadi ketika kita melakukannya?"
Jawabannya tidak terduga: memori institusional menjadi otomatis. Bukan sebagai fitur yang Anda bangun di atas. Bukan sebagai modul yang Anda tambahkan kemudian. Sebagai konsekuensi alami dari model data.
Apa Arti Sebenarnya dari "Keputusan"
Sebuah keputusan bukanlah output model. Itu bukan respons API. Itu bukan nilai kembalian fungsi.
Sebuah keputusan adalah artefak terstruktur yang berisi:
- •Proposisi — apa yang sedang diputuskan (menyetujui pinjaman #1234)
- •Bukti yang dipertimbangkan — fakta yang dikonsultasikan, dibekukan pada saat pengambilan keputusan
- •Alternatif yang dipertimbangkan — opsi yang dievaluasi dan ditolak
- •Rasional yang dipilih — argumen mana yang memengaruhi keputusan
- •Hasil yang tercatat — apa yang terjadi setelahnya (segera, 6 bulan, 1 tahun)
Ini adalah apa yang disebut AIAgentree sebagai Decision Packet — catatan yang tersegel dan tidak dapat diubah yang dapat ditanyakan, diputar ulang, dan dikutip oleh auditor.
Apa yang Tidak Dikatakan oleh Log
| Log Eksekusi | Jejak Keputusan |
|---|---|
approve_loan(application_id=1234, score=0.87) | Usulan: Setujui pinjaman #1234 PRO: Verifikasi pendapatan berhasil (berat: 0.92) PRO: Riwayat pekerjaan 3 tahun (berat: 0.85) CON: Skor kredit di bawah ambang batas (berat: 0.78) OVERRIDE: Pengecualian manual disetujui oleh Analis Sr. Alasan: Stabilitas pekerjaan lebih penting daripada kekhawatiran kredit Hasil (6 bulan): 0 pembayaran yang terlewat |
| Apa yang terjadi. Kapan itu terjadi. Berapa lama itu berlangsung. | Mengapa itu diputuskan. Apa yang dipertimbangkan. Apa yang terjadi setelahnya. |
Log memberi tahu Anda bahwa pinjaman disetujui. Jejak memberi tahu Anda mengapa itu disetujui meskipun ada kekhawatiran tentang skor kredit, siapa yang mengesahkan pengecualian tersebut, dan apakah keputusan itu berakhir dengan baik.
Dua Primitif
Seluruh sistem pelacakan keputusan bergantung pada dua primitif:
Primitif 1: Catatan Tahan Lama tentang Penalaran
Bukan "apa yang dikatakan model." Sebuah graf argumen terstruktur dengan klaim, hubungan (mendukung/menentang), referensi bukti, dan hierarki.
Primitif 2: Catatan Hasil yang Tahan Lama
Bukan "model mengembalikan 200 OK." Sebuah rekaman keputusan yang disegel dengan hasil, argumen rasional, pengambil keputusan, dan pelacakan tiga cakrawala.
Setelah Anda memiliki keduanya, preseden tidak lagi menjadi sesuatu yang Anda "ingat." Itu menjadi sesuatu yang dapat Anda tanyakan, bandingkan, dan kutip.
Mengapa Normatif Mengalahkan Deskriptif
Graf konteks menyimpan hubungan deskriptif: "terkait dengan," "menyebut," "dimiliki oleh." Graf argumen keputusan menyimpan hubungan normatif: "mendukung," "menentang."
Perbedaannya adalah mendasar:
- •Deskriptif: "Tiket ini menyebutkan pelanggan ini"
- •Normatif: "Bukti ini mendukung persetujuan karena menunjukkan riwayat pembayaran yang konsisten"
Struktur normatif memungkinkan penjelasan, tata kelola, dan preseden. Struktur deskriptif memungkinkan pencarian dan penemuan. Keduanya berharga. Hanya satu yang memungkinkan penilaian institusional.
Bagaimana Preseden Muncul (Secara Mekanis)
Roda Penerbangan
Agen menghasilkan pohon argumen pro/con
Manusia menyetujui/menolak + memilih argumen rasional
Keputusan telah ditetapkan → catatan kasus dibekukan
Keputusan selanjutnya: agen mencari dan mengutip kasus tersebut
Preseden menjadi node argumen dalam kasus baru.
Organisasi membangun perpustakaan pola "bagaimana kami memutuskan"
Pola memungkinkan otomatisasi yang aman (otonomi yang didorong oleh preseden)
Anda mendapatkan memori institusional sebagai produk sampingan dari penggunaan normal, bukan sebagai inisiatif terpisah.
Dari Tersimpan ke Dapat Diambil: Keputusan sebagai Grafik
Menangkap keputusan hanya setengah dari nilai. Setengah lainnya adalah mengembalikannya — dan di situlah model data mendapatkan nilainya. Karena setiap keputusan disimpan sebagai grafik argumen normatif (klaim yang terhubung oleh tepi mendukung/menentang), itu menjadi substrat pengambilan yang utama, bukan hanya arsip.
Arahkan pencarian vektor pada log mentah dan Anda akan mendapatkan "sup potongan" — cuplikan yang terputus yang mengutip kesimpulan tetapi mengabaikan argumen tandingan, pihak yang menyetujui, dan preseden. Ambil dari grafik keputusan sebagai gantinya dan Anda akan mendapatkan Paket Keputusan yang terikat: proposisi, alasan untuk dan melawan, bukti, dan hasil, utuh. Ini adalah GraphRAG untuk keputusan AI — alasan preseden adalah sesuatu yang dapat Anda kueri dan kutip, bukan hanya sesuatu yang Anda harap ingat. (Lebih lanjut tentang substrat pengambilan: apa itu pengambilan keputusan.)
Tiga Mode Kepercayaan
Perusahaan tidak menyerahkan keputusan kepada AI dalam semalam. Mereka berkembang melalui mode:
Manusia dalam Lingkaran
Agen membantu, manusia memutuskan. Agen menghasilkan penalaran; manusia membuat keputusan akhir.
Manusia dalam Lingkaran
Agen memutuskan, manusia mengawasi. Agen membuat keputusan; manusia dapat meninjau dan membatalkan.
Otonomi Penuh
Agen memutuskan, manusia melakukan audit secara berkala. Cukup banyak preseden yang ada untuk membenarkan operasi otonom.
Mode progresi adalah berbasis bukti: kepercayaan ≥ 95%, preseden serupa ≥ 5 dengan hasil yang konsisten, pola yang telah ditetapkan dan divalidasi. Ini bukan "percaya tetapi verifikasi." Ini adalah "verifikasi, kemudian percaya, kemudian terus memverifikasi."
Apa Artinya Ini Untuk Tumpukan AI Perusahaan
STACK KONTEXT PERUSAHAAN
- •LAPISAN C: PERBINCANGAN — MENGAPA ini diputuskan? Pohon pro/con, kutipan preseden, asal usul bukti
- •LAPISAN B: GARIS KEPUTUSAN — APA yang diputuskan? Hasil, kepercayaan, kebijakan yang dievaluasi, persetujuan
- •LAPISAN A: KONTEKS OPERASIONAL — SIAPA/APA yang terlibat? Entitas, hubungan, keadaan temporal (CRM, ERP)
Sebagian besar tim membangun A. Beberapa membangun B. Hampir tidak ada yang membangun C dengan baik. AIAgentree menyediakan C.
Tiga Cara untuk Terhubung — SDK Hanya Salah Satunya
Pelacakan keputusan bukanlah keterlibatan konsultasi selama 6 bulan — dan tidak memerlukan SDK kami. Ada tiga cara untuk terhubung:
- •MCP (agen-native) — siklus penuh sebagai alat, dari awal hingga akhir: buat jejak, catat alasan, segel keputusan (
create_trace,append_events,seal_decision) dan segera ambil Paket Keputusan (get_packet,search_precedents) — tidak ada pustaka yang perlu diinstal - •REST API — bahasa apa pun, runtime apa pun, tanpa ketergantungan (SDK adalah pembungkus tipis di atas endpoint ini)
- •SDK (Python / TypeScript) — opsi ergonomis, dengan ekstraksi otomatis dari penalaran berdasarkan output agen Anda
Jalur SDK adalah yang terpendek untuk ditulis — jejak keputusan dalam sekitar sepuluh baris:
from aiagentree import AgentreeClient
client = AgentreeClient(api_key="ask_...", base_url="https://api.aiagentree.com", tenant_id="acme")
# Trace your agent's decision point
trace = client.start_trace(
agent_id="discount-agent",
workflow_id="discount_approval",
entity_type="request",
entity_id="4521",
)
trace.add_input("discount", 0.18, source="crm")
trace.add_step("s1", title="SEV-1 incident yesterday", category="evidence", confidence=0.9)
trace.add_step("s2", title="Customer flagged as churn risk", category="evidence", confidence=0.85)
trace.add_step("s3", title="Exceeds standard 15% threshold", category="risk", confidence=0.7)
trace.seal("d1", action="approved", confidence=0.9)Jejaknya disegel, diberi cap waktu, dan dapat dicari. Ketika permintaan serupa berikutnya tiba, preseden itu dapat diambil dan dijadikan rujukan.
Sudut Kepatuhan
Undang-Undang AI UE menetapkan persyaratan khusus untuk sistem AI berisiko tinggi:
- •Pasal 12 — Pencatatan otomatis yang memungkinkan pelacakan keputusan dan identifikasi risiko
- •Pasal 13 — Transparansi dan penyediaan informasi kepada penyebar dan pengguna
- •Pasal 14 — Langkah-langkah pengawasan manusia yang memungkinkan intervensi dan pemahaman
Jejak keputusan memenuhi persyaratan ini dengan menangkap penalaran terstruktur, asal usul bukti, tindakan pengawasan manusia, dan catatan hasil — dalam format yang dapat ditanyakan dan dipahami oleh regulator.
Batas waktu Desember 2027: Sistem AI berisiko tinggi di bawah Lampiran III harus mematuhi persyaratan pencatatan dan jejak. Jika agen AI Anda membuat keputusan tentang kredit, pekerjaan, pendidikan, atau perawatan kesehatan, waktu terus berjalan.
Apa yang Tidak Diselesaikan oleh Pelacakan Keputusan
Pelacakan keputusan berada di atas konteks operasional. Ini tidak menggantikan:
- •Sistem CRM/ERP — Anda masih memerlukan sistem catatan Anda
- •Alat observabilitas — LangSmith, W&B, Arize masih memantau kesehatan model
- •Resolusi identitas — Anda masih memerlukan penghubungan entitas di seluruh sistem
Alat-alat ini menyelesaikan masalah yang berbeda di lapisan yang berbeda. AIAgentree menangkap satu artefak yang mereka semua butuhkan tetapi tidak ada yang disimpan secara historis: keputusan itu sendiri.
Cara Memulai
Identifikasi titik keputusan berisiko tinggi Anda
Keputusan agen mana yang mempengaruhi pelanggan, kepatuhan, atau pendapatan? Mulailah dari situ.
Integrasikan SDK 10 baris
Bungkus logika agen Anda yang ada dengan penangkapan jejak. Tidak perlu menulis ulang.
Jawab pertanyaan regulator
Pilih satu agen dan tanyakan: "Jika seorang regulator meminta 100 keputusan terakhir, bisakah saya menjawab?"
Pertanyaan yang Sering Diajukan
Apa itu pelacakan keputusan untuk agen AI?
Pelacakan keputusan menangkap seluruh alasan di balik setiap keputusan AI — opsi yang dipertimbangkan, bukti yang dikonsultasikan, argumen yang ditimbang, dan rasional yang dipilih — sebagai artefak terstruktur yang dapat diaudit yang disebut Paket Keputusan. Berbeda dengan log yang mencatat apa yang terjadi, jejak keputusan mencatat mengapa itu terjadi.
Bagaimana pelacakan keputusan berbeda dari pencatatan atau observabilitas?
Log mencatat peristiwa eksekusi (panggilan API, latensi, kesalahan). Alat observabilitas memantau kesehatan sistem. Pelacakan keputusan menangkap struktur normatif dari penalaran — argumen mana yang mendukung atau menentang suatu keputusan, bukti apa yang dikutip, dan rasional mana yang membawa hasil. Ini adalah perbedaan antara mengetahui 'pinjaman disetujui' dan mengetahui 'mengapa pinjaman ini disetujui meskipun ada kekhawatiran tentang skor kredit.'
Apa itu Paket Keputusan?
Paket Keputusan adalah artefak inti AIAgentree: catatan yang tersegel dan tidak dapat diubah yang berisi proposisi (apa yang diputuskan), pohon argumen (alasan pro/con), cuplikan bukti (dibekukan pada saat keputusan), rasional yang dipilih (argumen mana yang membawa keputusan), dan pelacakan hasil (apa yang terjadi setelahnya). Ini adalah semua yang dibutuhkan oleh regulator atau auditor untuk memahami dan memutar ulang sebuah keputusan.
Bagaimana pelacakan keputusan membantu dalam kepatuhan terhadap Undang-Undang AI Uni Eropa?
Artikel 12-14 dari Undang-Undang AI UE mengharuskan sistem AI berisiko tinggi untuk mempertahankan catatan yang memungkinkan penelusuran keputusan. Jejak keputusan memenuhi persyaratan ini dengan menangkap penalaran terstruktur, asal usul bukti, tindakan pengawasan manusia, dan catatan hasil — dalam format yang dapat ditanyakan dan dipahami oleh regulator.
Apa saja Tiga Mode Kepercayaan dalam tata kelola AI?
Tiga Mode mewakili sebuah kemajuan: Mode 1 (Manusia dalam Proses) di mana agen membantu tetapi manusia yang memutuskan; Mode 2 (Manusia di Proses) di mana agen memutuskan dengan pengawasan manusia; Mode 3 (Otonomi Penuh) di mana agen memutuskan dengan audit berkala. Kemajuan antara mode didasarkan pada bukti, didorong oleh skor kepercayaan, konsistensi preseden, dan pelacakan hasil.
Bagaimana preseden bekerja dalam penelusuran keputusan?
Ketika keputusan dicatat sebagai artefak terstruktur, preseden muncul secara otomatis. Keputusan masa lalu yang serupa dapat diambil berdasarkan kategori, referensi entitas, tag argumen, atau batasan kebijakan. Preseden ini menjadi node argumen kelas satu dalam keputusan baru — mereka dapat dikutip, ditantang, atau dibatalkan seperti alasan lainnya. Memori institusional bertambah dengan setiap keputusan.
Berapa lama waktu yang dibutuhkan untuk mengintegrasikan AIAgentree?
Anda dapat terhubung dengan tiga cara: melalui MCP sebagai alat asli agen (tanpa SDK, tanpa pustaka), REST API (bahasa apa pun, tanpa ketergantungan), atau SDK Python/TypeScript (sekitar sepuluh baris, dengan ekstraksi otomatis dari penalaran). Seluruh siklus hidup — membuat jejak, merekam penalaran, menyegel keputusan, dan segera menarik Paket Keputusan kembali — berfungsi hanya melalui MCP, dari awal hingga akhir, tanpa pustaka sama sekali. Tidak ada keterlibatan konsultasi selama 6 bulan; ini adalah lapisan infrastruktur yang Anda tambahkan ke tumpukan agen yang sudah ada.
Topik Terkait
Artikel Terkait
GraphRAG untuk Keputusan AI: Mengapa Grafik Mengalahkan Pencarian Vektor untuk Memori Agen
Vektor RAG atas log mengembalikan "sup potongan" — fragmen teks yang terputus yang kehilangan kontraargumen, persetujuan, dan preseden yang membuat keputusan dapat dipertahankan. Ketika keputusan disimpan sebagai grafik argumen normatif, pengambilan kembali mengembalikan Paket Keputusan yang terikat dan dapat diaudit.
EU AI Act Pasal 6: Apa Arti Klasifikasi Risiko Tinggi untuk Agen AI Anda
Pasal 6 dari Undang-Undang AI UE menentukan apakah sistem AI Anda adalah "berisiko tinggi" — dan memicu persyaratan jejak audit yang wajib. Jika agen Anda membuat keputusan tentang kredit, pekerjaan, pendidikan, atau perawatan kesehatan, Anda perlu memahami klasifikasi Lampiran III sebelum Desember 2027.
Apa itu Jejak Audit Keputusan?
K counterpart keputusan manusia untuk tanda terima AI: catatan lengkap yang dapat ditinjau tentang siapa yang memutuskan apa, dan mengapa.
Tim AIAgentree
Tata Kelola AI
Tim AIAgentree sedang membangun infrastruktur pelacakan keputusan untuk agen AI. Misi kami adalah membuat penalaran AI terlihat, dapat diaudit, dan dapat ditingkatkan.
Siap untuk melacak keputusan AI Anda?
Mulai menangkap jejak keputusan hari ini. Tingkat gratis tersedia — tidak perlu kartu kredit.
Mulai Uji Coba Gratis