Apa itu catatan keputusan?

Entri log menjawab "apa yang terjadi, dan kapan." Catatan keputusan menjawab "mengapa keputusan ini dapat dipertahankan." Perbedaan ini penting pada saat tantangan: sebuah log memberi tahu peninjau bahwa seorang agen menghasilkan output; itu tidak dapat memberi tahu mereka alternatif apa yang dipertimbangkan, bukti mana yang sebenarnya tersedia, atau apakah seseorang menggunakan penilaian. Alat observabilitas sangat baik dalam menjawab pertanyaan pertama dan tidak pernah dirancang untuk yang kedua — sebuah perbedaan yang dibahas secara mendalam di bawah jejak audit AI.

Empat hal, dan keempatnya harus bertahan secara independen dari sistem yang memproduksinya. Alasan — argumen untuk dan melawan, terstruktur daripada diceritakan, sehingga pembaca dapat melihat apa yang dipertimbangkan. Bukti — diambil pada saat keputusan dibuat, karena bukti yang dapat berubah secara diam-diam setelahnya tidak membuktikan apa-apa. Kebijakan — aturan mana yang dievaluasi dan mana yang gagal, kegagalan terlebih dahulu. Dan otorisasi — siapa yang menyetujuinya, dan atas nama siapa. Bersama-sama ini adalah apa yang mengubah jejak menjadi bukti kepatuhan.

Tujuan utama dari catatan keputusan adalah untuk diperiksa jauh setelah keputusan diambil. Itu mengecualikan segala sesuatu yang memerlukan akun langsung, layanan yang berjalan, atau vendor yang masih beroperasi. Sebuah catatan yang hanya dapat dibaca di dalam portal bukanlah catatan; itu adalah tampilan. Inilah sebabnya mengapa format sama pentingnya dengan konten — dokumen arsip yang membawa data yang dapat dibaca mesin sebagai lampiran tetap terbaca ketika segala sesuatu di sekitarnya telah berubah. Ini juga yang secara implisit diasumsikan oleh rezim dengan kewajiban penyimpanan selama bertahun-tahun, seperti catatan penyimpanan Pasal 12 UU AI UE.

Rekaman keputusan dapat disegel sehingga setiap perubahan di kemudian hari dapat terdeteksi, dan ditandatangani sehingga pembaca dapat memverifikasinya tanpa mempercayai penyimpanan dari mana ia berasal. Itu menetapkan integritas: ini adalah rekaman yang disegel. Itu tidak menetapkan bahwa kontennya benar saat ditulis. Tidak ada kriptografi yang dapat membuktikan bahwa seorang agen melaporkan alasannya dengan jujur, atau bahwa seorang manusia mempertimbangkan daripada hanya mengklik — itulah sebabnya pengawasan manusia di bawah Pasal 14 layak mendapatkan perlakuan strukturalnya sendiri. Menjadi tepat tentang batasan itu adalah apa yang membuat klaim lainnya dapat dipercaya.