Qu'est-ce qu'un enregistrement de décision ?
Les journaux vous indiquent ce que votre système a fait. Un enregistrement de décision explique à quelqu'un d'autre pourquoi la décision est maintenue. C'est l'artefact que vous remettez lorsque la décision est remise en question — des mois plus tard, par une personne n'ayant pas accès à vos systèmes.
Un enregistrement de décision est le document durable et autonome d'une décision d'IA. Il contient le raisonnement sous forme d'arguments structurés, les preuves telles qu'elles existaient au moment de la décision, les politiques qui ont été évaluées, et l'identité de la personne qui l'a approuvée. Il est conçu pour le moment où une décision est contestée : lisible sans connexion, vérifiable sans avoir confiance dans le fournisseur qui l'a produit, et suffisamment complet pour qu'un lecteur qui n'était pas présent puisse comprendre comment la conclusion a été atteinte.
Un journal n'est pas un enregistrement.
Une entrée de journal répond à la question "que s'est-il passé, et quand." Un enregistrement de décision répond à la question "pourquoi cette décision est-elle défendable." La différence est importante au moment du défi : un journal indique à un examinateur qu'un agent a produit un résultat ; il ne peut pas leur dire quelles alternatives ont été pesées, quelles preuves étaient réellement disponibles, ou si une personne a exercé son jugement. Les outils d'observabilité excellent à la première question et n'ont jamais été conçus pour la seconde — une distinction abordée en profondeur dans les pistes de vérification de l'IA.
Ce qui appartient à un registre de décision
Quatre choses, et toutes quatre doivent survivre indépendamment du système qui les a produites. Le raisonnement — les arguments pour et contre, structurés plutôt que narrés, afin qu'un lecteur puisse voir ce qui a été pesé. La preuve — capturée telle qu'elle existait au moment de la décision, car une preuve qui peut changer silencieusement par la suite ne prouve rien. La politique — quelles règles ont été évaluées et lesquelles ont échoué, les échecs en premier. Et l'autorisation — qui l'a approuvée, et au nom de qui. Ensemble, ce sont ces éléments qui transforment une trace en preuve de conformité.
Pourquoi cela doit-il être lisible dans dix ans
Le but d'un enregistrement de décision est d'être examiné longtemps après la décision. Cela exclut tout ce qui nécessite un compte actif, un service en cours ou un fournisseur encore en activité. Un enregistrement qui ne peut être lu que dans un portail n'est pas un enregistrement ; c'est une vue. C'est pourquoi le format est aussi important que le contenu : un document d'archives qui porte ses propres données lisibles par machine en tant que pièce jointe reste lisible lorsque tout ce qui l'entoure a changé. C'est également ce que les régimes avec des obligations de conservation pluriannuelles, tels que l'article 12 de la loi sur l'IA de l'UE, supposent implicitement.
Preuve de falsification, et ce qu'elle ne prouve pas
Un enregistrement de décision peut être scellé de manière à ce que toute modification ultérieure soit détectable, et signé afin qu'un lecteur puisse le vérifier sans avoir à faire confiance au stockage d'où il provient. Cela établit l'intégrité : c'est l'enregistrement tel qu'il a été scellé. Cela ne prouve pas que le contenu était vrai au moment de sa rédaction. Aucune cryptographie ne peut prouver qu'un agent a rapporté son raisonnement honnêtement, ou qu'un humain a délibéré plutôt que cliqué — c'est pourquoi la supervision humaine en vertu de l'article 14 mérite un traitement structurel à part. Être précis sur cette frontière est ce qui rend le reste de l'affirmation crédible.
Ce que contient un dossier de décision
Quatre éléments, chacun répondant à une question qu'un critique posera réellement.
Raisonnement structuré
Les arguments pour et contre, sous forme de graphique plutôt que de prose, afin qu'un lecteur puisse voir ce qui a été pesé plutôt que ce qui a été résumé.
Preuves telles qu'elles étaient
Les sources et les valeurs sont enregistrées au moment de la décision, de sorte que le dossier reflète ce qui était réellement connaissable à ce moment-là, et non ce qui est connu maintenant.
Politiques évaluées
Quelles règles ont été vérifiées et lesquelles ont échoué, les échecs étant affichés en premier, afin que les exceptions soient visibles plutôt que cachées.
Autorisation
Qui a approuvé la décision, y compris la délégation au nom de, enregistrée de sorte qu'une approbation automatique ne puisse jamais être confondue avec une approbation humaine.
Ensemble, cela transforme "l'agent a décidé X" en un enregistrement qu'un évaluateur peut évaluer sans reconstruire le moment depuis le début.
Registres de décision : questions courantes
En quoi un enregistrement de décision est-il différent d'un journal d'audit ?
Un journal d'audit est un flux chronologique d'événements à travers un système ; un dossier de décision est un document délimité concernant une décision. Le journal répond à la question "que s'est-il passé ici" ; le dossier répond à la question "pourquoi cette décision est-elle maintenue." La plupart des organisations ont besoin des deux, et ils ne sont pas des substituts.
Un enregistrement de décision prouve-t-il que la décision était correcte ?
Non, et tout outil prétendant le contraire exagère. Un enregistrement de décision établit ce qui a été décidé, sur quelle base, et par qui — les éléments d'un jugement sur la justesse, et non le jugement lui-même. La question de savoir si la décision était correcte est une question pour le réviseur.
Un procès-verbal de décision peut-il être modifié après coup ?
Il peut être scellé de manière à ce que toute altération soit détectable. C'est une garantie significativement différente de la prévention : l'enregistrement ne devient pas physiquement immuable, mais un lecteur peut dire si ce qu'il tient est ce qui a été scellé.
Qui lit vraiment ça ?
En pratique : audit interne, évaluateurs externes, régulateurs répondant à une plainte et collègues héritant d'une décision. Chacun a besoin de la même chose : suffisamment de contexte pour évaluer une décision à laquelle ils n'étaient pas présents.
Avons-nous besoin d'un enregistrement de décision pour chaque décision d'IA ?
Non. L'obligation s'applique aux décisions ayant des conséquences — celles affectant les droits, l'accès, l'argent ou la sécurité d'une personne. Enregistrer tout au même niveau de détail est coûteux et rend les dossiers importants plus difficiles à trouver.
Quel format doit avoir un enregistrement de décision ?
Quelque chose d'archivistique et autonome, qui contient également des données lisibles par machine. La lisibilité humaine est importante car les gens évaluent les décisions ; la lisibilité par machine est importante car les systèmes doivent les rechercher et les vérifier. Un format qui n'offre qu'un seul aspect laisse l'autre public dans l'embarras.
Comment cela se rapporte-t-il à la loi sur l'IA de l'UE ?
L'article 12 concerne la tenue de dossiers et l'article 14 concerne la supervision humaine, et les deux sont finalement attestés par des dossiers de décisions individuelles. Un dossier de décision est un moyen de satisfaire à ces obligations — il ne constitue pas en soi une conformité, qui dépend de l'ensemble du système et de son fonctionnement.
Sujets de gouvernance de l'IA liés
Gouvernance de l'IA
La discipline parapluie : comment les organisations rendent les agents d'IA responsables, observables et conformes — commencez ici.
Observabilité de l'IA
Voir ce que vos systèmes d'IA font en production — métriques, traces et journaux.
Observabilité de LLM
Surveillance des invites, des jetons, de la latence et de la qualité des appels de modèle de langage large.
Traçabilité de l'IA
Reconstituer la lignée complète d'une sortie d'IA — entrées, étapes et décisions.
Traçabilité de LLM
Traces de bout en bout des chaînes de LLM et d'invites multi-étapes.
Observabilité de l'agent d'IA
Observabilité pour les agents autonomes multi-étapes — appels d'outils, plans et décisions.
Gouvernance de l'IA agentic
Gouverner les agents autonomes : politique, surveillance et autonomie responsable.
Traçage d'audit de l'IA
Enregistrements append-only, tamper-évidents de ce qu'un système d'IA a décidé et pourquoi.
Surveillance de l'agent d'IA
Surveillance en temps réel du comportement de l'agent, de la dérive et de la qualité de la décision.
IA explicative (XAI)
Rendre les décisions d'IA compréhensibles pour les personnes responsables de celles-ci.
AI TRiSM
Cadre de Gartner pour la gestion de la confiance, des risques et de la sécurité de l'IA.
Récupération de décision
GraphRAG pour agents — récupération des décisions passées sous forme de paquets limités et auditable.
Preuves de Conformité de l'IA
Ce que les auditeurs demandent réellement, et pourquoi les documents de politique ne sont pas des preuves.
Évaluation de Conformité de l'IA
Comment un système d'IA est vérifié par rapport aux règles, et ce que cette vérification consomme.
Traçage de décision
Capturer le raisonnement structuré derrière chaque décision d'IA — catégorie d'AI Agentree.
Systèmes de précédent d'IA
Permettre aux agents d'apprendre des décisions passées comme précédent recherchable.
Pistes de vérification des décisions
Comment les équipes humaines enregistrent pourquoi une décision a été prise — le pendant de la délibération d'une piste de vérification de l'IA.
IA Transparente
Rendre le raisonnement du modèle inspectable, et ce qui change lorsque plusieurs modèles sont comparés les uns aux autres.
Simulation Multi-Agent
Faire fonctionner de nombreuses personas d'IA contre un scénario pour faire ressortir les risques avant qu'une décision ne soit prise.
Voir un enregistrement de décision
La manière la plus claire de comprendre le format est de regarder un exemple — le raisonnement, les preuves, la trace de la politique et l'approbation, dans un seul document.
Explorez la plateforme