Qu'est-ce que le traçage des décisions d'IA ?
Le traçage des décisions est la pratique de capturer le raisonnement complet derrière chaque décision d'agent d'IA sous forme d'artefacts structurés et audités. Contrairement aux journaux d'exécution qui enregistrent ce qui s'est passé, les traces de décision enregistrent pourquoi cela s'est produit — les options considérées, les preuves consultées, les arguments pesés et le raisonnement sélectionné. AIAgentree met en œuvre le traçage des décisions à travers des paquets de décision : des enregistrements scellés contenant la proposition, l'arbre d'arguments, des instantanés de preuves, le raisonnement sélectionné et le suivi des résultats. Le traçage des décisions permet de se conformer aux articles 12-14 du règlement sur l’IA de l’UE, soutient les trois modes de confiance (Humain dans la boucle, Humain sur la boucle, Autonomie totale) et crée une mémoire institutionnelle à travers le précédent comme infrastructure. L'architecture distingue les relations normatives (soutient/s'oppose) des relations descriptives (mentionne/liées à), rendant le raisonnement de l'IA interrogeable, comparable et citables.
La plupart des organisations confondent l'enregistrement (ce que l'agent a fait) avec le traçage des décisions (ce qui a été décidé et pourquoi). La distinction est importante car la réglementation, la gouvernance et la mémoire institutionnelle dépendent toutes de ce dernier.
- •Les journaux enregistrent les événements d'exécution — appels API, latence, erreurs
- •Les traces de décision capturent un raisonnement structuré — options, preuves, justification, résultats
- •Les dossiers de décision sont des artefacts scellés que les auditeurs peuvent interroger et rejouer.
- •Le précédent émerge automatiquement des décisions structurées — la mémoire institutionnelle comme infrastructure
Un régulateur vient de demander les 100 dernières décisions prises par votre IA.
Vous avez 30 jours pour répondre. Que possédez-vous réellement ?
La thèse originale, reformulée
Les décisions de l'IA méritent des reçus. La journalisation n'est pas une responsabilité. La chaîne de pensée n'est pas la vérité fondamentale.
Ces déclarations restent vraies. Mais elles sont incomplètes.
La question "Pourquoi devrions-nous capturer les décisions ?" a une réponse évidente : conformité, responsabilité, débogage. La question plus difficile est : "Que se passe-t-il lorsque nous le faisons ?"
La réponse est inattendue : la mémoire institutionnelle devient automatique. Pas comme une fonctionnalité que vous construisez par-dessus. Pas comme un module que vous ajoutez plus tard. Comme une conséquence naturelle du modèle de données.
Ce que signifie réellement "décision"
Une décision n'est pas la sortie du modèle. Ce n'est pas la réponse de l'API. Ce n'est pas la valeur de retour de la fonction.
Une décision est un artefact structuré contenant :
- •Proposition — ce qui était en cours de décision (approuver le prêt #1234)
- •Preuves pesées — faits consultés, figés au moment de la décision
- •Alternatives considérées — options évaluées et rejetées
- •Raisonnement sélectionné — quels arguments ont influencé la décision
- •Résultat enregistré — ce qui s'est passé par la suite (immédiat, 6 mois, 1 an)
C'est ce que AIAgentree appelle un Paquet de Décision — un enregistrement scellé et immuable que les auditeurs peuvent interroger, rejouer et citer.
Ce que les journaux ne vous disent pas
| Journal d'exécution | Trace de décision |
|---|---|
approuver_loan(application_id=1234, score=0.87) | Proposition : Approuver le prêt #1234 PRO : Vérification des revenus réussie (poids : 0.92) PRO : 3 ans d'historique d'emploi (poids : 0.85) CON : Score de crédit en dessous du seuil (poids : 0.78) OVERRIDE : Exception manuelle approuvée par l'analyste senior Rationale : La stabilité de l'emploi l'emporte sur la préoccupation liée au crédit Résultat (6 mois) : 0 paiements manqués |
| Ce qui s'est passé. Quand cela s'est produit. Combien de temps cela a pris. | Pourquoi cela a été décidé. Ce qui a été pris en compte. Ce qui s'est passé après. |
Le journal vous indique que le prêt a été approuvé. La trace vous dit pourquoi il a été approuvé malgré la préoccupation concernant le score de crédit, qui a autorisé l'exception, et si cette décision s'est avérée bénéfique.
Les Deux Primitifs
L'ensemble du système de traçage des décisions repose sur deux primitives :
Primitive 1 : Enregistrement durable du raisonnement
Pas "ce que le modèle a dit." Un graphe d'argument structuré avec des revendications, des relations (soutient/s'oppose), des références de preuves et une hiérarchie.
Primitive 2 : Enregistrement durable des résultats
Pas "le modèle a renvoyé 200 OK." Un enregistrement de décision scellé avec résultat, arguments de raisonnement, décideur et suivi sur trois horizons.
Une fois que vous avez les deux, le précédent n'est plus quelque chose que vous "vous souvenez." Il devient quelque chose que vous pouvez interroger, comparer et citer.
Pourquoi le normatif l'emporte sur le descriptif
Les graphes contextuels stockent des relations descriptives : "lié à", "mentions", "appartient à". Les graphes d'arguments décisionnels stockent des relations normatives : "soutient", "s'oppose à".
La distinction est fondamentale :
- •Descriptif : "Ce billet mentionne ce client"
- •Normatif : "Cette preuve soutient l'approbation car elle démontre un historique de paiements cohérent."
La structure normative permet l'explicabilité, la gouvernance et le précédent. La structure descriptive permet la recherche et la découverte. Les deux sont précieux. Seule l'une d'elles permet le jugement institutionnel.
Comment le précédent émerge (mécaniquement)
Le volant d'inertie
L'agent génère un arbre d'arguments pour/contre.
Les humains approuvent/rejettent + sélectionnent des arguments rationnels
La décision est scellée → dossier de l'affaire gelé
Prochaine décision : l'agent recherche et cite ce cas.
Le précédent devient un nœud d'argument dans le nouveau cas.
L'organisation construit une bibliothèque de modèles de "comment nous décidons".
Les modèles permettent une automatisation sûre (autonomie basée sur des précédents)
Vous obtenez une mémoire institutionnelle comme un sous-produit d'une utilisation normale, et non comme une initiative séparée.
De Stocké à Récupérable : Décisions en tant que Graphe
Capturer les décisions n'est que la moitié de la valeur. L'autre moitié consiste à les récupérer — et c'est là que le modèle de données justifie son existence. Parce que chaque décision est stockée sous forme de graphique d'arguments normatifs (revendications connectées par des arêtes soutient/s'oppose), elle devient un substrat de récupération de premier ordre, et pas seulement une archive.
Pointez une recherche vectorielle sur des journaux bruts et vous obtenez une "soupe de morceaux" — des extraits déconnectés qui citent une conclusion mais omettent le contre-argument, l'approbateur et le précédent. Récupérez plutôt à partir du graphe de décision et vous obtenez un Paquet de Décision limité : la proposition, le raisonnement pour et contre, les preuves et le résultat, intacts. C'est GraphRAG pour les décisions AI — la raison pour laquelle le précédent est quelque chose que vous pouvez interroger et citer, pas seulement quelque chose que vous espérez vous souvenir. (Plus sur le substrat de récupération : qu'est-ce que la récupération de décision.)
Les Trois Modes de Confiance
Les entreprises ne confient pas les décisions à l'IA du jour au lendemain. Elles progressent par étapes :
Humain dans la boucle
L'agent assiste, l'humain décide. L'agent génère un raisonnement ; un humain prend la décision finale.
Humain dans la boucle
L'agent décide, l'humain supervise. L'agent prend des décisions ; un humain peut examiner et annuler.
Autonomie complète
L'agent décide, les audits humains sont effectués périodiquement. Il existe suffisamment de précédents pour justifier une opération autonome.
La progression du mode est basée sur des preuves : confiance ≥ 95 %, précédents similaires ≥ 5 avec des résultats cohérents, modèle établi et validé. Ce n'est pas "faire confiance mais vérifier." C'est "vérifier, puis faire confiance, puis continuer à vérifier."
Ce que cela signifie pour la pile d'IA d'entreprise
PILE CONTEXTUELLE D'ENTREPRISE
- •Couche C : DÉLIBÉRATION — Pourquoi cela a-t-il été décidé ? Arbres pour/contre, citations de précédents, provenance des preuves
- •Couche B : Lignée de décision — QUOI a été décidé ? Résultat, confiance, politiques évaluées, approbations
- •Couche A : CONTEXTE OPÉRATIONNEL — QUI/QUOI est impliqué ? Entités, relations, état temporel (CRM, ERP)
La plupart des équipes construisent A. Certaines construisent B. Presque personne ne construit C correctement. AIAgentree fournit C.
Trois façons de se connecter — le SDK n'est qu'une option
Le suivi des décisions n'est pas un engagement de conseil de 6 mois — et il ne nécessite pas notre SDK. Il existe trois façons de se connecter :
- •MCP (agent-natif) — le cycle de vie complet en tant qu'outils, de bout en bout : créer une trace, enregistrer le raisonnement, sceller la décision (
create_trace,append_events,seal_decision) et récupérer immédiatement le paquet de décision (get_packet,search_precedents) — aucune bibliothèque à installer - •API REST — n'importe quel langage, n'importe quel environnement d'exécution, zéro dépendances (le SDK est un mince wrapper autour de ces points de terminaison)
- •SDK (Python / TypeScript) — l'option ergonomique, avec extraction automatique du raisonnement à partir de la sortie de votre agent
Le chemin SDK est le plus court à écrire — une trace de décision en environ dix lignes :
from aiagentree import AgentreeClient
client = AgentreeClient(api_key="ask_...", base_url="https://api.aiagentree.com", tenant_id="acme")
# Trace your agent's decision point
trace = client.start_trace(
agent_id="discount-agent",
workflow_id="discount_approval",
entity_type="request",
entity_id="4521",
)
trace.add_input("discount", 0.18, source="crm")
trace.add_step("s1", title="SEV-1 incident yesterday", category="evidence", confidence=0.9)
trace.add_step("s2", title="Customer flagged as churn risk", category="evidence", confidence=0.85)
trace.add_step("s3", title="Exceeds standard 15% threshold", category="risk", confidence=0.7)
trace.seal("d1", action="approved", confidence=0.9)La trace est scellée, horodatée et interrogeable. Lorsque la prochaine demande similaire arrive, ce précédent est récupérable et citable.
L'angle de conformité
La loi sur l'IA de l'UE impose des exigences spécifiques pour les systèmes d'IA à haut risque :
- •Article 12 — Journalisation automatique permettant la traçabilité des décisions et l'identification des risques
- •Article 13 — Transparence et fourniture d'informations aux déployeurs et aux utilisateurs
- •Article 14 — Mesures de surveillance humaine permettant l'intervention et la compréhension
Les traces de décision satisfont ces exigences en capturant le raisonnement structuré, la provenance des preuves, les actions de supervision humaine et les enregistrements des résultats — dans un format que les régulateurs peuvent réellement interroger et comprendre.
Date limite de décembre 2027 : Les systèmes d'IA à haut risque figurant à l'annexe III doivent se conformer aux exigences de journalisation et de traçabilité. Si vos agents d'IA prennent des décisions concernant le crédit, l'emploi, l'éducation ou les soins de santé, le temps presse.
Ce que le suivi des décisions ne résout PAS
Le suivi des décisions se situe au-dessus de le contexte opérationnel. Il ne remplace pas :
- •Systèmes CRM/ERP — vous avez toujours besoin de vos systèmes d'enregistrement
- •Outils d'observabilité — LangSmith, W&B, Arize continuent de surveiller la santé des modèles
- •Résolution d'identité — vous avez toujours besoin de lier les entités entre les systèmes
Ces outils résolvent différents problèmes à différents niveaux. AIAgentree capture l'unique artefact dont ils ont tous besoin mais qui n'a jamais été stocké historiquement : la décision elle-même.
Comment commencer
Identifiez vos points de décision à enjeux élevés
Quelles décisions des agents affectent les clients, la conformité ou les revenus ? Commencez par là.
Intégrez le SDK de 10 lignes
Enveloppez votre logique d'agent existante avec la capture de trace. Aucune réécriture requise.
Répondez à la question du régulateur.
Choisissez un agent et demandez : "Si un régulateur demandait les 100 dernières décisions, pourrais-je répondre ?"
Questions Fréquemment Posées
Qu'est-ce que le suivi des décisions pour les agents IA ?
Le suivi des décisions capture le raisonnement complet derrière chaque décision d'IA — les options considérées, les preuves consultées, les arguments pesés et la logique sélectionnée — sous forme d'artefacts structurés et audités appelés Paquets de Décision. Contrairement aux journaux qui enregistrent ce qui s'est passé, les traces de décision enregistrent pourquoi cela s'est produit.
En quoi le suivi des décisions est-il différent de la journalisation ou de l'observabilité ?
Les journaux enregistrent les événements d'exécution (appels API, latence, erreurs). Les outils d'observabilité surveillent la santé du système. Le suivi des décisions capture la structure normative du raisonnement — quels arguments ont soutenu ou opposé une décision, quelles preuves ont été citées et quelle justification a conduit au résultat. C'est la différence entre savoir 'prêt approuvé' et savoir 'pourquoi ce prêt a été approuvé malgré la préoccupation concernant le score de crédit.'
Qu'est-ce qu'un paquet de décision ?
Un paquet de décision est l'artéfact central d'AIAgentree : un enregistrement scellé et immuable contenant la proposition (ce qui a été décidé), l'arbre d'arguments (raisonnements pour/contre), des instantanés de preuves (figés au moment de la décision), le raisonnement sélectionné (quels arguments ont influencé la décision) et le suivi des résultats (ce qui s'est passé par la suite). C'est tout ce dont un régulateur ou un auditeur a besoin pour comprendre et rejouer une décision.
Comment le suivi des décisions aide-t-il à se conformer au règlement sur l'IA de l'UE ?
Les articles 12 à 14 du règlement sur l’IA de l’UE exigent que les systèmes d'IA à haut risque conservent des journaux permettant la traçabilité des décisions. Les traces de décision satisfont à ces exigences en capturant le raisonnement structuré, la provenance des preuves, les actions de supervision humaine et les enregistrements des résultats — dans un format que les régulateurs peuvent réellement interroger et comprendre.
Quels sont les trois modes de confiance dans la gouvernance de l'IA ?
Les Trois Modes représentent une progression : Mode 1 (Humain dans la boucle) où les agents assistent mais les humains décident ; Mode 2 (Humain sur la boucle) où les agents décident avec la supervision humaine ; Mode 3 (Autonomie totale) où les agents décident avec des audits périodiques. La progression entre les modes est basée sur des preuves, guidée par des scores de confiance, la cohérence des précédents et le suivi des résultats.
Comment fonctionnent les précédents dans le suivi des décisions ?
Lorsque les décisions sont capturées sous forme d'artefacts structurés, le précédent émerge automatiquement. Des décisions passées similaires peuvent être récupérées par catégorie, références d'entités, balises d'argument ou contraintes politiques. Ces précédents deviennent des nœuds d'argument de premier ordre dans de nouvelles décisions — ils peuvent être cités, contestés ou annulés comme n'importe quel autre motif. La mémoire institutionnelle s'accumule avec chaque décision.
Combien de temps faut-il pour intégrer AIAgentree ?
Vous pouvez vous connecter de trois manières : via MCP en tant qu'outils natifs d'agent (sans SDK, sans bibliothèque), l'API REST (n'importe quel langage, zéro dépendance), ou le SDK Python/TypeScript (environ dix lignes, avec extraction automatique du raisonnement). Le cycle de vie complet — créer une trace, enregistrer le raisonnement, sceller la décision et récupérer immédiatement le paquet de décision — fonctionne uniquement sur MCP, de bout en bout, sans aucune bibliothèque. Il n'y a pas d'engagement de consultation de 6 mois ; c'est une couche d'infrastructure que vous ajoutez à votre pile d'agents existante.
Sujets Connexes
Articles Connexes
GraphRAG pour les décisions d'IA : Pourquoi les graphes surpassent la recherche vectorielle pour la mémoire des agents
Le RAG vectoriel sur les journaux renvoie une "soupe de morceaux" — des fragments de texte déconnectés qui manquent des contre-arguments, des approbations et des précédents qui rendaient une décision défendable. Lorsque les décisions sont stockées sous forme de graphique d'argument normatif, la récupération renvoie à la place un paquet de décision limité et vérifiable.
Article 6 de la loi sur l'IA de l'UE : Ce que signifie la classification à haut risque pour vos agents IA
L'article 6 de la loi européenne sur l'IA détermine si votre système d'IA est "à haut risque" — et déclenche des exigences obligatoires en matière de traçabilité. Si vos agents prennent des décisions concernant le crédit, l'emploi, l'éducation ou la santé, vous devez comprendre la classification de l'annexe III avant décembre 2027.
Qu'est-ce qu'un audit de décision ?
Le pendant humain des reçus d'IA : un enregistrement complet et révisable de qui a décidé quoi, et pourquoi.
Équipe AIAgentree
Gouvernance de l'IA
L'équipe AIAgentree construit une infrastructure de traçage des décisions pour les agents d'IA. Notre mission est de rendre le raisonnement de l'IA visible, auditable et améliorable.
Prêt à tracer vos décisions d'IA ?
Commencez à capturer des traces de décision aujourd'hui. Niveau gratuit disponible — aucune carte de crédit requise.
Commencer l'essai gratuit