Qu'est-ce que la gouvernance Agentic AI ?

La gouvernance traditionnelle de l'IA se concentre sur le modèle — ses données de formation, sa précision, ses biais, sa dérive et son cycle de vie. Cela compte, mais cela s'arrête court de la chose qui rend les agents risqués : les agents prennent des décisions et agissent de manière autonome. Un agent qui approuve un remboursement, achemine une réclamation, escalade un ticket ou exécute un appel d'outil fait quelque chose pour lequel une organisation est responsable, que quelqu'un l'ait examiné ou non.

La gouvernance des modèles pose la question "est-ce que le modèle est bon ?" La gouvernance de l'IA agentic pose la question "cet agent agit-il dans le cadre de son mandat, et pouvons-nous prouver ce qu'il a décidé et pourquoi ?" Ce sont des questions différentes, et la deuxième est celle où l'autonomie transforme une préoccupation technique en une préoccupation de responsabilité.

La gouvernance des agents autonomes repose sur quelques capacités qui travaillent ensemble :

• Application des politiques — encoder les règles que l'agent doit suivre et vérifier les décisions par rapport à celles-ci, plutôt que de faire confiance uniquement à la invite.
• Approbation et escalation — définir les actions que l'agent peut prendre de manière unilatérale et celles qui doivent être mises en pause pour examen ou acheminées vers un humain.
• Supervision humaine — garder une personne capable d'intervenir, de remplacer ou d'arrêter l'agent, comme l'article 14 de l'Acte IA de l'UE l'exige pour les systèmes à haut risque.
• Autonomie responsable — un enregistrement durable de ce que l'agent a décidé, de ce qu'il a pesé et de qui est responsable du résultat.

Ces éléments se chevauchent avec les piliers plus larges de la gouvernance de l'IA et avec la surveillance des agents IA, mais ils sont adaptés pour les systèmes qui agissent, et non seulement qui répondent.

Le fossé que la plupart des programmes rencontrent est le passage de la gouvernance des modèles à la gouvernance des décisions. Vous pouvez avoir un modèle bien validé et être encore incapable d'expliquer une décision spécifique qu'un agent a prise la semaine dernière — quelles preuves il a utilisées, quelle politique a été appliquée, quelles alternatives il a rejetées. Les journaux et les métriques vous indiquent que le modèle a fonctionné ; ils vous disent rarement pourquoi l'agent a décidé.

Ceci est la couche de décision. La traçabilité vous indique ce qui a fonctionné ; la traçabilité des décisions vous indique ce qui a été décidé et pourquoi. Combler ce fossé est ce qui transforme une politique de gouvernance abstraite en quelque chose que vous pouvez réellement démontrer, décision par décision.

Pour les systèmes à haut risque, plusieurs éléments constitutifs de la gouvernance agentic deviennent des obligations légales : tenue de registre automatique (article 12), transparence (articles 13 et 50), et supervision humaine (article 14). Un agent qui peut produire un enregistrement complet et inviolable de chaque décision — avec la logique et les vérifications de politique attachées — est ce qui satisfait ces exigences dans la pratique. Voir le guide complet de conformité à l'Acte IA de l'UE pour savoir comment les articles se rapportent au comportement de l'agent.