Article 14 de la loi européenne sur l'IA : guide de mise en œuvre de la supervision humaine

Ce que l'article 14 exige

Les fournisseurs doivent concevoir les systèmes d'IA à haut risque avec des interfaces homme-machine qui permettent aux humains de superviser efficacement le système tout au long de son cycle de vie. L'objectif est de prévenir ou de minimiser les risques pour la santé, la sécurité ou les droits fondamentaux.

Il est essentiel de noter que l'article 14 intègre une philosophie de « contrôle humain ». Il ne suffit pas d'avoir une personne dans la boucle ; cette personne doit avoir la capacité et l'autorité réelles de comprendre, d'intervenir et de modifier les décisions.

Les six capacités de surveillance requises

L'article 14, paragraphe 4, énumère six capacités spécifiques que la surveillance humaine doit permettre :

• Comprendre les capacités et les limites — y compris les biais connus, les tendances aux erreurs et les limites de précision
• Surveiller les anomalies — y compris la dérive, les valeurs aberrantes et la dégradation
• Interpréter les résultats — en s'appuyant sur des fonctionnalités de transparence et d'explicabilité
• Décider de ne pas utiliser — refuser d'agir sur la base des résultats de l'IA lorsque cela est approprié
• Intervenir ou interrompre — boutons d'arrêt, pause ou suspension en attendant une révision
• Annuler ou inverser — modifier le résultat que l'IA aurait produit

Exigences en matière de documentation

Au-delà de la conception du système, les personnes qui le déploient doivent conserver une documentation prouvant que la surveillance est efficace :

• Autorité désignée pour la surveillance (qui a le pouvoir d'annuler)
• Dossiers de formation du personnel de surveillance
• Procédures d'annulation et voies d'escalade
• Incidents d'intervention consignés et justification
• Dossiers prêts pour l'audit indiquant quand la surveillance a été exercée par rapport à quand elle ne l'a pas été

Règle spéciale : identification biométrique

Pour les systèmes d'identification biométrique à distance, l'article 14 impose des exigences supplémentaires :

Les décisions critiques doivent être vérifiées par au moins deux personnes compétentes, sauf dans des scénarios limités liés à l'application de la loi et au contrôle des frontières.