Annexe III : Systèmes d'IA à haut risque : guide de classification de l'article 6

Qu'est-ce qui rend un système d'IA à haut risque ?

L'article 6 crée deux voies indépendantes. Le fait de relever de l'une ou l'autre de ces voies vous classe comme étant à haut risque, ce qui déclenche l'ensemble des exigences de documentation de l'annexe IV, les contrôles de l'article 9 à 15 et les obligations d'évaluation de la conformité.

Les deux voies : l'article 6, paragraphe 1 couvre l'IA utilisée comme composant de sécurité dans les produits réglementés. L'article 6, paragraphe 2, et l'annexe III couvrent l'IA autonome dans huit catégories spécifiques de cas d'utilisation.

Voie 1 : Composants de sécurité (article 6, paragraphe 1)

Si votre IA est un composant de sécurité d'un produit couvert par la législation sectorielle de l'UE (dispositifs médicaux, véhicules, machines, ascenseurs, jouets, etc.), ou si elle est elle-même un tel produit, elle est automatiquement considérée comme étant à haut risque.

L'évaluation de la conformité doit être effectuée par un organisme notifié.

Voie 2 : Cas d'utilisation de l'annexe III (article 6, paragraphe 2)

Huit catégories de cas d'utilisation déclenchent la classification à haut risque, quel que soit la technologie sous-jacente :

• Biométrie : Systèmes d'identification biométrique à distance et de reconnaissance des émotions
• Infrastructures essentielles : IA dans les infrastructures énergétiques, hydrauliques, gazières, de chauffage et numériques
• Éducation : IA pour l'évaluation des élèves, la correction des examens et l'analyse de l'apprentissage
• Emploi : Examen des CV, analyse des entretiens, affectation des tâches, évaluation des performances, décisions de licenciement
• Services essentiels : Évaluation du crédit, approbation des prêts, tarification des assurances, dispatch des services d'urgence
• Application de la loi : Évaluation des risques, polygraphie, évaluation des preuves, profilage
• Migration et asile : Demandes de visa, traitement des demandes d'asile, contrôle des frontières
• Justice : Aide à la détermination de la peine, prédiction des résultats des affaires, recherche juridique

L’exemption prévue à l’article 6, paragraphe 3

Un système d’IA de l’annexe III peut bénéficier d’une exemption s’il ne présente pas de risque important pour la santé, la sécurité ou les droits fondamentaux.

Les cas reconnus comprennent les tâches procédurales limitées, l’amélioration du résultat d’une activité humaine déjà réalisée, la détection de schémas de décision sans remplacer l’évaluation humaine ou les tâches préparatoires en vue d’une décision humaine ultérieure. La création de profils présente toujours un risque élevé. L’exemption ne s’applique jamais si le système effectue la création de profils de personnes physiques.

Si vous invoquez l’exemption, documentez en détail le raisonnement. Les autorités de régulation peuvent la contester.

Exigences en matière de documentation en cas de risque élevé

Les systèmes d’IA à risque élevé doivent conserver une documentation complète sur la conformité :

• Documentation technique de l’annexe IV
• Système de gestion des risques visé à l’article 9
• Documents relatifs à la gouvernance des données visés à l’article 10
• Enregistrement des données en production, tel que visé à l’article 12
• Conception de la supervision humaine, tel que visé à l’article 14
• Évaluation de la conformité + marquage CE
• Enregistrement dans la base de données européenne sur l’IA