Anexa III: Sisteme AI cu risc ridicat: Ghid de clasificare conform articolului 6

Ce face ca un sistem AI să fie considerat cu risc ridicat?

Articolul 6 creează două căi independente. Dacă un sistem se încadrează în oricare dintre ele, acesta este considerat cu risc ridicat și declanșează documentația completă din Anexa IV, controalele din articolele 9-15 și obligațiile de conformitate.

Cele două căi: Articolul 6(1) se referă la AI utilizat ca un component de siguranță în produsele reglementate. Articolul 6(2) + Anexa III se referă la AI autonom în opt categorii specifice de cazuri de utilizare.

Calea 1: Componente de siguranță (Articolul 6(1))

Dacă AI-ul dumneavoastră este un component de siguranță al unui produs acoperit de legislația sectorială a UE (dispozitive medicale, vehicule, mașini, ascensoare, jucării etc.) sau este el însuși un astfel de produs, acesta este automat considerat cu risc ridicat.

Evaluarea conformității trebuie efectuată de un organism notificat.

Calea 2: Cazuri de utilizare din Anexa III (Articolul 6(2))

Opt categorii de cazuri de utilizare declanșează clasificarea ca fiind cu risc ridicat, indiferent de tehnologia de bază:

• Biometrie: Sisteme de identificare biometrică la distanță și de recunoaștere a emoțiilor
• Infrastructură critică: AI în energie, apă, gaze, încălzire și infrastructură digitală
• Educație: AI pentru evaluarea elevilor, corectarea examenelor și analiza datelor de învățare
• Angajare: Trierea CV-urilor, analiza interviurilor, alocarea sarcinilor, evaluarea performanței, deciziile de concediere
• Servicii esențiale: Evaluarea creditului, aprobarea împrumuturilor, stabilirea prețurilor pentru asigurări, dispecerizarea serviciilor de urgență
• Aplicarea legii: Evaluarea riscurilor, poligrafe, evaluarea probelor, profilare
• Migrație și azil: Cereri de viză, procesarea cererilor de azil, controlul la frontieră
• Justiție: Asistență la stabilirea sentinței, predicția rezultatelor cazurilor, cercetare juridică

Excepția prevăzută la articolul 6(3)

Un sistem de inteligență artificială din Anexa III poate beneficia de o excepție dacă nu prezintă un risc semnificativ pentru sănătate, siguranță sau drepturile fundamentale.

Cazurile recunoscute includ sarcini procedurale restrânse, îmbunătățirea rezultatului unei activități umane deja finalizate, detectarea tiparelor de luare a deciziilor fără a înlocui evaluarea umană sau sarcini pregătitoare pentru o decizie umană ulterioară. Profilarea este întotdeauna un risc ridicat. Excepția nu se aplică niciodată dacă sistemul efectuează profilarea persoanelor fizice.

Dacă solicitați excepția, documentați în detaliu justificarea. Autoritățile de reglementare o pot contesta.

Cerințe de documentare în cazul unui risc ridicat

Sistemele de inteligență artificială cu risc ridicat trebuie să mențină o documentație cuprinzătoare privind conformitatea:

• Documentația tehnică din Anexa IV
• Sistemul de gestionare a riscurilor prevăzut la articolul 9
• Înregistrările privind guvernanța datelor prevăzute la articolul 10
• Înregistrarea în timpul funcționării prevăzută la articolul 12
• Proiectarea supravegherii umane prevăzută la articolul 14
• Evaluarea conformității + marcajul CE
• Înregistrarea în baza de date UE privind inteligența artificială