Prilog III. Sustavi umjetne inteligencije visokog rizika: Vodič za klasifikaciju iz članka 6.

Što čini sustav umjetne inteligencije sustavom visokog rizika?

Članak 6. stvara dva nezavisna načina. Uključivanje u bilo koji od njih čini vas sustavom visokog rizika — i pokreće potpunu dokumentaciju iz Priloga IV, kontrole iz članka 9–15 i obveze usklađivanja.

Dva načina: Članak 6. (1) pokriva umjetnu inteligenciju koja se koristi kao sigurnosni komponenti u reguliranim proizvodima. Članak 6. (2) + Prilog III pokriva samostalne sustave umjetne inteligencije u osam specifičnih kategorija slučajeva uporabe.

Način 1: Sigurnosne komponente (članak 6. (1))

Ako je vaša umjetna inteligencija sigurnosna komponenta proizvoda koji pokriva zakonodavstvo EU (medicinski uređaji, vozila, strojevi, liftovi, igračke itd.) ili je sama takav proizvod, automatski je klasificirana kao sustav visokog rizika.

Usklađivanje mora provesti ovlašteno tijelo.

Način 2: Kategorije slučajeva uporabe iz Priloga III (članak 6. (2))

Osam kategorija slučajeva uporabe pokreće klasifikaciju kao sustav visokog rizika, bez obzira na temeljnu tehnologiju:

• Biometrika: Sustavi za udaljenu biometrijsku identifikaciju i prepoznavanje emocija
• Kritična infrastruktura: Umjetna inteligencija u energetskoj, vodnoj, plinskoj, grijanoj i digitalnoj infrastrukturi
• Obrazovanje: Umjetna inteligencija za procjenu učenika, ocjenjivanje ispita i analizu učenja
• Zapošljavanje: Provjera životopisa, analiza intervjua, dodjela zadataka, procjena učinka, odluke o otkazivanju
• Osnovne usluge: Kreditno bodovanje, odobravanje zajmova, određivanje cijena osiguranja, slanje hitnih službi
• Provedba zakona: Procjena rizika, poligrafi, procjena dokaza, izrada profila
• Migracije i azil: Zahtjevi za vize, obrada zahtjeva za azil, kontrola granica
• Pravosuđe: Pomoć pri određivanju kazne, predviđanje ishoda slučaja, pravno istraživanje

Izuzetak iz članka 6. stavka 3.

AI sustavu iz Priloga III može se odobriti izuzetak ako ne predstavlja značajan rizik za zdravlje, sigurnost ili temeljna prava.

Prepoznati slučajevi uključuju uske proceduralne zadatke, poboljšanje rezultata prethodno dovršene ljudske aktivnosti, otkrivanje obrazaca odlučivanja bez zamjene ljudske procjene ili pripremni zadaci za naknadnu ljudsku odluku. Profiliranje uvijek predstavlja visok rizik. Izuzetak se nikada ne primjenjuje ako sustav obavlja profiliranje fizičkih osoba.

Ako se pozivate na izuzetak, temeljito dokumentirajte razloge. Nadležna tijela mogu to osporiti.

Zahtjevi za dokumentacijom ako je sustav visokog rizika

AI sustavi visokog rizika moraju voditi opsežnu dokumentaciju o usklađenosti:

• Tehnička dokumentacija iz Priloga IV
• Sustav upravljanja rizicima iz članka 9.
• Evidencija o upravljanju podacima iz članka 10.
• Vođenje evidencije u proizvodnji iz članka 12.
• Dizajn ljudske kontrole iz članka 14.
• Procjena usklađenosti + CE oznaka
• Registracija u bazi podataka EU o umjetnoj inteligenciji