Priloga III: Visokotvegani sistemi umetne inteligence: vodnik za klasifikacijo iz člena 6

Kaj naredi sistem umetne inteligence visokotvegan?

Člen 6 ustvari dve neodvisni poti. Če izpolnjujete katero od njiju, ste uvrščeni v kategorijo visokega tveganja – in to sproži celotno dokumentacijo iz priloge IV, nadzor iz členov 9–15 in obveznosti glede skladnosti.

Dve poti: Člen 6(1) obravnava umetno inteligenco, ki se uporablja kot varnostni komponent v reguliranih izdelkih. Člen 6(2) + Priloga III obravnava samostojno umetno inteligenco v osmih specifičnih kategorijah primerov uporabe.

Pota 1: Varnostne komponente (člen 6(1))

Če je vaša umetna inteligenca varnostna komponenta izdelka, ki ga ureja sektorjska zakonodaja EU (medicinski pripomočki, vozila, stroji, dvigala, igrače itd.) ali je sama takšen izdelek, je avtomatično uvrščena v kategorijo visokega tveganja.

Oceno skladnosti mora izvesti priglašena institucija.

Pota 2: Primere uporabe iz priloge III (člen 6(2))

Osem kategorij primerov uporabe sproži uvrstitev v kategorijo visokega tveganja, ne glede na podlago tehnologije:

• Biometrija: Oddaljena biometrična identifikacija in sistemi za prepoznavanje čustev
• Ključna infrastruktura: Umetna inteligenca v energetiki, vodovodnem sistemu, plinovodih, sistemih za ogrevanje in digitalni infrastrukturi
• Izobraževanje: Umetna inteligenca za ocenjevanje učencev, ocenjevanje izpitov in analitiko učenja
• Zaposlovanje: Pregled življenjepisov, analiza pogovorov, dodeljevanje nalog, ocenjevanje uspešnosti, odločitve o prenehanju zaposlitve
• Bistvene storitve: Ocena kreditne sposobnosti, odobritev posojil, določanje cen zavarovanja, posredovanje nujnih služb
• Izvajanje zakona: Ocena tveganja, poligrafi, ocenjevanje dokazov, profiliranje
• Migracije in azil: Vloge za vizum, obravnava prošenj za azil, nadzor meja
• Pravosodje: Pomoč pri določanju kazni, napovedovanje izida primera, pravno raziskovanje

Izjema iz člena 6(3)

Sistem umetne inteligence iz priloge III lahko prejme izjemo, če ne predstavlja pomembnega tveganja za zdravje, varnost ali temeljne pravice.

Med priznane primere spadajo ozka postopkovna opravila, izboljšanje rezultatov že zaključenega človeškega dejavnosti, zaznavanje vzorcev odločanja brez nadomeščanja človeške presoje ali pripravljalna opravila za nadaljnje človeško odločanje. Profiliranje je vedno visokotvegano. Izjema se nikoli ne uporablja, če sistem izvaja profiliranje fizičnih oseb.

Če uveljavljate izjemo, temeljito dokumentirajte razloge. Nadzorni organi lahko to izpodbijajo.

Zahteve za dokumentacijo, če je sistem visokotvegan

Visokotvegani sistemi umetne inteligence morajo voditi celovito dokumentacijo o skladnosti:

• Tehnična dokumentacija iz priloge IV
• Sistem za upravljanje tveganj iz člena 9
• Evidenca o upravljanju podatkov iz člena 10
• Zapisovanje v produkciji iz člena 12
• Načrtovanje človeškega nadzora iz člena 14
• Ocena skladnosti + CE oznaka
• Registracija v bazi podatkov EU o umetni inteligenci