ES AI likuma 14. pants: cilvēka uzraudzības ieviešanas rokasgrāmata
14. pants paredz, ka augsta riska AI sistēmas jāizstrādā tā, lai nodrošinātu efektīvu cilvēka uzraudzību. Vārds 'efektīvs' šajā teikumā nozīmē, ka tas patiešām veic darbu, un tieši tam AIAgentree tika izstrādāts.
Pēdējo reizi atjaunināts: April 29, 2026
Ko paredz 14. pants
Uzņēmumiem jāizstrādā augsta riska AI sistēmas ar cilvēka un mašīnas interfeisiem, kas ļauj cilvēkiem efektīvi uzraudzīt sistēmu tās dzīves ciklā. Mērķis ir novērst vai mazināt riskus veselībai, drošībai vai pamattiesībām.
Būtiski, ka 14. pantā ir iekļauta filozofija, ka cilvēkam jābūt galvenajam lēmējam. Ne vienmēr pietiek, lai cilvēks būtu iesaistīts procesā — šim cilvēkam jābūt reālai spējai un pilnvarām, lai saprastu, iejauktos un pārvarētu.
Sešas nepieciešamās uzraudzības spējas
14. panta 4. punktā ir uzskaitītas sešas konkrētas spējas, kas jānodrošina cilvēka uzraudzībai:
- Saprast spējas un ierobežojumus — ieskaitot zināmos iepriekš noteiktos rādītājus, kļūdu tendences un precizitātes robežas
- Uzraudzīt anomālijas — ieskaitot novirzes, izņēmumus un degradāciju
- Interpretēt rezultātus — atbalstot ar pārredzamības un izskaidrojamības funkcijām
- Nolemt neizmantot — atteikties rīkoties, pamatojoties uz AI rezultātiem, kad tas ir piemērots
- Iejaukties vai pārtraukt — izmantot pogas, lai apturētu, pauzētu vai apturētu līdz pārskatīšanai
- Pārspēt vai atcelt — mainīt rezultātu, ko AI būtu radījusi
Dokumentācijas prasības
Papildus sistēmas izstrādei izstrādātājiem jāuztur dokumentācija, kas pierāda, ka uzraudzība ir efektīva:
- Noteikta uzraudzības pilnvara (kam ir tiesības pārspēt)
- Uzraudzības personāla apmācības ieraksti
- Pārspēšanas procedūras un eskalācijas ceļi
- Reģistrēti iejaukšanās gadījumi un pamatojums
- Pārskatāmi ieraksti par to, kad tika īstenota uzraudzība un kad tā netika īstenota
Īpašs noteikums: biometriskā identifikācija
Attiecībā uz attālām biometriskās identifikācijas sistēmām 14. pants nosaka papildu prasības:
Būtiski lēmumi jāapstiprina vismaz diviem kompetentiem indivīdiem, izņemot šaurās tiesībaizsardzības un robežkontroles situācijās.
AIAgentree cilvēka uzraudzības funkcijas
AIAgentree nodrošina rīkus, lai no paša sākuma atbilstu 14. panta prasībām:
- Aprobācijas darbplūsmas attiecībā uz lēmumiem, kas pārsniedz noteikto sliekšņa vērtību
- Automātiski reģistrēta pārspēšanas izsekošana, norādot, kas, kad un kāpēc
- Modeļu analīze, salīdzinot cilvēku un AI lēmumus
- Brīdinājumi par eskalāciju, ja lēmumi atšķiras no parastajiem parametriem
- Pārskatāmi uzraudzības ziņojumi regulējošai pārbaudei
Biežāk uzdotie jautājumi
Vai vienkārša atzīme "cilvēks iesaistīts procesā" ir pietiekama, lai atbilstu 14. pantam?
Nē. Uzraudzībai jābūt efektīvai — cilvēkam jābūt informācijai, apmācībai un pilnvarām, lai faktiski varētu iejaukties. Formālas apstiprināšanas neatbilst prasībām, un regulatori to skaidri norāda.
Kas notiek, ja mana augsta riska AI sistēma pieņem tūkstošiem lēmumu stundā?
14. pants neprasa, lai cilvēks pārskatītu katru lēmumu. Tajā ir noteikts, ka uzraudzībai jābūt nozīmīgai tajos brīžos, kad iejaukšanās ir svarīga. Risku balstīta pārskatīšana — pilna uzraudzība augstas ietekmes gadījumiem, izlases veida uzraudzība ikdienas gadījumiem — ir pieņemama, ja tas ir dokumentēts.