Článok 14 nariadenia EÚ o umelej inteligencii: Sprievodca implementáciou ľudského dohľadu

Čo vyžaduje článok 14

Poskytovatelia musia navrhovať systémy umelej inteligencie s vysokým rizikom s rozhraniami človek-stroj, ktoré umožňujú ľuďom efektívne dohliadať na systém počas jeho životného cyklu. Cieľom je predchádzať alebo minimalizovať riziká pre zdravie, bezpečnosť alebo základné práva.

Je dôležité, že článok 14 zavádza filozofiu „človek má kontrolu“. Nestačí mať človeka v procese – tento človek musí mať skutočnú schopnosť a právomoc porozumieť, zasiahnuť a prekonať automatizované rozhodnutie.

Šesť požadovaných schopností dohľadu

Článok 14(4) uvádza šesť konkrétnych schopností, ktoré musí ľudský dohľad umožňovať:

• Rozumieť schopnostiam a obmedzeniam – vrátane známych skreslení, tendencií k chybám a hraníc presnosti
• Monitorovať anomálie – vrátane odchýlok, extrémnych hodnôt a degradácie
• Interpretovať výstupy – podporované funkciami transparentnosti a zrozumiteľnosti
• Rozhodnúť sa, že sa nebude používať – odmietnuť konať na základe výstupu umelej inteligencie, keď je to vhodné
• Zasiahnuť alebo prerušiť – zastaviť tlačidlá, pozastaviť alebo odložiť na ďalšiu kontrolu
• Prepísať alebo zmeniť – zmeniť výsledok, ktorý by umelá inteligencia vyprodukovala

Požiadavky na dokumentáciu

Okrem návrhu systému musia prevádzkovatelia viesť dokumentáciu, ktorá dokazuje, že dohľad je účinný:

• Určená autorita dohľadu (kto má právomoc prepísať rozhodnutie)
• Záznamy o školeniach pre personál dohľadu
• Postupy prepísania a eskalácie
• Zaznamenané prípady zásahu a zdôvodnenie
• Záznamy pripravené na audit, ktoré ukazujú, kedy bol dohľad vykonaný a kedy nie

Špeciálne pravidlo: biometrická identifikácia

Pre systémy diaľkovej biometrickej identifikácie ukladá článok 14 ďalšie požiadavky:

Kritické rozhodnutia musia overiť aspoň dvaja kompetentní jednotlivci, s výnimkou úzkych scenárov v oblasti presadzovania zákona a pohraničnej kontroly.