Članak 12 Zakona EU o umjetnoj inteligenciji: Zahtjevi za vođenje evidencije i tragova revizije

Što članak 12 zahtijeva

Visokorizični sustavi umjetne inteligencije moraju, po definiciji, omogućiti automatsko bilježenje događaja ('evidencije') tijekom cijelog životnog vijeka sustava. Evidencije moraju omogućiti sljedivost koja je dovoljna za nadzor nakon stavljanja na tržište, regulatorne inspekcije i ljudski nadzor u skladu s člankom 14.

Članak 12 jedan je od rijetkih obveza Zakona EU o umjetnoj inteligenciji koji zahtijeva tehničku mogućnost, a ne samo dokumentaciju procesa – vaš sustav umjetne inteligencije doslovno mora generirati te zapise tijekom svog rada.

Što vaša evidencija revizije mora sadržavati

Evidencije iz članka 12 moraju sadržavati dovoljno detalja kako bi se rekonstruiralo kako i zašto su donesene odluke:

• Evidencija događaja na razini pojedinog događaja s pouzdanim vremenskim oznakama
• Ulazni podaci primljeni od strane sustava umjetne inteligencije i izlazni podaci koje je sustav generirao
• Interni koraci procesa (razmatranje, privremene odluke, procjene politika)
• Akcije ljudske kontrole: odobrenja, poništavanja, eskalacije
• Podaci o stanju sustava koji su dovoljni za ponovnu reprodukciju konteksta odluke
• Neobični događaji i način njihovog rješavanja

Tehnički zahtjevi

Uredba navodi nekoliko tehničkih svojstava koja vaša infrastruktura za vođenje evidencije mora zadovoljiti:

• Automatsko vođenje evidencije – ručni unos u evidenciju ne zadovoljava zahtjeve članka 12
• Pouzdan i potpun unos događaja
• Sigurno pohranjivanje koje sprječava neovlaštene izmjene
• Razdoblje čuvanja podataka proporcionalno namjeni i profilu rizika
• Mogućnost izvoza u formate prikladne za regulatornu reviziju

Uobičajeni nedostaci u usklađenosti

Na temelju našeg rada s timovima za umjetnu inteligenciju u poduzećima, ovo su najčešći nedostaci u usklađenosti s člankom 12:

• Bilježe se samo izlazni podaci, a ne i obrazloženje koje ih je proizvelo
• Nedostaju ili su nepotpuni zapisi o ljudskim intervencijama
• Promjenjivo pohranjivanje evidencije koje ne zadovoljava zahtjeve za zaštitu od neovlaštenih izmjena
• Razdoblja čuvanja podataka prekrata za regulatornu reviziju
• Nema strukturiranog izvoza – samo ad hoc upiti u bazu podataka

Tehnička dokumentacija iz članka 11 i Priloga IV

Članak 11 zahtijeva tehničku dokumentaciju koja, zajedno s evidencijama iz članka 12, dokazuje usklađenost.

Prilog IV navodi strukturu: opis sustava, namjenu, izbore dizajna, podatke za obuku i testiranje, postupke validacije, nadzor i same evidencije. Tretiarajte ova dva aspekta kao jedan cjeloviti proces.