Končno vodilo za skladnost z zakonom EU o umetni inteligenci za ponudnike in uporabnike umetne inteligence. Obravnava klasifikacijo visokega tveganja iz člena 6, zahteve za beleženje iz člena 12, nadzor s strani ljudi iz člena 14, sisteme iz priloge III, oceno skladnosti in tehnično dokumentacijo. Skladnost do 2. avgusta 2026 z odločitveno platformo AI Agentree. Kazni do 35 milijonov evrov ali 7 % celotnega prometa za neupoštevanje.
Zakon EU o umetni inteligenci je prva celovita uredba o umetni inteligenci na svetu. Visoko tvegani sistemi umetne inteligence morajo biti skladni do 2. avgusta 2026, sicer jim grozijo globe do 35 milijonov evrov.
To vodilo obravnava klasifikacijo, zahteve za beleženje, nadzor s strani ljudi in kako AI Agentree zagotavlja vgrajeno skladnost s členom 12.
Zakon EU o umetni inteligenci (Uredba 2024/1689) je prva celovita pravna ureditev za umetno inteligenco na svetu. Določa pristop, ki temelji na tveganju, pri urejanju sistemov umetne inteligence, ki delujejo v Evropski uniji.
Zakon kategorizira sisteme umetne inteligence v štiri ravni tveganja:
Popolna prepoved (socialno ocenjevanje, manipulacija, nadzor s pomočjo biometričnih podatkov v realnem času)
Stroge zahteve (sistemi iz priloge III: zdravstvo, kadrovsko upravljanje, finance, pravo)
Obveznosti glede transparentnosti (klepetalni roboti, globoki ponaredki, prepoznavanje čustev)
Nobenih posebnih zahtev (filtri za neželeno pošto, igre, večina potrošniške umetne inteligence)
Večina aplikacij umetne inteligence v podjetjih – vključno z umetno inteligenco, ki podpira zaposlovanje, ocenjevanje kreditnega tveganja, diagnostiko v zdravstvu in avtomatizacijo storitev za stranke – spada v kategorijo visokega tveganja in mora biti skladna s členi 9–15 do 2. avgusta 2026.
Zakon EU o umetni inteligenci začne veljati (20 dni po objavi v Uradnem listu)
Začne veljati prepoved praks, ki so prepovedane (6 mesecev)
Pravila GPAI, znanje o umetni inteligenci, ustanovljeni upravljalni organi (12 mesecev)
Sistemi umetne inteligence z visokim tveganjem (Priloga III) morajo biti skladni — 24 mesecev
Preostale določbe, vključno s sistemi z visokim tveganjem iz Priloge I (36 mesecev)
Členi 9–15 določajo obvezne zahteve, ki jih morajo izpolnjevati sistemi umetne inteligence z visokim tveganjem, preden se jih uvede na trg.
Ustanoviti in vzdrževati sistem za upravljanje tveganja skozi celoten življenjski cikel umetne inteligence
Podatki za usposabljanje, validacijo in testiranje morajo biti ustrezni, reprezentativni in brez napak
Izčrpna dokumentacija, ki dokazuje skladnost pred uvedbo na trg
Samodejno protokoliranje delovanja sistemov umetne inteligence za sledljivost in revizijo
Sistemi umetne inteligence morajo biti dovolj transparentni, da uporabniki lahko interpretirajo rezultate
Omogočite človeški nadzor in posredovanje med delovanjem sistema umetne inteligence
Platforma za sledenje odločitev AI Agentree zagotavlja vgrajeno skladnost z najzahtevnejšimi zahtevami zakona EU o umetni inteligenci.
Samodejno sledenje odločitev zajema vsako odločitev umetne inteligence s kontekstom, utemeljitvijo in rezultati – natančno to, kar zahteva člen 12.
Izvedite večVgrajeni delovni poteki za pregled, pragovi zaupanja in poti eskalacije izpolnjujejo zahteve za človeški nadzor po členu 14.
Izvedite večSemantično iskanje v zgodovini odločitev, izvozni sledovi revizije in poročila o skladnosti za regulativne organe.
Izvedite večRaziščite podrobna vodila za vsako zahtevo za skladnost.
Korak za korakom, zahteve za skladnost visokotveganih sistemov umetne inteligence
Preberite vodiloVodilo za klasifikacijo iz člena 6 in Priloge III
Preberite vodiloObveznosti glede sledi revizije in sledenja odločitev
Preberite vodiloObveznosti iz člena 14 o vključevanju ljudi v proces
Preberite vodiloOcenite pripravljenost vašega sistema umetne inteligence za skladnost
Preberite vodiloZa prepovedane prakse umetne inteligence
Za kršitve visokotveganih sistemov
Za napačne informacije, posredovane oblastem
To so najvišje kazni, ki so specifične za umetno inteligenco, v svetovnem merilu. Uredba se uporablja tudi izven ozemlja EU – vsako podjetje, ki obravnava stranke iz EU, mora biti skladno, ne glede na to, kje je sedež podjetja.
Uvajanje zakona EU o umetni inteligenci poteka po fazah: prepovedane prakse umetne inteligence (februar 2025), pravila in upravljanje GPAI (avgust 2025), visoko tvegani sistemi umetne inteligence iz Priloge III (2. avgust 2026) in preostale določbe, vključno s Prilogo I (avgust 2027). Večina podjetij se mora osredotočiti na rok 2. avgusta 2026 za sisteme, ki predstavljajo visoko tveganje.
Visoko tvegani sistemi umetne inteligence so tisti, ki so navedeni v Prilogi III zakona EU o umetni inteligenci, in sistemi umetne inteligence, ki se uporabljajo kot varnostni sestavni deli izdelkov. To vključuje umetno inteligenco pri zaposlovanju, ocenjevanju kreditnega tveganja, zdravstveni oskrbi, izobraževanju, pravnem nadzoru in kritični infrastrukturi. Ti sistemi morajo izpolnjevati stroge zahteve glede preglednosti, dokumentacije, človeškega nadzora in upravljanja tveganj.
Člen 12 zahteva, da visoko tvegani sistemi umetne inteligence samodejno beležijo podatke (sledi odločitev), ki omogočajo spremljanje, preverjanje skladnosti in nadzor po uvedbi na trg. Podatki morajo vsebovati delovanje sistema umetne inteligence, vključno z vhodi, izhodi in operativnimi parametri. AI Agentree zagotavlja vgrajeno skladnost s temi zahtevami za beleženje.
Globe lahko dosežejo do 35 milijonov evrov ali 7 % celotnega letnega prometa za prepovedane prakse umetne inteligence, 15 milijonov evrov ali 3 % za kršitve, ki vplivajo na sisteme, ki predstavljajo visoko tveganje, in 7,5 milijona evrov ali 1,5 % za posredovanje napačnih informacij. To so najvišje kazni, ki so specifične za umetno inteligenco na svetovni ravni.
Da, zakon EU o umetni inteligenci ima ekstrateritorialni obseg. Velja za vsakega ponudnika, ki na trg EU uvaja sisteme umetne inteligence ali katerih izhodni podatki sistema umetne inteligence se uporabljajo v EU, ne glede na to, kje je podjetje ustanovljeno. To pomeni, da je zakon dejansko globalen za podjetja, ki oskrbujejo stranke v EU.
Visoko tvegani sistemi umetne inteligence zahtevajo: tehnično dokumentacijo, sistem za upravljanje kakovosti, oceno skladnosti, izjavo EU o skladnosti, oznako CE, registracijo v bazi podatkov EU in stalno spremljanje. AI Agentree samodejno ustvarja dokumentacijo, ki je pripravljena za revizijo.
AI Agentree ponuja vgrajeno beleženje iz člena 12, delovne tokove za človeški nadzor in dokumentacijo, ki je pripravljena za revizijo. Zagotovite skladnost pred avgustom 2026.