Bilaga III AI-system med hög risk: Vägledning för klassificering enligt artikel 6

Vad gör ett AI-system till ett AI-system med hög risk?

Artikel 6 skapar två oberoende vägar. Om ett system faller under någon av dem klassificeras det som ett AI-system med hög risk – och utlöser den fullständiga dokumentationen i bilaga IV, kontrollerna i artikel 9–15 och kraven på överensstämmelsebedömning.

De två vägarna: Artikel 6(1) omfattar AI som används som säkerhetskomponenter i reglerade produkter. Artikel 6(2) + bilaga III omfattar fristående AI i åtta specifika kategorier för användningsfall.

Väg 1: Säkerhetskomponenter (artikel 6(1))

Om ditt AI-system är en säkerhetskomponent i en produkt som omfattas av EU:s sektorsspecifika lagstiftning (medicintekniska produkter, fordon, maskiner, hissar, leksaker osv.) eller är en sådan produkt i sig, klassificeras det automatiskt som ett AI-system med hög risk.

Överensstämmelsebedömning måste utföras av ett anmält organ.

Väg 2: Användningsfall i bilaga III (artikel 6(2))

Åtta kategorier för användningsfall utlöser klassificering som AI-system med hög risk oavsett den underliggande tekniken:

• Biometri: Fjärrstyrd biometrisk identifiering och system för igenkänning av känslor
• Kritisk infrastruktur: AI inom energi-, vatten-, gas-, värme- och digital infrastruktur
• Utbildning: AI för bedömning av studenter, rättning av prov och analys av inlärning
• Anställning: Granskning av CV, analys av intervjuer, tilldelning av uppgifter, utvärdering av prestationer, beslut om uppsägning
• Viktiga tjänster: Kreditbedömning, godkännande av lån, prissättning av försäkringar, utryckningstjänster
• Brottsbekämpning: Riskbedömning, lögnedetektortester, utvärdering av bevis, profilering
• Migration och asyl: Visumansökningar, behandling av asylansökningar, gränskontroll
• Rättsväsende: Beslutshjälp vid straffmätning, förutsägelse av utfall i rättsfall, juridisk forskning

Undantaget i artikel 6.3

Ett AI-system i bilaga III kan undantas om det inte utgör en betydande risk för hälsa, säkerhet eller grundläggande rättigheter.

Exempel på godkända fall inkluderar snäva, procedurmässiga uppgifter, förbättring av resultatet av en tidigare utförd mänsklig aktivitet, identifiering av beslutsmönster utan att ersätta mänsklig bedömning eller förberedande uppgifter för ett efterföljande mänskligt beslut. Profilering innebär alltid en hög risk. Undantaget gäller aldrig om systemet utför profilering av fysiska personer.

Om du åberopar undantaget, dokumentera motiveringen noggrant. Tillsynsmyndigheter kan ifrågasätta det.

Dokumentationskrav vid hög risk

AI-system med hög risk måste upprätthålla omfattande dokumentation för att säkerställa efterlevnad:

• Teknisk dokumentation enligt bilaga IV
• Riskhanteringssystem enligt artikel 9
• Dokumentation om datahantering enligt artikel 10
• Loggning i produktionsmiljö enligt artikel 12
• Design för mänsklig övervakning enligt artikel 14
• Konformitetsbedömning + CE-märkning
• Registrering i EU:s AI-databas