EU AI-wet Artikel 10: Gegevensbeheer

Wat Artikel 10 Vereist

AI-systemen met een hoog risico die met gegevens worden getraind, moeten worden ontwikkeld op basis van trainings-, validatie- en testgegevens die voldoen aan de kwaliteitscriteria van Artikel 10, wanneer dergelijke gegevens worden gebruikt.

De verplichting rust op de aanbieder, en deze is van toepassing op passende gegevensbeheer- en -managementpraktijken gedurende de hele levenscyclus van de gegevens — van ontwerpkeuzes en verzameling tot voorbereiding, onderzoek en mitigatie. Gegevensbeheer onder Artikel 10 is een van de vereisten die de technische documentatie van Bijlage IV en het kwaliteitsbeheerssysteem van Artikel 17 op hun beurt moeten beschrijven en controleren.

Gegevenskwaliteitscriteria

Trainings-, validatie- en testgegevens moeten onderworpen zijn aan gegevensbeheerpraktijken die passend zijn voor het beoogde doel, met name:

• Relevantie en representativiteit — gegevenssets moeten relevant, voldoende representatief en, voor zover mogelijk, vrij van fouten en volledig zijn in het licht van het beoogde doel
• Geschikte statistische eigenschappen — inclusief, waar van toepassing, met betrekking tot de personen of groepen personen op wie het systeem is bedoeld om te worden gebruikt
• Ontwerpkeuzes en herkomst — de relevante ontwerpveronderstellingen en hoe de gegevens zijn verzameld, hun oorsprong en, voor persoonsgegevens, het oorspronkelijke doel van de verzameling
• Gegevensvoorbereiding — annotatie-, etikettering-, schoonmaak-, update-, verrijking- en aggregatiebewerkingen moeten worden gedocumenteerd
• Contextuele dekking — de gegevens moeten rekening houden met de geografische, contextuele, gedrags- of functionele instelling waarin het hoogrisico-systeem is bedoeld om te worden gebruikt

Onderzoek naar Vooroordelen, Mitigatie en Gegevenslacunes

Artikel 10 vereist expliciet dat aanbieders zoeken naar en aanpakken van vooroordelen en lacunes in de gegevens:

• Onderzoek naar vooroordelen die waarschijnlijk de gezondheid en veiligheid zullen beïnvloeden, een negatief effect zullen hebben op fundamentele rechten of tot verboden discriminatie zullen leiden — met name waar uitvoer de invoer voor toekomstige bewerkingen beïnvloedt (feedbacklussen)
• Passende mitigatiemaatregelen toepassen voor alle geïdentificeerde vooroordelen tijdens dat onderzoek
• Gegevenslacunes en -tekortkomingen identificeren en aanpakken die de conformiteit zouden kunnen verhinderen en documenteren hoe deze worden afgehandeld
• De redenering documenteren zodat het onderzoek naar vooroordelen en de mitigatie auditeerbaar zijn, niet alleen worden uitgevoerd

Voorwaarden Voor Speciale Categorieën Van Persoonsgegevens

Artikel 10 staat de verwerking van speciale categorieën van persoonsgegevens toe, maar alleen in de strikte mate die nodig is om vooroordelen te detecteren en te corrigeren, en onderworpen aan waarborgen.

Dat betekent dat de uitzondering alleen van toepassing is wanneer het detecteren en corrigeren van vooroordelen niet effectief kan worden gedaan met synthetische, geanonimiseerde of andere niet-speciale categorieën van gegevens. Wanneer speciale categorieën van persoonsgegevens worden gebruikt, moeten deze onderworpen zijn aan passende waarborgen voor de rechten en vrijheden van individuen — inclusief technische beperkingen op hergebruik, state-of-the-art beveiliging en privacy-beschermende maatregelen, strikte toegangscontroles en documentatie, en verwijdering zodra het vooroordeel is gecorrigeerd of de gegevens het einde van de bewaarperiode bereiken.

De uitzondering voor speciale categorieën van persoonsgegevens in Artikel 10 werkt naast de AVG, niet in plaats daarvan — de voorwaarden van de AVG voor de verwerking van speciale categorieën blijven van toepassing.