Articolo 10 dell'Atto AI dell'UE: Governance dei Dati

Cosa Richiede l'Articolo 10

I sistemi AI ad alto rischio che sono addestrati con dati devono essere sviluppati sulla base di set di dati di addestramento, convalida e testing che soddisfano i criteri di qualità stabiliti nell'articolo 10, ogniqualvolta tali set di dati sono utilizzati.

L'obbligo è sul fornitore e si applica a pratiche di gestione e governance dei dati adeguate in tutta la vita del dato — dalla scelta del progetto alla raccolta, dalla preparazione all'esame e alla mitigazione. La governance dei dati ai sensi dell'articolo 10 è uno dei requisiti che la documentazione tecnica dell'allegato IV e il QMS dell'articolo 17 devono a loro volta descrivere e controllare.

Criteri di Qualità dei Dati

I set di dati di addestramento, convalida e testing devono essere soggetti a pratiche di governance dei dati adeguate allo scopo previsto, affrontando in particolare:

• Rilevanza e rappresentatività — i set di dati devono essere rilevanti, sufficientemente rappresentativi e, per quanto possibile, privi di errori e completi in vista dello scopo previsto
• Proprietà statistiche adeguate — comprese, se applicabile, per le persone o i gruppi di persone su cui il sistema è destinato a essere utilizzato
• Scelte di progettazione e provenienza — le assunzioni di progettazione rilevanti e come i dati sono stati raccolti, la loro origine e, per i dati personali, lo scopo originale di raccolta
• Preparazione dei dati — le operazioni di annotazione, etichettatura, pulizia, aggiornamento, arricchimento e aggregazione devono essere documentate
• Copertura contestuale — i dati devono tenere conto dell'impostazione geografica, contestuale, comportamentale o funzionale in cui il sistema ad alto rischio è destinato a essere utilizzato

Esame dei Pregiudizi, Mitigazione e Lacune dei Dati

L'articolo 10 richiede esplicitamente ai fornitori di cercare e affrontare i pregiudizi e le lacune nei dati:

• Esaminare i pregiudizi che sono probabili influenzare la salute e la sicurezza, avere un impatto negativo sui diritti fondamentali o portare a discriminazioni vietate — in particolare quando gli output influenzano gli input per future operazioni (cicli di feedback)
• Applicare misure di mitigazione adeguate per qualsiasi pregiudizio identificato durante quell'esame
• Identificare e affrontare le lacune e le carenze dei dati che potrebbero impedire la conformità e documentare come vengono gestite
• Documentare il ragionamento in modo che l'esame dei pregiudizi e la mitigazione siano soggetti a verifica, non solo eseguiti

Condizioni per i Dati Speciali

L'articolo 10 consente l'elaborazione di categorie speciali di dati personali, ma solo nella stretta misura necessaria per rilevare e correggere i pregiudizi, e soggetta a salvaguardie.

Ciò significa che l'eccezione si applica solo quando la rilevazione e la correzione dei pregiudizi non possono essere realizzate efficacemente con dati sintetici, anonimi o altri dati non appartenenti a categorie speciali. Quando vengono utilizzati dati speciali, devono essere soggetti a salvaguardie adeguate per i diritti e le libertà degli individui — compresi limiti tecnici per il riutilizzo, sicurezza di stato dell'arte e misure di protezione della privacy, controlli di accesso stretti e documentazione, e cancellazione una volta che il pregiudizio sia stato corretto o i dati raggiungano la fine del loro periodo di conservazione.

La deroga dell'articolo 10 per i dati speciali opera parallelamente al GDPR, non al suo posto — le condizioni del GDPR per l'elaborazione di categorie speciali di dati personali si applicano ancora.