Artículo 10 de la Ley de IA de la UE: Gobernanza de Datos

Qué Requiere el Artículo 10

Los sistemas de IA de alto riesgo que se entrenan con datos deben desarrollarse sobre la base de conjuntos de datos de entrenamiento, validación y prueba que cumplan con los criterios de calidad establecidos en el Artículo 10 siempre que se utilicen dichos conjuntos de datos.

La obligación recae en el proveedor, y se aplica a prácticas de gobernanza y gestión de datos apropiadas en todo el ciclo de vida de los datos — desde las elecciones de diseño y la recopilación hasta la preparación, el examen y la mitigación. La gobernanza de datos según el Artículo 10 es uno de los requisitos que la documentación técnica del Anexo IV y el SGC del Artículo 17 deben describir y controlar.

Criterios de Calidad de Datos

Los conjuntos de datos de entrenamiento, validación y prueba deben estar sujetos a prácticas de gobernanza de datos apropiadas para el propósito previsto, abordando en particular:

• Pertinencia y representatividad — los conjuntos de datos deben ser pertinentes, suficientemente representativos y, en la medida de lo posible, libres de errores y completos en vista del propósito previsto
• Propiedades estadísticas apropiadas — incluyendo, cuando sea aplicable, en cuanto a las personas o grupos de personas sobre los que se pretende utilizar el sistema
• Elecciones de diseño y procedencia — las suposiciones de diseño relevantes, y cómo se recopilaron los datos, su origen y, para los datos personales, el propósito original de la recopilación
• Preparación de datos — las operaciones de anotación, etiquetado, limpieza, actualización, enriquecimiento y agregación deben documentarse
• Cobertura contextual — los datos deben tener en cuenta el entorno geográfico, contextual, de comportamiento o funcional en el que se pretende utilizar el sistema de alto riesgo

Examen de Sesgos, Mitigación y Brechas de Datos

El Artículo 10 requiere explícitamente que los proveedores busquen y aborden sesgos y brechas en los datos:

• Examinar en busca de sesgos que probablemente afecten la salud y la seguridad, tengan un impacto negativo en los derechos fundamentales o conduzcan a una discriminación prohibida — especialmente cuando las salidas influyen en las entradas para operaciones futuras (bucles de retroalimentación)
• Aplicar medidas de mitigación apropiadas para cualquier sesgo identificado durante ese examen
• Identificar y abordar brechas y deficiencias de datos que podrían impedir el cumplimiento, y documentar cómo se manejan
• Documentar el razonamiento para que el examen de sesgos y la mitigación sean auditables, no solo realizados

Condiciones para Datos de Categorías Especiales

El Artículo 10 permite el procesamiento de datos de categorías especiales, pero solo en la medida estrictamente necesaria para detectar y corregir sesgos, y sujeto a salvaguardias.

Eso significa que la excepción se aplica solo cuando la detección y corrección de sesgos no pueden lograrse de manera efectiva con datos sintéticos, anonimizados o de otras categorías no especiales. Cuando se utilicen datos de categorías especiales, deben estar sujetos a salvaguardias adecuadas para los derechos y libertades de las personas — incluyendo límites técnicos para la reutilización, seguridad de estado de la técnica y medidas de privacidad, controles de acceso estrictos y documentación, y eliminación una vez que se haya corregido el sesgo o los datos alcancen el final de su período de retención.

La excepción para datos de categorías especiales del Artículo 10 opera junto con el RGPD, no en lugar de él — las condiciones del RGPD para el procesamiento de datos de categorías especiales siguen aplicándose.