Artigo 17 da Lei de IA da UE: Sistema de Gestão da Qualidade (SGQ)

O que é o Requisito do SGQ

Os fornecedores de sistemas de IA de alto risco devem estabelecer um sistema de gestão da qualidade que garanta a conformidade com a Lei de IA, documentado de forma sistemática e ordenada como políticas, procedimentos e instruções escritas.

O SGQ é proporcional ao tamanho da organização do fornecedor, e para fornecedores que já estão sujeitos a obrigações de gestão da qualidade setoriais sob outras leis da União, os requisitos da Lei de IA podem ser integrados ao sistema existente em vez de duplicados. O ponto não é a papelada por si só: o SGQ é como um fornecedor demonstra que a conformidade é um processo repetível e governado, e não um esforço único.

Elementos que o SGQ Deve Documentar

O Artigo 17(1) enumera os aspectos que o sistema de gestão da qualidade deve cobrir, pelo menos:

• Estratégia de conformidade regulatória — incluindo para avaliação de conformidade e para gerenciar modificações no sistema de alto risco
• Procedimentos de design e desenvolvimento — técnicas, procedimentos e ações sistemáticas para design, controle de design e verificação de design
• Desenvolvimento e controle de qualidade — procedimentos para desenvolvimento, controle de qualidade e garantia de qualidade do sistema
• Exame, teste e validação — procedimentos a serem realizados antes, durante e após o desenvolvimento, e como frequentemente são realizados
• Especificações técnicas e padrões — os padrões aplicados, e onde os padrões harmonizados não são aplicados integralmente, os meios utilizados para atender aos requisitos
• Gestão de dados — sistemas e procedimentos para aquisição de dados, coleta, análise, rotulagem, armazenamento, filtragem, mineração, agregação e retenção
• Gestão de riscos — o sistema de gestão de riscos do Artigo 9
• Monitoramento pós-comercialização — estabelecimento, implementação e manutenção de um sistema de monitoramento pós-comercialização sob o Artigo 72
• Relatório de incidentes — procedimentos para relatar incidentes graves de acordo com o Artigo 73
• Comunicação e responsabilidade — tratamento da comunicação com as autoridades e outras partes, manutenção de registros, gestão de recursos e um quadro de responsabilidade que define as responsabilidades de gestão e funcionários

O Padrão Harmonizado Ainda Está Emergindo

Para apoiar o Artigo 17, um padrão harmonizado dedicado para o sistema de gestão da qualidade de IA está sendo desenvolvido sob o pedido de padronização da Comissão para CEN-CENELEC.

Esse trabalho está em andamento sob a referência prEN 18286 (um padrão de sistema de gestão da qualidade de IA). É um rascunho: o prefixo 'pr' marca um padrão europeu em andamento que ainda não foi publicado ou citado no Jornal Oficial, então não confere uma presunção de conformidade. Os fornecedores devem projetar seu SGQ para o texto do Artigo 17 agora e acompanhar o padrão à medida que ele amadurece — construir com base no rascunho pode reduzir a retrabalho, mas não é um substituto para o requisito legal e não deve ser confiado como se já estivesse em vigor.

As referências de padrão e o status de publicação mudam ao longo do tempo; sempre verifique o status atual do prEN 18286 e de quaisquer padrões harmonizados relacionados contra o Jornal Oficial antes de confiar neles.