EU AI-wet Artikel 17: Kwaliteitsbeheerssysteem (KBS)

Wat De KBS-Verplichting Is

Aanbieders van AI-systemen met een hoog risico moeten een kwaliteitsbeheerssysteem invoeren dat de conformiteit met de AI-wet waarborgt, gedocumenteerd in een systematische en geordende wijze als geschreven beleid, procedures en instructies.

Het KBS is evenredig met de omvang van de organisatie van de aanbieder, en voor aanbieders die reeds onderworpen zijn aan kwaliteitsbeheersverplichtingen onder andere Unie-wetgeving, kunnen de verplichtingen van de AI-wet in het bestaande systeem worden geïntegreerd in plaats van gedupliceerd. Het doel is niet het papierwerk omwille van het papierwerk: het KBS is de manier waarop een aanbieder aantoont dat de conformiteit een herhaalbaar, beheerd proces is in plaats van een eenmalige inspanning.

Elementen Die Het KBS Moet Documenteren

Artikel 17(1) vermeldt de aspecten die het kwaliteitsbeheerssysteem moet omvatten, ten minste:

• Regelgevingsconformiteitstrategie — inclusief voor conformiteitsbeoordeling en voor het beheer van wijzigingen in het hoogrisico-systeem
• Ontwerp- en ontwikkelingsprocedures — technieken, procedures en systematische acties voor ontwerp, ontwerpbewaking en ontwerpverificatie
• Ontwikkeling en kwaliteitscontrole — procedures voor ontwikkeling, kwaliteitscontrole en kwaliteitszekerheid van het systeem
• Examen, test en validatie — procedures die moeten worden uitgevoerd voordat, tijdens en na de ontwikkeling, en hoe vaak deze worden uitgevoerd
• Technische specificaties en normen — de toegepaste normen, en waar geharmoniseerde normen niet volledig worden toegepast, de middelen die worden gebruikt om aan de vereisten te voldoen
• Gegevensbeheer — systemen en procedures voor gegevensverwerving, -verzameling, -analyse, -etikettering, -opslag, -filtering, -mijnbouw, -aggregatie en -bewaring
• Risicobeheer — het risicobeheerssysteem van Artikel 9
• Post-marktbewaking — het instellen, implementeren en onderhouden van een post-marktbewakingsysteem onder Artikel 72
• Incidentenrapportage — procedures voor het melden van ernstige incidenten in overeenstemming met Artikel 73
• Communicatie en verantwoordelijkheid — het beheer van de communicatie met autoriteiten en andere partijen, recordhouding, bronbeheer en een verantwoordelijkheidskader dat de verantwoordelijkheden van het management en het personeel definieert

De Geharmoniseerde Norm Is Nog In Ontwikkeling

Om Artikel 17 te ondersteunen, wordt een specifieke geharmoniseerde norm voor het AI-kwaliteitsbeheerssysteem ontwikkeld onder het normalisatieverzoek van de Commissie aan CEN-CENELEC.

Dat werk is in uitvoering onder de referentie prEN 18286 (een AI-kwaliteitsbeheerssysteemnorm). Het is nog een ontwerp: het 'pr'-voorvoegsel markeert een werk-in-uitvoering Europees norm die nog niet is gepubliceerd of vermeld in het Publicatieblad, dus het geeft nog geen vermoeden van conformiteit. Aanbieders moeten hun KBS ontwerpen volgens de tekst van Artikel 17 en de norm volgen naarmate deze volwassen wordt — het opbouwen naar het ontwerp kan herwerking verminderen, maar het is geen vervanging voor de wettelijke vereiste en moet niet worden vertrouwd alsof het reeds in werking is.

Normreferenties en publicatiestatus veranderen in de loop van de tijd; verifieer altijd de huidige status van prEN 18286 en eventuele verwante geharmoniseerde normen tegen het Publicatieblad voordat u deze gebruikt.