EU AI-wet voor de gezondheidszorg: hoge-risico medische AI-naleving

Waarom klinische AI hoog-risico is

Gezondheidszorg-AI bereikt het hoog-risiconiveau via twee afzonderlijke routes, en veel systemen raken beide aan:

• Artikel 6(1) — gereguleerde medische producten. AI die een medisch hulpmiddel is of een veiligheidscomponent daarvan (diagnostische beeldvorming, beslissingsondersteunende software, IVD-analysers) is hoog-risico wanneer het al een derdepartijconformiteitsbeoordeling onder de MDR (Verordening (EU) 2017/745) of IVDR (Verordening (EU) 2017/746) vereist.
• Bijlage III punt 5(d) — spoedtriage. AI die wordt gebruikt voor het triëren van patiënten of het inzetten van spoedeisende eerstehulpdiensten, is rechtstreeks vermeld in bijlage III, onafhankelijk van de status van het apparaat.
• Bijlage III punt 5(a) — toegang tot de gezondheidszorg. AI die de geschiktheid van een persoon voor openbare gezondheidsvoordelen en -diensten beoordeelt, is ook hoog-risico.

Behandelingsaanbevelings- en diagnostische-ondersteunende tools voldoen meestal aan de hoog-risicocriteria. Algemene wellness-apps zonder medisch doel voldoen meestal niet — classificeer elk systeem tegen artikel 6 en bijlage III in plaats van aan te nemen.

Interactie met de MDR en IVDR

De AI-wet vervangt de medische apparatuurwetgeving niet — het voegt zich daar bovenop.

Voor AI die een medisch hulpmiddel is, worden de hoog-risicovereisten van de AI-wet geïntegreerd in de bestaande MDR/IVDR-conformiteitsbeoordelingsprocedure, in plaats van als een afzonderlijk spoor, zodat één beoordeling door een aangemelde instantie beide regimes kan dekken. Fabrikanten moeten nog steeds een CE-markering onder de MDR/IVDR hebben, en de AI-wet voegt verplichtingen toe — risicobeheer, gegevensbeheer, logging, menselijke toezicht en technische documentatie — bovenop de klinische evaluatie- en markttoezichttaken die ze al dragen.

Praktische gevolgtrekking: uw MDR-technisch dossier en uw AI-wet-bijlage IV-documentatie moeten worden opgebouwd als één samenhangende bewijsbasis, niet als twee.

Kernverplichtingen voor klinische AI

De dragende artikelen voor een hoog-risicosysteem in de gezondheidszorg:

• Artikel 9 — risicobeheer. Een continu, levenscyclusrisicobeheersysteem dat redelijkerwijs voorzienbare klinische misbruik en resterend risico voor patiënten dekt.
• Artikel 10 — gegevensbeheer. Trainings-, validatie- en testgegevens moeten relevant en adequaat representatief zijn; klinische datasets moeten worden onderzocht op vooroordelen en gedocumenteerd, met artikel 10(5) dat beperkte verwerking van speciale categorieën gezondheidsgegevens uitsluitend toestaat om vooroordelen te detecteren en te corrigeren, onder waarborgen.
• Artikel 12 — logging. Automatische opname van gebeurtenissen gedurende de levensduur van het systeem, zodat een klinische beslissing kan worden gereconstrueerd en getraceerd.
• Artikel 14 — menselijke toezicht. Een klinicus moet de output van de AI kunnen begrijpen, controleren, overschrijven of negeren — de klinicus-in-de-lus blijft klinisch en juridisch verantwoordelijk voor de patiënt.