EU-KI-Verordnung für das Gesundheitswesen: Konformität von medizinischer KI mit hohem Risiko

Warum klinische KI als KI mit hohem Risiko gilt

Gesundheits-KI erreicht die Stufe mit hohem Risiko auf zwei verschiedenen Wegen, und viele Systeme berühren beide:

• Artikel 6(1) — regulierte Medizinprodukte. KI, die ein Medizinprodukt oder ein Sicherheitskomponenten davon (diagnostische Bildgebung, Entscheidungsunterstützungssoftware, IVD-Analysatoren) ist, gilt als KI mit hohem Risiko, wenn sie bereits eine Drittzertifizierung unter der MDR (Verordnung (EU) 2017/745) oder der IVDR (Verordnung (EU) 2017/746) erfordert.
• Anhang III Punkt 5(d) — Notfall-Triage. KI, die zur Triage von Patienten oder zur Entsendung von Notfall-Einsatzkräften verwendet wird, ist unabhängig von ihrem Gerätestatus in Anhang III aufgeführt.
• Anhang III Punkt 5(a) — Zugang zum Gesundheitswesen. KI, die die Eignung einer Person für öffentliche Gesundheitsleistungen und -vorteile bewertet, gilt ebenfalls als KI mit hohem Risiko.

Behandlungsempfehlungs- und diagnostische Unterstützungstools gelten in der Regel als KI mit hohem Risiko. Allgemeine Wellness-Apps ohne medizinischen Zweck gelten normalerweise nicht als KI mit hohem Risiko — klassifizieren Sie jedes System gegen Artikel 6 und Anhang III, anstatt anzunehmen.

Interaktion mit der MDR und der IVDR

Die KI-Verordnung ersetzt das Medizinproduktrecht nicht — sie schichtet sich darüber.

Für KI, die ein Medizinprodukt ist, werden die Anforderungen an KI mit hohem Risiko der KI-Verordnung in das bestehende Konformitätsbewertungsverfahren der MDR/IVDR integriert, anstatt als separates Verfahren durchgeführt zu werden, so dass eine einzige Benannte-Stelle-Bewertung beide Regime abdecken kann. Hersteller benötigen immer noch eine CE-Kennzeichnung unter der MDR/IVDR, und die KI-Verordnung fügt Verpflichtungen — Risikomanagement, Datenverwaltung, Protokollierung, menschliche Aufsicht und technische Dokumentation — hinzu, die über die klinische Bewertung und die Marktüberwachungspflichten hinausgehen, die sie bereits tragen.

Praktische Konsequenz: Ihre MDR-Technikdokumentation und Ihre KI-Verordnungs-Anhang-IV-Dokumentation sollten als eine kohärente Beweisgrundlage erstellt werden, nicht als zwei separate.

Kernverpflichtungen für klinische KI

Die tragenden Artikel für ein Gesundheits-KI-System mit hohem Risiko:

• Artikel 9 — Risikomanagement. Ein kontinuierliches, lebenszyklisches Risikomanagementsystem, das klinische Fehlanwendungen und Restrisiken für Patienten abdeckt.
• Artikel 10 — Datenverwaltung. Trainings-, Validierungs- und Testdaten müssen relevant und angemessen repräsentativ sein; klinische Datensätze benötigen eine Voreingenommenheitsprüfung und eine dokumentierte Herkunft, wobei Artikel 10(5) die begrenzte Verarbeitung von besonderen Kategorien von Gesundheitsdaten ausschließlich zur Erkennung und Korrektur von Voreingenommenheit unter Sicherheitsvorkehrungen zulässt.
• Artikel 12 — Protokollierung. Automatische Aufzeichnung von Ereignissen über die Lebensdauer des Systems, so dass eine klinische Entscheidung rekonstruiert und nachverfolgt werden kann.
• Artikel 14 — menschliche Aufsicht. Ein Kliniker muss in der Lage sein, die Ausgabe der KI zu verstehen, ihre Verwendung zu überwachen, zu übergehen oder zu ignorieren — der Kliniker in der Schleife bleibt klinisch und rechtlich verantwortlich für den Patienten.