Artikel 14 des EU-KI-Gesetzes: Leitfaden zur Implementierung der menschlichen Aufsicht

Was Artikel 14 erfordert

Anbieter müssen Hochrisiko-KI-Systeme mit Mensch-Maschine-Schnittstellen so gestalten, dass Menschen das System während seines gesamten Lebenszyklus effektiv überwachen können. Ziel ist es, Risiken für die Gesundheit, Sicherheit oder Grundrechte zu verhindern oder zu minimieren.

Entscheidend ist, dass Artikel 14 eine Philosophie der „menschlichen Kontrolle“ verankert. Es reicht nicht aus, einen Menschen in den Prozess einzubeziehen – dieser Mensch muss tatsächlich die Fähigkeit und Befugnis haben, die Situation zu verstehen, einzugreifen und Entscheidungen zu ändern.

Die sechs erforderlichen Kontrollfähigkeiten

Artikel 14(4) listet sechs spezifische Fähigkeiten auf, die die menschliche Kontrolle ermöglichen muss:

• Verständnis der Fähigkeiten und Einschränkungen – einschließlich bekannter Verzerrungen, Fehlerneigungen und Genauigkeitsgrenzen
• Überwachung auf Anomalien – einschließlich Abweichungen, Ausreißer und Verschlechterungen
• Interpretation der Ergebnisse – unterstützt durch Transparenz- und Erklärbarkeitsfunktionen
• Entscheidung, die Nutzung zu unterlassen – Verweigerung der Anwendung der Ergebnisse der KI, wenn dies angebracht ist
• Eingreifen oder Unterbrechen – Stopptasten, Pause oder Aussetzung zur Überprüfung
• Überschreiben oder Umkehren – Änderung des Ergebnisses, das die KI hätte erzielen können

Dokumentationsanforderungen

Über das Systemdesign hinaus müssen die Anwender eine Dokumentation vorlegen, die belegt, dass die Kontrolle wirksam ist:

• Benannte Kontrollbehörde (wer die Befugnis zur Änderung von Entscheidungen hat)
• Schulungsunterlagen für das Kontrollpersonal
• Verfahren zur Änderung von Entscheidungen und Eskalationswege
• Protokollierte Fälle von Interventionen und die Begründung
• Auditfähige Aufzeichnungen darüber, wann die Kontrolle ausgeübt wurde und wann nicht

Besondere Regel: Biometrische Identifizierung

Für Fernbiometrie-Identifizierungssysteme legt Artikel 14 zusätzliche Anforderungen fest:

Wichtige Entscheidungen müssen von mindestens zwei kompetenten Personen überprüft werden, es sei denn, es handelt sich um enge Szenarien im Bereich der Strafverfolgung und Grenzkontrolle.