Artikel 14 des EU-KI-Gesetzes: Leitfaden zur Implementierung der menschlichen Aufsicht
Artikel 14 schreibt vor, dass Hochrisiko-KI-Systeme so konzipiert sein müssen, dass eine effektive menschliche Aufsicht ermöglicht wird. 'Effektiv' bedeutet in diesem Satz, dass tatsächlich etwas getan wird – und genau dafür wurde AIAgentree entwickelt.
Zuletzt aktualisiert: April 29, 2026
Was Artikel 14 erfordert
Anbieter müssen Hochrisiko-KI-Systeme mit Mensch-Maschine-Schnittstellen so gestalten, dass Menschen das System während seines gesamten Lebenszyklus effektiv überwachen können. Ziel ist es, Risiken für die Gesundheit, Sicherheit oder Grundrechte zu verhindern oder zu minimieren.
Entscheidend ist, dass Artikel 14 eine Philosophie der „menschlichen Kontrolle“ verankert. Es reicht nicht aus, einen Menschen in den Prozess einzubeziehen – dieser Mensch muss tatsächlich die Fähigkeit und Befugnis haben, die Situation zu verstehen, einzugreifen und Entscheidungen zu ändern.
Die sechs erforderlichen Kontrollfähigkeiten
Artikel 14(4) listet sechs spezifische Fähigkeiten auf, die die menschliche Kontrolle ermöglichen muss:
- Verständnis der Fähigkeiten und Einschränkungen – einschließlich bekannter Verzerrungen, Fehlerneigungen und Genauigkeitsgrenzen
- Überwachung auf Anomalien – einschließlich Abweichungen, Ausreißer und Verschlechterungen
- Interpretation der Ergebnisse – unterstützt durch Transparenz- und Erklärbarkeitsfunktionen
- Entscheidung, die Nutzung zu unterlassen – Verweigerung der Anwendung der Ergebnisse der KI, wenn dies angebracht ist
- Eingreifen oder Unterbrechen – Stopptasten, Pause oder Aussetzung zur Überprüfung
- Überschreiben oder Umkehren – Änderung des Ergebnisses, das die KI hätte erzielen können
Dokumentationsanforderungen
Über das Systemdesign hinaus müssen die Anwender eine Dokumentation vorlegen, die belegt, dass die Kontrolle wirksam ist:
- Benannte Kontrollbehörde (wer die Befugnis zur Änderung von Entscheidungen hat)
- Schulungsunterlagen für das Kontrollpersonal
- Verfahren zur Änderung von Entscheidungen und Eskalationswege
- Protokollierte Fälle von Interventionen und die Begründung
- Auditfähige Aufzeichnungen darüber, wann die Kontrolle ausgeübt wurde und wann nicht
Besondere Regel: Biometrische Identifizierung
Für Fernbiometrie-Identifizierungssysteme legt Artikel 14 zusätzliche Anforderungen fest:
Wichtige Entscheidungen müssen von mindestens zwei kompetenten Personen überprüft werden, es sei denn, es handelt sich um enge Szenarien im Bereich der Strafverfolgung und Grenzkontrolle.
Funktionen zur menschlichen Kontrolle von AIAgentree
AIAgentree bietet die Tools, um die Anforderungen von Artikel 14 direkt zu erfüllen:
- Genehmigungs-Workflows für Entscheidungen, die über einem bestimmten Schwellenwert liegen
- Automatische Erfassung von Änderungen von Entscheidungen mit Angaben zu wer/wann/warum
- Musteranalyse, die menschliche und KI-Entscheidungen vergleicht
- Eskalationsbenachrichtigungen, wenn Entscheidungen außerhalb der normalen Parameter liegen
- Auditfähige Kontrollberichte für behördliche Inspektionen
Häufig gestellte Fragen
Ist ein Kontrollkästchen für die „menschliche Beteiligung“ ausreichend, um die Anforderungen von Artikel 14 zu erfüllen?
Nein. Die Kontrolle muss wirksam sein – der Mensch benötigt die Informationen, die Schulung und die Befugnis, tatsächlich einzugreifen. Eine bloße Genehmigung ohne wirkliche Prüfung erfüllt die Anforderungen nicht, und die Aufsichtsbehörden betonen dies.
Was ist, wenn mein KI-System mit hohem Risiko Tausende von Entscheidungen pro Stunde trifft?
Artikel 14 erfordert nicht, dass jede einzelne Entscheidung von einem Menschen überprüft wird. Er erfordert, dass die Kontrolle an den Stellen wirksam ist, an denen ein Eingriff wichtig ist. Eine risikobasierte Überprüfung – eine vollständige Kontrolle für Entscheidungen mit hoher Auswirkung, eine stichprobenartige Überwachung für Routineentscheidungen – ist akzeptabel, wenn dies dokumentiert wird.