EU-KI-Verordnung für Finanzdienstleistungen: Kreditwürdigkeits- und Versicherungs-KI

Welche Finanz-KI gilt als KI mit hohem Risiko

Anhang III Punkt 5 listet zwei Finanzdienstleistungsanwendungsfälle explizit auf:

• Punkt 5(b) — Kreditwürdigkeit und Kreditwürdigkeitsbewertung. KI, die zur Bewertung der Kreditwürdigkeit von natürlichen Personen oder zur Feststellung ihrer Kreditwürdigkeit verwendet wird, gilt als KI mit hohem Risiko, mit einer Ausnahme für KI, die zur Erkennung von Finanzbetrug verwendet wird.
• Punkt 5(c) — Versicherung. KI, die für Risikobewertungen und Preisgestaltung in Bezug auf natürliche Personen für Lebens- und Krankenversicherungen verwendet wird, gilt als KI mit hohem Risiko.
• Umfangs hinweis. Die Kennzeichnung als KI mit hohem Risiko bezieht sich auf Entscheidungen über natürliche Personen. Reine Back-Office-Betrugsbekämpfung und prudential-modellhafte Verwendung, die keine individuellen Entscheidungen über den Zugang zu Krediten oder Versicherungen trifft, liegen außerhalb dieser beiden Punkte.

Klassifizieren Sie jedes Modell individuell gegen Anhang III Punkt 5 — eine einzelne Kreditplattform kann sowohl im Umfang fallende Bewertungsmodelle als auch außerhalb des Umfangs fallende Betrugsmodelle ausführen.

Interaktion mit bestehenden Finanzregulierungen

Finanzinstitute sind bereits stark reguliert; die KI-Verordnung schichtet sich darüber, nicht statt dessen.

Die Verordnung koordiniert mit sektoralen Rechtsvorschriften: für Kreditinstitute können die internen Governance- und Risikomanagementpflichten unter dem CRD (und dem Basel-Rahmen, den es umsetzt) die Anforderungen an KI mit hohem Risiko der KI-Verordnung beherbergen, und die EU-KI-Verordnung erlaubt, dass diese in bestehende interne Prozesse integriert werden, anstatt dupliziert zu werden. Wo Unternehmen Anlagevermittlungsdienstleistungen erbringen, überlappen die MiFID-II-Anforderungen an Eignung und Aufzeichnungen mit den Protokollierungs- und Aufsichtsanforderungen der KI-Verordnung. Die Europäische Bankenaufsichtsbehörde und andere Aufsichtsbehörden geben weiterhin Richtlinien zur Modellverwaltung und zur Verwendung von KI heraus, die die Konformität mit der KI-Verordnung ergänzen, aber nicht ersetzen.

Ordnen Sie jede KI-Verordnungs-Verpflichtung der sektoralen Kontrolle zu, die bereits davon abgedeckt wird, so dass Sie ein Governance-Regime erweitern, anstatt zwei separate Regime durchzuführen.

Erklärbarkeit und Begründung für ablehnende Maßnahmen

Ein abgelehnter Antragsteller wird fragen, warum — und die Verordnung gibt ihm einen Weg zu einer Antwort:

• Artikel 86 — Recht auf Erklärung. Eine Person, die einer KI-Entscheidung mit hohem Risiko unterliegt, die rechtliche oder ähnlich bedeutende Auswirkungen hat (wie eine abgelehnte Kreditanfrage), hat das Recht auf eine klare, bedeutungsvolle Erklärung der Rolle, die die KI bei dieser Entscheidung gespielt hat.
• Artikel 13 — Transparenz gegenüber Anbietern. Der Kreditgeber oder Versicherer, der das Modell einsetzt, muss genügend Informationen erhalten, um die Ausgabe des Modells zu interpretieren und richtig zu verwenden.
• Artikel 14 — menschliche Aufsicht. Eine Person muss in der Lage sein, eine automatisierte Kredit- oder Versicherungsentscheidung zu überprüfen und zu übergehen, nicht nur zu bestätigen.
• Artikel 12 — Protokollierung. Die Eingaben und die Begründung hinter jeder Entscheidung müssen aufgezeichnet werden, so dass eine Begründung für ablehnende Maßnahmen für den Kunden und den Prüfer rekonstruiert werden kann.