Rozporządzenie UE o AI dla usług finansowych: ocena kredytowa i AI ubezpieczeniowa

Który AI finansowy jest wysokiego ryzyka

Punkt 5 załącznika III wymienia dwa przypadki użycia usług finansowych w sposób wyraźny:

• Punkt 5(b) — ocena kredytowa. AI stosowany do oceny wiarygodności kredytowej osób fizycznych lub ustalenia ich oceny kredytowej jest wysokiego ryzyka, z wyłączeniem AI stosowanego do wykrywania oszustw finansowych.
• Punkt 5(c) — ubezpieczenia. AI stosowany do oceny ryzyka i ustalania cen w odniesieniu do osób fizycznych w ubezpieczeniach na życie i zdrowie jest wysokiego ryzyka.
• Uwaga dotycząca zakresu. Oznaczenie wysokiego ryzyka dotyczy decyzji dotyczących osób fizycznych. Czysto biurowe wykrywanie oszustw i użycie modeli ostrożnościowych, które nie decydują o dostępie osób do kredytu lub ubezpieczenia, pozostają poza tymi dwoma punktami.

Klasyfikuj każdy model przeciwko punktowi 5 załącznika III indywidualnie — jedna platforma kredytowa może uruchamiać zarówno modele oceny kredytowej w zakresie, jak i modele wykrywania oszustw poza zakresem.

Wzajemne powiązanie z istniejącymi przepisami finansowymi

Firmy finansowe są już objęte ciężką regulacją; rozporządzenie o AI nakłada się obok, a nie zamiast, tej sterty.

Rozporządzenie koordynuje się z prawem sektorowym: dla instytucji kredytowych obowiązki wewnętrznego zarządzania i zarządzania ryzykiem zgodnie z CRD (i wdrażanym przez nie ramami Basel) mogą hostować obowiązki zarządzania ryzykiem zgodnie z artykułem 9 rozporządzenia o AI, a rozporządzenie UE o AI pozwala na ich włączenie do istniejących procesów wewnętrznych, zamiast ich powielania. Gdzie firmy świadczą usługi inwestycyjne, obowiązki zgodności z MiFID II i rejestrowania pokrywają się z rejestrowaniem i nadzorem AI.

Mapuj każdy obowiązek rozporządzenia o AI na kontrolę sektorową, która już go obejmuje, aby rozciągać jeden framework zarządzania zamiast prowadzenia dwóch.

Wyjaśnialność i uzasadnienie działań niekorzystnych

Odrzucony wnioskodawca zapyta, dlaczego — a rozporządzenie daje im drogę do odpowiedzi:

• Artykuł 86 — prawo do wyjaśnienia. Osoba poddana decyzji wysokiego ryzyka, która wywołuje skutki prawne lub podobne, ma prawo do jasnego, znaczącego wyjaśnienia roli AI w tej decyzji.
• Artykuł 13 — transparentność dla wdrożycieli. Wdrożyciel modelu musi otrzymać wystarczające informacje, aby zinterpretować jego dane wyjściowe i użyć go prawidłowo.
• Artykuł 14 — nadzór ludzki. Osoba musi być w stanie przeglądać i anulować zautomatyzowaną decyzję kredytową lub ubezpieczeniową, a nie tylko ją zatwierdzać.
• Artykuł 12 — rejestrowanie. Dane wejściowe i powody każdej decyzji muszą być zarejestrowane, aby można było odtworzyć uzasadnienie działań niekorzystnych dla klienta i audytora.