Rozporządzenie UE o AI dla ochrony zdrowia: zgodność z wysokim ryzykiem AI medycznym
AI stosowany do diagnozy medycznej, triażu pacjentów i zaleceń leczniczych jest wysokiego ryzyka zgodnie z rozporządzeniem UE o AI. Ten przewodnik wyjaśnia, jak rozporządzenie wchodzi w interakcję z rozporządzeniem w sprawie wyrobów medycznych (MDR) i IVDR, oraz co artykuły 9, 10, 12 i 14 wymagają od dostawców AI klinicznego i szpitali, które je wdrożą.
Rozporządzenie UE o AI dla ochrony zdrowia: zgodność z wysokim ryzykiem AI medycznym
AI stosowany do diagnozy medycznej, triażu pacjentów i zaleceń leczniczych jest wysokiego ryzyka zgodnie z rozporządzeniem UE o AI. Ten przewodnik wyjaśnia, jak rozporządzenie wchodzi w interakcję z rozporządzeniem w sprawie wyrobów medycznych (MDR) i IVDR, oraz co artykuły 9, 10, 12 i 14 wymagają od dostawców AI klinicznego i szpitali, które je wdrożą.
Ostatnia aktualizacja: 4 lipca 2026
Dlaczego AI kliniczny jest wysokiego ryzyka
AI w ochronie zdrowia osiąga poziom wysokiego ryzyka poprzez dwie odrębne ścieżki, a wiele systemów dotyka obu:
- Artykuł 6(1) — produkty medyczne regulowane. AI, który jest urządzeniem medycznym lub składową bezpieczeństwa (obrazowanie diagnostyczne, oprogramowanie wspomagające decyzje, analizatory IVD) jest wysokiego ryzyka, gdy już wymaga oceny zgodności przez stronę trzecią zgodnie z MDR (rozporządzenie UE 2017/745) lub IVDR (rozporządzenie UE 2017/746).
- Punkt 5(d) załącznika III — triaż w sytuacjach awaryjnych. AI stosowany do triażu pacjentów lub dysponowania usługami pierwszej pomocy jest wymieniony bezpośrednio w załączniku III, niezależnie od statusu urządzenia.
- Punkt 5(a) załącznika III — dostęp do opieki zdrowotnej. AI, który ocenia uprawnienia osoby do publicznych świadczeń i usług zdrowotnych, jest również wysokiego ryzyka.
Narzędzia do zaleceń leczniczych i wspomagania diagnostyki zwykle kwalifikują się jako wysokiego ryzyka. Ogólne aplikacje wellness bez celu medycznego zwykle nie — klasyfikuj każdy system przeciwko artykułowi 6 i załącznikowi III, zamiast zakładać.
Wzajemne powiązanie z MDR i IVDR
Rozporządzenie o AI nie zastępuje prawa dotyczącego urządzeń medycznych — nakłada się na nie.
Dla AI, który jest urządzeniem medycznym, wymagania dotyczące wysokiego ryzyka rozporządzenia o AI są zintegrowane z istniejącą procedurą oceny zgodności MDR/IVDR, a nie prowadzone jako oddzielny tor, więc pojedyncza ocena jednostki notyfikowanej może objąć oba reżimy. Producentom nadal potrzebne jest oznaczenie CE zgodnie z MDR/IVDR, a rozporządzenie o AI dodaje obowiązki — zarządzanie ryzykiem, zarządzanie danymi, rejestrowanie, nadzór ludzki i dokumentacja techniczna — na szczycie obowiązków oceny klinicznej i nadzoru rynku, które już ponoszą.
Konsekwencja praktyczna: plik techniczny MDR i dokumentacja załącznika IV rozporządzenia o AI powinny być opracowane jako jeden spójny zestaw dowodów, a nie dwa.
Podstawowe obowiązki dla AI klinicznego
Artykuły nośne dla systemu AI wysokiego ryzyka w ochronie zdrowia:
- Artykuł 9 — zarządzanie ryzykiem. Ciągły, przez cały cykl życia system zarządzania ryzykiem obejmujący rozsądnie przewidywalne kliniczne przypadki użycia i resztkowe ryzyko dla pacjentów.
- Artykuł 10 — zarządzanie danymi. Dane szkoleniowe, walidacyjne i testowe muszą być istotne i odpowiednio reprezentatywne; zestawy danych klinicznych wymagają badania pod kątem stronniczości i udokumentowanego pochodzenia, a artykuł 10(5) zezwala na ograniczone przetwarzanie specjalnych kategorii danych zdrowotnych wyłącznie w celu wykrycia i skorygowania stronniczości, pod warunkiem zabezpieczeń.
- Artykuł 12 — rejestrowanie. Automatyczne rejestrowanie zdarzeń w trakcie całego cyklu życia systemu, aby można było odtworzyć i prześledzić decyzję kliniczną.
- Artykuł 14 — nadzór ludzki. Osoba musi być w stanie zrozumieć, monitorować, anulować lub zignorować dane wyjściowe AI — osoba w pętli klinicznej pozostaje klinicznie i prawnie odpowiedzialna za pacjenta.
Jak AIAgentree pomaga
AIAgentree przechwytuje każdą decyzję AI kliniczną jako niewrażliwy na zmiany zapis z potwierdzeniem klinicysty, dając wam dowód z artykułu 12 i dowód nadzoru z artykułu 14 w jednym miejscu.
- Niewrażliwe na zmiany zapisy decyzji dla każdego wyjścia diagnostycznego, triażu lub zalecenia leczniczego — powody, dane wejściowe i klinicysta, który je przeglądał
- Przepływy pracy nadzoru i zatwierdzania ludzkiego, które wymagają potwierdzenia klinicysty przed lub po zaleceniu AI, z zapisem kto/kiedy/dlaczego dla artykułu 14
- Przechowywanie zgodne z przepisami zgodnie z artykułem 19, z rezydencją danych UE (Niemcy) w celu wyrównania z RODO dotyczącym danych pacjentów, plus wyszukiwanie poprzednich decyzji i śledzenie wyników
- Integracja za pomocą SDK Python i TypeScript za pośrednictwem REST, MCP, A2A i OpenTelemetry — rozpocznij na bezpłatnym poziomie 25 śladów z opóźnieniem rejestrowania asynchronicznego poniżej 10 ms
Często zadawane pytania
Czy sztuczna inteligencja w diagnostyce medycznej jest uznawana za wysokie ryzyko zgodnie z unijną ustawą o AI?
Tak. AI, które jest urządzeniem medycznym lub jego komponentem bezpieczeństwa, jest uznawane za wysokiego ryzyka na mocy artykułu 6 ust. 1, gdy już wymaga oceny zgodności przez stronę trzecią zgodnie z MDR lub IVDR. AI do triage pacjentów w nagłych wypadkach jest osobno wymienione jako wysokiego ryzyka w załączniku III punkt 5(d).
Czy Ustawa o AI zastępuje MDR i IVDR dla medycznej sztucznej inteligencji?
Nie. To się do nich dodaje. Wysokiego ryzyka wymagania Ustawy o AI są zintegrowane z istniejącą procedurą oceny zgodności MDR/IVDR, więc jedna ocena może obejmować obie, ale nadal potrzebujesz oznakowania CE zgodnie z prawem o wyrobach medycznych oraz obowiązków dotyczących zarządzania ryzykiem, zarządzania danymi, rejestrowania i nadzoru wynikających z Ustawy o AI.
Co oznacza nadzór ludzki z artykułu 14 w szpitalu?
Wykwalifikowany klinicysta musi być w stanie zrozumieć wyniki AI, monitorować jego użycie oraz mieć możliwość ich zignorowania lub nadpisania. AI jest wsparciem w podejmowaniu decyzji; klinicysta zachowuje odpowiedzialność kliniczną i prawną za pacjenta. Działania związane z zatwierdzeniem i nadpisywaniem powinny być rejestrowane.
Czy możemy używać rzeczywistych danych pacjentów do szkolenia i testowania klinicznej sztucznej inteligencji na podstawie Artykułu 10?
Dane muszą być istotne, reprezentatywne i poddane badaniu pod kątem stronniczości. Artykuł 10(5) zezwala na przetwarzanie danych zdrowotnych szczególnej kategorii wyłącznie w celu wykrywania i korygowania stronniczości w systemach wysokiego ryzyka, z zachowaniem odpowiednich zabezpieczeń. RODO nadal ma zastosowanie obok obowiązków dotyczących zarządzania danymi wynikających z ustawy o AI.
Kiedy obowiązują zobowiązania wysokiego ryzyka w opiece zdrowotnej?
Obowiązki wysokiego ryzyka na mocy rozporządzenia (UE) 2024/1689 będą miały zastosowanie od 2 grudnia 2027 roku dla samodzielnych systemów z Załącznika III, przesunięte z 2 sierpnia 2026 roku przez Digital Omnibus dotyczący AI. Dostawcy medycznej sztucznej inteligencji powinni teraz dostosować swoje dowody MDR/IVDR oraz dokumentację dotyczącą ustawy o AI, zamiast traktować je jako oddzielne programy.
Kontynuuj eksplorację przewodnika po Akt AI UE
Przewodnik po zgodności z Aktem AI UE
Kompletny przewodnik po zgodności z Aktem AI UE dla agentów AI — zacznij tutaj.
Artykuł 12 — Rejestracja i logowanie
Co każdy system AI o wysokim ryzyku musi logować i jak to przechwytywać.
Artykuł 14 — Nadzór ludzki
Projektowanie skutecznych kontroli z udziałem człowieka w podejmowaniu decyzji przez AI.
Załącznik III — Systemy AI o wysokim ryzyku
Które przypadki użycia AI są klasyfikowane przez Akt jako o wysokim ryzyku.
Lista kontrolna zgodności z Aktem AI UE
Krok po kroku lista kontrolna do osiągnięcia i udokumentowania zgodności.
Kalkulator kosztów zgodności
Oszacuj wysiłek i koszt zgodności z Aktem AI UE.
Terminy i harmonogram
Kluczowe daty po Digital Omnibus: Artykuł 50 już obowiązuje, Załącznik III od 2 grudnia 2027.
Kary i sankcje
Stopnie kar aż do 35 mln euro lub 7% globalnego rocznego obrotu.
Zobowiązania do przejrzystości (Art. 13 i 50)
Obowiązki ujawniania informacji o systemach AI i ich danych wyjściowych.
Zarządzanie ryzykiem i ocena zgodności
Zbuduj system zarządzania ryzykiem i oceniaj zgodność.
Zobowiązania GPAI
Przepisy dla dostawców ogólnych modeli AI.
Akt AI UE dla firm amerykańskich
Zakres terytorialny i co muszą robić amerykańscy dostawcy.
Aktualizacja Omnibus
Najnowsze zmiany w harmonogramie i przepisach Akty AI UE.
Kalkulator kar
Oszacuj maksymalną karę zgodnie z poziomami artykułu 99.
Artykuł 11 + Załącznik IV
Jakie dokumentacja techniczna jest wymagana przez unijne prawo dotyczące sztucznej inteligencji.
Artykuł 26: Zobowiązania wdrożeniowe
Co muszą robić wdrożeniowie sztucznej inteligencji o wysokim ryzyku, w tym przechowywanie logów.
Artykuł 17: Zarządzanie jakością
Jaki system zarządzania jakością muszą udokumentować dostawcy sztucznej inteligencji o wysokim ryzyku.
Artykuł 10: Zarządzanie danymi
Jakość danych, ograniczanie stronniczości i obowiązki związane z zarządzaniem.
Artykuł 4: Literatura sztucznej inteligencji
Obowiązek literatury sztucznej inteligencji dla personelu, który obowiązuje od lutego 2025.
Wdrożeniowie a dostawcy
Kto ponosi jakie zobowiązania — i kiedy wdrożeniowie stają się dostawcami.
FRIA (Artykuł 27)
Kto musi przeprowadzić ocenę wpływu na podstawowe prawa, i jak.
Do kogo ma zastosowanie?
Zakres, operatorzy i terytorialny zasięg unijnego prawa dotyczącego sztucznej inteligencji.
Monitorowanie rynku po wprowadzeniu do obrotu
Artykuły 72–73: ciągłe monitorowanie i raportowanie incydentów.
ISO 42001 a unijne prawo dotyczące sztucznej inteligencji
Jak dobrowolny standard i wiążące prawo pasują do siebie.
NIST AI RMF a unijne prawo dotyczące sztucznej inteligencji
Praktyczne zestawienie między ramą a prawem.
Unijne prawo dotyczące sztucznej inteligencji w usługach finansowych
Ocena kredytowa, ustalanie cen ubezpieczeń i istniejące regulacje finansowe.
Unijne prawo dotyczące sztucznej inteligencji w HR i zatrudnieniu
Zatrudnianie sztucznej inteligencji o wysokim ryzyku, a także nakładanie się z NYC LL144 i EEOC.