Artykuł 11 rozporządzenia UE w sprawie sztucznej inteligencji: Dokumentacja techniczna

Co wymaga Artykuł 11

Dostawca systemu sztucznej inteligencji o wysokim ryzyku musi sporządzić dokumentację techniczną przed wprowadzeniem systemu na rynek lub uruchomieniem go i aktualizować ją przez cały okres istnienia systemu.

Dokumentacja musi wykazać, że system spełnia wymagania rozdziału III, sekcji 2 rozporządzenia UE w sprawie sztucznej inteligencji (zarządzanie ryzykiem, zarządzanie danymi, rejestrowanie, przejrzystość, nadzór ludzki, dokładność i niezawodność), oraz musi dostarczyć właściwym organom i jednostkom notyfikowanym informacje niezbędne do oceny zgodności. Artykuł 11 nakłada obowiązek; Załącznik IV określa wymagane treści. Oba są czytane razem.

Co musi zawierać Załącznik IV

Załącznik IV wymienia minimalne elementy, które dokumentacja techniczna musi zawierać:

• Opis ogólny systemu — przeznaczenie, dostawca, wersje, sposób, w jaki system współpracuje z urządzeniami lub innym oprogramowaniem, oraz formy, w jakich jest wprowadzany na rynek
• Szczegółowy opis procesu rozwoju — specyfikacje projektowe, architektura systemu, kluczowe wybory projektowe i ich uzasadnienie, wykorzystywane zasoby obliczeniowe oraz wymagania i arkusze danych dotyczące danych szkoleniowych, walidacyjnych i testowych
• Monitorowanie, funkcjonowanie i kontrola — możliwości i ograniczenia systemu, oczekiwana dokładność, przewidywalne niezamierzone skutki oraz środki nadzoru ludzkiego wprowadzone zgodnie z artykułem 14
• Wskaźniki wydajności — wykorzystywane wskaźniki dokładności, niezawodności i cyberbezpieczeństwa, dane testowe i procedury walidacji oraz uzyskane wyniki
• System zarządzania ryzykiem — opis systemu zarządzania ryzykiem zgodnie z artykułem 9 oraz pozostałych ryzyk, które pozostają po złagodzeniu
• Plan monitorowania rynku — system stosowany do zbierania i przeglądania danych o rzeczywistej wydajności po wdrożeniu, zgodnie z wymaganiami artykułu 72
• Normy i deklaracje — zastosowane normy zharmonizowane (lub rozwiązania przyjęte, gdy nie były one) oraz kopia deklaracji zgodności UE

Przechowywanie dokumentacji przez dziesięć lat

Dokumentacja techniczna nie jest jednorazowym dostarczeniem. Zgodnie z artykułem 18 dostawca musi przechowywać dokumentację techniczną, deklarację zgodności UE oraz powiązane rekordy do dyspozycji właściwych organów przez dziesięć lat po wprowadzeniu systemu na rynek lub uruchomieniu go.

Ponieważ dokumentacja musi być również aktualizowana w ciągu tej dekady, dostawcy potrzebują żywego systemu rejestrów, a nie statycznego pliku PDF. Każda istotna zmiana modelu, danych lub uzgodnień nadzorczych powinna być odzwierciedlona w dokumentacji i zachowana przez pełne okno przechowywania.

Dla dostawców z sektora MŚP rozporządzenie UE w sprawie sztucznej inteligencji przewiduje uproszczony format dokumentacji technicznej, ale obowiązek przechowywania przez dziesięć lat nadal ma zastosowanie.

Związek z dziennikami artykułu 12

Dokumentacja Załącznika IV opisuje, jak system jest zaprojektowany do rejestrowania zdarzeń; artykuł 12 wymaga, aby system generował te dzienniki zdarzeń podczas eksploatacji.

Są to uzupełniające się dowody. Dokumentacja techniczna wyjaśnia możliwości rejestrowania, podejście do przechowywania i projektowanie śledzenia, podczas gdy automatycznie generowane dzienniki są bieżącym zapisem, który dowodzi, że system zachowywał się zgodnie z dokumentacją. Gdy regulator poprosi o wykazanie zgodności, oczekuje, że opis Załącznika IV i dzienniki artykułu 12 będą się zgadzać. Traktuj dokumentację techniczną i rejestrowanie jako jeden, ciągle utrzymywany strumień dowodów.