Artykuł 17 rozporządzenia UE w sprawie sztucznej inteligencji: System zarządzania jakością (QMS)

Co to jest wymóg systemu QMS

Dostawcy systemów sztucznej inteligencji o wysokim ryzyku muszą ustanowić system zarządzania jakością, który zapewnia zgodność z rozporządzeniem UE w sprawie sztucznej inteligencji, udokumentowany w sposób systematyczny i uporządkowany jako pisemne polityki, procedury i instrukcje.

System QMS jest proporcjonalny do rozmiaru organizacji dostawcy, a dla dostawców, którzy już podlegają sektorowym obowiązkom zarządzania jakością na mocy innych przepisów Unii, wymagania rozporządzenia UE w sprawie sztucznej inteligencji mogą być zintegrowane z istniejącym systemem, a nie powielane. Chodzi o to, aby dostawca wykazał, że zgodność jest powtarzalnym, zarządzanym procesem, a nie jednorazowym wysiłkiem.

Elementy, które system QMS musi udokumentować

Artykuł 17(1) wymienia aspekty, które system zarządzania jakością musi obejmować, co najmniej:

• Strategia zgodności z przepisami — w tym strategia oceny zgodności i zarządzania modyfikacjami systemu o wysokim ryzyku
• Procedury projektowania i rozwoju — techniki, procedury i systematyczne działania dotyczące projektowania, kontroli projektowej i weryfikacji projektowej
• Rozwój i kontrola jakości — procedury dotyczące rozwoju, kontroli jakości i zapewnienia jakości systemu
• Badanie, testowanie i walidacja — procedury, które mają być przeprowadzane przed, w trakcie i po rozwoju, oraz częstotliwość ich wykonywania
• Specyfikacje techniczne i normy — zastosowane normy, a w przypadku, gdy normy zharmonizowane nie są w pełni stosowane, środki użyte do spełnienia wymagań
• Zarządzanie danymi — systemy i procedury dotyczące zbierania, gromadzenia, analizy, oznaczania, przechowywania, filtrowania, wydobywania, agregowania i przechowywania danych
• Zarządzanie ryzykiem — system zarządzania ryzykiem zgodnie z artykułem 9
• Monitorowanie rynku — ustanowienie, wdrożenie i utrzymanie systemu monitorowania rynku zgodnie z artykułem 72
• Zgłaszanie incydentów — procedury dotyczące zgłaszania poważnych incydentów zgodnie z artykułem 73
• Komunikacja i odpowiedzialność — obsługa komunikacji z władzami i innymi stronami, przechowywanie rekordów, zarządzanie zasobami oraz ramy odpowiedzialności określające odpowiedzialność kierownictwa i personelu

Harmonizowana norma jest wciąż opracowywana

W celu wsparcia artykułu 17 dedykowana harmonizowana norma dotycząca systemu zarządzania jakością sztucznej inteligencji jest opracowywana na mocy wniosku Komisji do CEN-CENELEC w sprawie normalizacji.

Prace te są prowadzone pod odniesieniem prEN 18286 (norma dotycząca systemu zarządzania jakością sztucznej inteligencji). Jest to wciąż projekt: prefiks 'pr' oznacza europejską normę w stadium opracowywania, która nie została jeszcze opublikowana ani wymieniona w Dzienniku Urzędowym, więc nie nadaje domniemania zgodności. Dostawcy powinni zaprojektować swój system QMS zgodnie z tekstem artykułu 17 i śledzić normę w trakcie jej dojrzewania — budowanie do projektu może zmniejszyć prace poprawkowe, ale nie jest to zamiennik wymagań prawnych i nie powinno być na niego polegano, jakby już obowiązywał.

Odwołania do norm i ich status publikacji zmieniają się w czasie; zawsze weryfikuj bieżący status prEN 18286 i powiązanych harmonizowanych norm w Dzienniku Urzędowym przed ich zastosowaniem.