부록 III 고위험 AI 시스템: 6조 분류 지침

AI 시스템을 고위험으로 만드는 것은 무엇입니까?

6조는 두 가지 독립적인 경로를 만듭니다. 둘 중 하나에 해당하면 고위험으로 분류되며, 이는 부록 IV의 전체 문서, 9조~15조의 통제 및 적합성 평가 의무를 유발합니다.

두 가지 경로: 6조(1)은 규제 대상 제품의 안전 구성 요소로 사용되는 AI를 다룹니다. 6조(2) + 부록 III은 8가지 특정 사용 사례 범주에 있는 독립형 AI를 다룹니다.

경로 1: 안전 구성 요소(6조(1))

AI가 EU 부문별 법률에 따라 규제되는 제품의 안전 구성 요소이거나 그 자체로 그러한 제품인 경우 자동으로 고위험으로 분류됩니다.

적합성 평가는 지정된 기관에 의해 수행되어야 합니다.

경로 2: 부록 III 사용 사례(6조(2))

8가지 사용 사례 범주는 기본 기술에 관계없이 고위험 분류를 유발합니다.

• 생체 인식: 원격 생체 인식 및 감정 인식 시스템
• 핵심 인프라: 에너지, 물, 가스, 난방 및 디지털 인프라의 AI
• 교육: 학생 평가, 시험 채점 및 학습 분석을 위한 AI
• 고용: 이력서 검토, 면접 분석, 작업 할당, 성과 평가, 해고 결정
• 필수 서비스: 신용 평가, 대출 승인, 보험 가격 책정, 긴급 서비스 파견
• 법 집행: 위험 평가, 거짓말 탐지기, 증거 평가, 프로파일링
• 이민 및 망명: 비자 신청, 망명 처리, 국경 통제
• 사법: 판결 지원, 사건 결과 예측, 법률 연구

제6조(3)항 면제

제3조 부록에 따른 AI 시스템은 건강, 안전 또는 기본권에 심각한 위험을 초래하지 않는 경우 면제될 수 있습니다.

인정되는 사례에는 좁은 범위의 절차적 작업, 이전에 완료된 인간 활동의 결과를 개선, 인간의 평가를 대체하지 않고 의사 결정 패턴을 감지하거나, 후속 인간 의사 결정을 위한 준비 작업이 포함됩니다. 프로파일링은 항상 고위험 작업입니다. 시스템이 자연인의 프로파일링을 수행하는 경우 면제가 적용되지 않습니다.

면제를 주장하는 경우, 그 이유를 철저히 문서화하십시오. 규제 기관에서 이의를 제기할 수 있습니다.

고위험인 경우 문서화 요구 사항

고위험 AI 시스템은 포괄적인 규정 준수 문서를 유지해야 합니다.

• 제4조 부록 기술 문서
• 제9조 위험 관리 시스템
• 제10조 데이터 거버넌스 기록
• 제12조 프로덕션 환경 로깅
• 제14조 인간 감독 설계
• 적합성 평가 + CE 마킹
• EU AI 데이터베이스 등록