付録III 高リスクAIシステム：第6条の分類ガイド

AIシステムを高リスクにするものは何ですか？

第6条は、2つの独立した経路を作成します。どちらかの経路に該当する場合、高リスクとなり、完全な付録IVの文書、第9条から第15条の管理、および適合性評価の義務が適用されます。

2つの経路：第6条（1）は、規制対象の製品における安全コンポーネントとして使用されるAIを対象とします。第6条（2）+付録IIIは、8つの特定のユースケースカテゴリにおけるスタンドアロンのAIを対象とします。

経路1：安全コンポーネント（第6条（1）)

AIが、EUのセクター別法によって規制された製品（医療機器、車両、機械、リフト、おもちゃなど）の安全コンポーネントである場合、またはそれ自体がそのような製品である場合は、自動的に高リスクになります。

適合性評価は、指定された認証機関によって実施される必要があります。

経路2：付録IIIの使用事例（第6条（2）)

8つのユースケースカテゴリは、基盤となるテクノロジーに関係なく、高リスク分類をトリガーします。

• 生体認証：リモート生体認証および感情認識システム
• 重要インフラ：エネルギー、水、ガス、暖房、およびデジタルインフラにおけるAI
• 教育：学生の評価、試験の採点、および学習分析のためのAI
• 雇用：履歴書のスクリーニング、面接の分析、タスクの割り当て、パフォーマンスの評価、解雇の決定
• 不可欠なサービス：信用スコアリング、融資の承認、保険の価格設定、緊急サービスの派遣
• 法執行：リスク評価、ポリグラフ、証拠の評価、プロファイリング
• 移住と亡命：ビザ申請、亡命手続き、国境管理
• 司法：量刑の支援、事件の結果の予測、法的調査

第6条(3)の免除

第III条のAIシステムは、健康、安全、または基本的人権に重大なリスクをもたらさない場合、免除の対象となる可能性があります。

認められる事例としては、狭い範囲の手続きタスク、以前に完了した人間の活動の結果を改善すること、人間の評価に取って代わることなく意思決定パターンを検出すること、または下流の人間による意思決定のための準備タスクなどがあります。プロファイリングは常に高リスクです。 この免除は、システムが個人のプロファイリングを実行する場合には適用されません。

免除を主張する場合は、その根拠を詳細に文書化してください。規制当局が異議を申し立てる可能性があります。

高リスクの場合の文書化要件

高リスクのAIシステムは、包括的なコンプライアンス文書を維持する必要があります。

• 第IV条の技術文書
• 第9条のリスク管理システム
• 第10条のデータガバナンス記録
• 第12条の運用中のロギング
• 第14条の人間による監視設計
• 適合性評価 + CEマーク
• EU AIデータベースへの登録