Phụ lục III: Các Hệ thống AI có Rủi ro Cao: Hướng dẫn Phân loại theo Điều 6

Điều gì khiến một Hệ thống AI trở thành Hệ thống có Rủi ro Cao?

Điều 6 tạo ra hai phương pháp độc lập. Việc đáp ứng một trong hai phương pháp sẽ khiến hệ thống trở thành hệ thống có rủi ro cao — và kích hoạt toàn bộ tài liệu trong Phụ lục IV, các quy định từ Điều 9–15 và các nghĩa vụ tuân thủ.

Hai phương pháp: Điều 6(1) bao gồm AI được sử dụng như một thành phần an toàn trong các sản phẩm được quy định. Điều 6(2) + Phụ lục III bao gồm AI độc lập trong tám danh mục trường hợp sử dụng cụ thể.

Phương pháp 1: Thành phần An toàn (Điều 6(1))

Nếu AI của bạn là một thành phần an toàn của một sản phẩm thuộc phạm vi điều chỉnh của luật pháp ngành của EU (thiết bị y tế, xe cộ, máy móc, thang máy, đồ chơi, v.v.) hoặc bản thân nó là một sản phẩm như vậy, thì nó sẽ tự động được coi là hệ thống có rủi ro cao.

Việc đánh giá sự phù hợp phải được thực hiện bởi một tổ chức được chỉ định.

Phương pháp 2: Các Trường hợp Sử dụng trong Phụ lục III (Điều 6(2))

Tám danh mục trường hợp sử dụng kích hoạt việc phân loại là hệ thống có rủi ro cao bất kể công nghệ cơ bản:

• Sinh trắc học: Các hệ thống nhận dạng sinh trắc học từ xa và nhận dạng cảm xúc
• Cơ sở hạ tầng quan trọng: AI trong năng lượng, nước, khí đốt, sưởi ấm và cơ sở hạ tầng kỹ thuật số
• Giáo dục: AI để đánh giá học sinh, chấm điểm bài kiểm tra và phân tích học tập
• Việc làm: Sàng lọc CV, phân tích phỏng vấn, phân bổ nhiệm vụ, đánh giá hiệu suất, quyết định chấm dứt hợp đồng
• Các dịch vụ thiết yếu: Đánh giá tín dụng, phê duyệt khoản vay, định giá bảo hiểm, điều phối dịch vụ khẩn cấp
• Thực thi pháp luật: Đánh giá rủi ro, máy dò nói dối, đánh giá bằng chứng, lập hồ sơ
• Di cư & Tị nạn: Đơn xin thị thực, xử lý đơn xin tị nạn, kiểm soát biên giới
• Tư pháp: Hỗ trợ đưa ra bản án, dự đoán kết quả vụ án, nghiên cứu pháp lý

Quy định miễn trừ Điều 6(3)

Một hệ thống AI thuộc Phụ lục III có thể được miễn trừ nếu nó không gây ra rủi ro đáng kể cho sức khỏe, an toàn hoặc các quyền cơ bản.

Các trường hợp được công nhận bao gồm các tác vụ thủ tục hẹp, cải thiện kết quả của một hoạt động của con người đã hoàn thành trước đó, phát hiện các mẫu quyết định mà không thay thế đánh giá của con người hoặc các tác vụ chuẩn bị cho một quyết định của con người ở giai đoạn sau. Việc phân loại luôn có rủi ro cao. Quy định miễn trừ không áp dụng nếu hệ thống thực hiện việc phân loại đối với cá nhân.

Nếu bạn yêu cầu miễn trừ, hãy ghi lại đầy đủ lý do. Các cơ quan quản lý có thể đặt câu hỏi về điều này.

Yêu cầu về tài liệu nếu là hệ thống rủi ro cao

Các hệ thống AI rủi ro cao phải duy trì tài liệu tuân thủ đầy đủ:

• Tài liệu kỹ thuật Phụ lục IV
• Hệ thống quản lý rủi ro Điều 9
• Hồ sơ quản trị dữ liệu Điều 10
• Ghi nhật ký trong quá trình sản xuất Điều 12
• Thiết kế giám sát của con người Điều 14
• Đánh giá sự phù hợp + Dấu CE
• Đăng ký vào cơ sở dữ liệu AI của EU