Đánh giá sự phù hợp và quản lý rủi ro theo Điều 9 của Đạo luật AI của EU

Điều 9: Hệ thống quản lý rủi ro

Quản lý rủi ro theo Điều 9 là một quá trình liên tục trong suốt vòng đời của hệ thống AI. Các yếu tố cần thiết:

• Xác định và phân tích các rủi ro đã biết và có thể dự đoán một cách hợp lý
• Ước tính và đánh giá các rủi ro trong các tình huống sử dụng dự kiến và các tình huống sử dụng sai mục đích có thể xảy ra
• Đánh giá các rủi ro phát sinh từ việc giám sát sau khi đưa sản phẩm ra thị trường
• Áp dụng các biện pháp quản lý rủi ro phù hợp và có mục tiêu
• Kiểm tra các rủi ro còn lại so với các tiêu chí chấp nhận

Điều 9 quy định rõ ràng rằng các biện pháp quản lý rủi ro phải được cân bằng với trình độ công nghệ hiện tại — những gì có thể đạt được một cách hợp lý ngày nay, chứ không phải là sự hoàn hảo về mặt lý thuyết.

Các phương thức đánh giá sự phù hợp

Hai phương thức chính tùy thuộc vào loại hệ thống AI:

• Kiểm soát nội bộ (Phụ lục VI) — tự đánh giá của nhà cung cấp bằng cách sử dụng các tiêu chuẩn hài hòa. Có sẵn cho hầu hết các hệ thống có rủi ro cao độc lập được liệt kê trong Phụ lục III.
• Tổ chức được chỉ định (Phụ lục VII) — đánh giá của bên thứ ba bởi một tổ chức được chỉ định bởi EU. Bắt buộc đối với các hệ thống nhận dạng sinh trắc học và AI được sử dụng như một thành phần an toàn của các sản phẩm được quy định.

Dấu CE và đăng ký vào cơ sở dữ liệu của EU

Khi sự phù hợp đã được xác định, hãy hoàn thành các bước cuối cùng này trước khi đưa sản phẩm ra thị trường:

• Khi sự phù hợp đã được đánh giá, hãy soạn thảo một tuyên bố về sự phù hợp của EU
• Gắn dấu CE vào hệ thống AI (hoặc bao bì/tài liệu của hệ thống nếu không phải là sản phẩm vật lý)
• Đăng ký hệ thống AI trong cơ sở dữ liệu AI của EU trước khi đưa ra thị trường
• Lưu giữ tài liệu kỹ thuật trong ít nhất 10 năm sau khi đưa sản phẩm ra thị trường

Các nghĩa vụ liên tục

Sự phù hợp không phải là một sự kiện một lần:

Các sửa đổi đáng kể sẽ kích hoạt việc đánh giá lại. Việc giám sát sau khi đưa sản phẩm ra thị trường theo Điều 72 sẽ cung cấp thông tin phản hồi cho việc quản lý rủi ro theo Điều 9. Các sự cố nghiêm trọng phải được báo cáo cho cơ quan chức năng theo Điều 73.