Nếu các đại lý AI của bạn hoạt động trong các danh mục 4 (việc làm) hoặc 5 (dịch vụ thiết yếu), bạn gần như chắc chắn phải tuân thủ đầy đủ các yêu cầu của Điều 6. Đây là những trường hợp sử dụng AI doanh nghiệp có khối lượng cao nhất.

Điều 12: Lưu trữ hồ sơ & Dấu vết kiểm toán

Các hệ thống AI có rủi ro cao sẽ được thiết kế và phát triển với khả năng cho phép tự động ghi lại các sự kiện ('nhật ký') [...] Các khả năng ghi nhật ký sẽ đảm bảo một mức độ truy xuất nguồn gốc của chức năng của hệ thống AI [...] phù hợp với mục đích dự kiến.

Bạn cần các nhật ký cho phép theo dõi quyết định — không chỉ là các cuộc gọi API, mà còn là lý do.

Điều 13: Minh bạch & Thông tin

Các hệ thống AI có rủi ro cao sẽ được thiết kế và phát triển theo cách đảm bảo rằng hoạt động của chúng đủ minh bạch để cho phép người triển khai hiểu được đầu ra của hệ thống và sử dụng nó một cách thích hợp.

Dịch: Kết quả quyết định phải có thể giải thích. Hộp đen không tuân thủ.

Điều 14: Giám sát của con người

Các hệ thống AI có rủi ro cao sẽ được thiết kế và phát triển theo cách [...] để cho phép các cá nhân mà việc giám sát của con người được giao cho [...] hiểu đầy đủ các khả năng và giới hạn của hệ thống AI và có thể giám sát hoạt động của nó một cách thích hợp.

Translation: Con người phải có khả năng hiểu, giám sát và can thiệp.

Khi một cơ quan quản lý hỏi "tại sao tín dụng này được phê duyệt mặc dù điểm số?", nhật ký không có câu trả lời. Dấu vết quyết định thì có.

Vấn đề CoT

Chuỗi suy nghĩ được tạo ra sau khi sự việc xảy ra. Nó không trung thành với tính toán nội bộ của mô hình. Hai lời nhắc có thể tạo ra cùng một quyết định với những "giải thích" khác nhau. Diễn giải làm việc của Ủy ban đang tiến tới yêu cầu ghi lại điểm quyết định, không phải tái cấu trúc sau khi sự việc xảy ra.

Quá trình theo dõi quyết định ghi lại các tài liệu có cấu trúc tại thời điểm quyết định — không phải là những câu chuyện được tái tạo sau đó. Điều này đáp ứng yêu cầu của Điều 12 về "ghi âm tự động" mà "cho phép theo dõi."

Trí tuệ nhân tạo trong chăm sóc sức khỏe

Các hệ thống AI hỗ trợ chẩn đoán, khuyến nghị điều trị hoặc phân loại bệnh nhân thuộc Phụ lục III. Điều 6 yêu cầu ghi lại các bằng chứng lâm sàng đã được xem xét, các chẩn đoán phân biệt đã được đánh giá và chuỗi lý do dẫn đến khuyến nghị.

Yêu cầu chính: Các bức ảnh bằng chứng phải đóng băng dữ liệu lâm sàng tại thời điểm quyết định. Việc tái cấu trúc sau đó từ hồ sơ bệnh nhân hiện tại là không tuân thủ.

Dịch vụ Tài chính

Điểm tín dụng, thẩm định bảo hiểm và phát hiện gian lận thuộc danh mục rủi ro cao loại 5. Điều 6 yêu cầu ghi chép các yếu tố nào đã ảnh hưởng đến quyết định, cách chúng được đánh giá và điều gì sẽ thay đổi kết quả.

Yêu cầu chính: Khi một ứng viên hỏi "tại sao tôi bị từ chối?", bạn phải có khả năng trích dẫn các yếu tố cụ thể từ dấu vết quyết định — không tái tạo một lời giải thích.

Nhân sự & Việc làm

Quy trình sàng lọc tuyển dụng, đánh giá hiệu suất và quyết định chấm dứt hợp đồng là những rủi ro cao thuộc loại 4. Các yêu cầu tại Điều 6 đặc biệt nghiêm ngặt ở đây do lo ngại về phân biệt đối xử.

Yêu cầu chính: Các dấu vết quyết định phải chứng minh rằng các đặc điểm được bảo vệ không ảnh hưởng đến kết quả. Giám sát thiên kiến yêu cầu lý luận có cấu trúc, không chỉ là kiểm tra kết quả.