มาตรา 12 ของกฎหมาย AI ของสหภาพยุโรป: ข้อกำหนดเกี่ยวกับการบันทึกและการตรวจสอบ

มาตรา 12 กำหนดให้มีอะไรบ้าง

ระบบ AI ที่มีความเสี่ยงสูง ต้องได้รับการออกแบบมาเพื่อให้สามารถบันทึกเหตุการณ์ ('บันทึก') โดยอัตโนมัติ ตลอดอายุการใช้งานของระบบ บันทึกเหล่านี้ต้องสามารถตรวจสอบย้อนกลับได้เพียงพอสำหรับการตรวจสอบหลังการวางตลาด การตรวจสอบด้านกฎระเบียบ และการกำกับดูแลโดยมนุษย์ตามมาตรา 14

มาตรา 12 เป็นหนึ่งในข้อกำหนดไม่กี่ข้อของกฎหมาย AI ของสหภาพยุโรป ที่เรียกร้องให้มีคุณสมบัติทางเทคนิค แทนที่จะเป็นเพียงเอกสารประกอบกระบวนการ ระบบ AI ของคุณต้องสร้างบันทึกเหล่านี้ในขณะที่ทำงาน

ระบบการตรวจสอบของคุณต้องบันทึกอะไรบ้าง

บันทึกตามมาตรา 12 ต้องบันทึกรายละเอียดที่เพียงพอ เพื่อสร้างภาพรวมว่าการตัดสินใจนั้นเกิดขึ้นได้อย่างไรและด้วยเหตุผลอะไร:

• การบันทึกในระดับเหตุการณ์ พร้อมกับเครื่องหมายเวลาที่เชื่อถือได้
• ข้อมูลนำเข้าที่ระบบ AI ได้รับ และข้อมูลนำออกที่ระบบสร้างขึ้น
• ขั้นตอนการประมวลผลภายใน (การพิจารณา การตัดสินใจเบื้องต้น การประเมินนโยบาย)
• การดำเนินการที่เกี่ยวข้องกับมนุษย์: การอนุมัติ การยกเลิก การส่งต่อ
• ข้อมูลสถานะของระบบ ที่เพียงพอต่อการสร้างบริบทของการตัดสินใจซ้ำ
• เหตุการณ์ผิดปกติและการจัดการกับเหตุการณ์เหล่านั้น

ข้อกำหนดทางเทคนิค

กฎหมายระบุคุณสมบัติทางเทคนิคหลายประการที่โครงสร้างพื้นฐานการบันทึกของคุณต้องเป็นไปตาม:

• การบันทึกโดยอัตโนมัติ - การบันทึกด้วยตนเองไม่เป็นไปตามข้อกำหนดของมาตรา 12
• การบันทึกเหตุการณ์ที่เชื่อถือได้และครบถ้วน
• การจัดเก็บที่ปลอดภัยและป้องกันการแก้ไข
• ระยะเวลาการจัดเก็บที่สอดคล้องกับวัตถุประสงค์ที่ตั้งไว้และลักษณะความเสี่ยง
• สามารถส่งออกในรูปแบบที่เหมาะสมสำหรับการตรวจสอบด้านกฎระเบียบ

ช่องว่างในการปฏิบัติตามข้อกำหนดที่พบบ่อย

จากประสบการณ์ในการทำงานร่วมกับทีม AI ขององค์กรต่างๆ เราพบว่าช่องว่างในการปฏิบัติตามข้อกำหนดของมาตรา 12 ที่พบบ่อยที่สุดคือ:

• บันทึกเฉพาะข้อมูลนำออกเท่านั้น ไม่ได้บันทึกเหตุผลที่ทำให้เกิดข้อมูลเหล่านั้น
• ไม่มีหรือมีบันทึกการยกเลิกโดยมนุษย์ไม่ครบถ้วน
• การจัดเก็บบันทึกที่สามารถแก้ไขได้ ซึ่งไม่เป็นไปตามข้อกำหนดด้านการป้องกันการแก้ไข
• ระยะเวลาการจัดเก็บสั้นเกินไปสำหรับการตรวจสอบด้านกฎระเบียบ
• ไม่มีการส่งออกในรูปแบบที่มีโครงสร้าง - มีเพียงการสืบค้นฐานข้อมูลแบบเฉพาะกิจเท่านั้น

เอกสารทางเทคนิคมาตรา 11 + ภาคผนวกที่ 4

มาตรา 11 กำหนดให้มีเอกสารทางเทคนิค ซึ่งเมื่อรวมกับบันทึกตามมาตรา 12 จะแสดงให้เห็นถึงการปฏิบัติตามข้อกำหนด

ภาคผนวกที่ 4 ระบุโครงสร้าง: คำอธิบายระบบ วัตถุประสงค์ที่ตั้งไว้ การเลือกการออกแบบ ข้อมูลการฝึกอบรมและการทดสอบ ขั้นตอนการตรวจสอบ การตรวจสอบ และบันทึกเอง ปฏิบัติต่อทั้งสองส่วนเป็นงานต่อเนื่องส่วนหนึ่ง