ईयू एआई अधिनियम का अनुच्छेद 14: मानव निरीक्षण कार्यान्वयन मार्गदर्शिका

अनुच्छेद 14 क्या आवश्यक है

प्रदाताओं को उच्च जोखिम वाले एआई सिस्टम को मानव-मशीन इंटरफेस के साथ डिज़ाइन करना चाहिए जो मनुष्यों को इसके जीवनचक्र के दौरान सिस्टम की प्रभावी ढंग से निगरानी करने की अनुमति देते हैं। लक्ष्य स्वास्थ्य, सुरक्षा या मौलिक अधिकारों के जोखिमों को रोकना या कम करना है।

सबसे महत्वपूर्ण बात यह है कि अनुच्छेद 14 में 'मानव-नियंत्रण' दर्शन को शामिल किया गया है। केवल एक मानव को प्रक्रिया में शामिल करना पर्याप्त नहीं है - उस मानव के पास वास्तव में समझने, हस्तक्षेप करने और ओवरराइड करने की क्षमता और अधिकार होना चाहिए।

आवश्यक छह पर्यवेक्षण क्षमताएं

अनुच्छेद 14(4) छह विशिष्ट क्षमताओं को सूचीबद्ध करता है जिन्हें मानव पर्यवेक्षण को सक्षम करना चाहिए:

• क्षमताओं और सीमाओं को समझें - जिसमें ज्ञात पूर्वाग्रह, त्रुटि प्रवृत्तियाँ और सटीकता सीमाएँ शामिल हैं
• विसंगतियों की निगरानी करें - जिसमें विचलन, बाहरी मान और गिरावट शामिल हैं
• परिणामों की व्याख्या करें - पारदर्शिता और व्याख्यात्मक सुविधाओं द्वारा समर्थित
• उपयोग न करने का निर्णय लें - जब उचित हो तो एआई के आउटपुट पर कार्रवाई करने से इनकार करें
• हस्तक्षेप करें या बाधित करें - स्टॉप बटन, रोकें, या लंबित समीक्षा के लिए रोकें
• ओवरराइड या उलट दें - उस परिणाम को बदलें जो एआई उत्पन्न करता

दस्तावेज़ीकरण आवश्यकताएं

सिस्टम डिज़ाइन से परे, तैनात करने वालों को यह साबित करने वाले दस्तावेज़ों को बनाए रखना चाहिए कि पर्यवेक्षण प्रभावी है:

• निर्दिष्ट पर्यवेक्षण प्राधिकरण (जिसके पास ओवरराइड करने की शक्ति है)
• पर्यवेक्षण कर्मियों के लिए प्रशिक्षण रिकॉर्ड
• ओवरराइड प्रक्रियाएं और वृद्धि मार्ग
• हस्तक्षेप की घटनाओं और उसके तर्क का लॉग
• ऑडिट-तैयार रिकॉर्ड कि पर्यवेक्षण कब किया गया बनाम कब नहीं किया गया

विशेष नियम: बायोमेट्रिक पहचान

दूरस्थ बायोमेट्रिक पहचान प्रणालियों के लिए, अनुच्छेद 14 अतिरिक्त आवश्यकताएं निर्धारित करता है:

महत्वपूर्ण निर्णयों को कम से कम दो सक्षम व्यक्तियों द्वारा सत्यापित किया जाना चाहिए, सिवाय संकीर्ण कानून प्रवर्तन और सीमा नियंत्रण परिदृश्यों के।