EU AI कायदा, लेख 14: मानवी देखरेख अंमलबजावणी मार्गदर्शक

लेख 14 मध्ये काय आवश्यक आहे

प्रदात्यांनी उच्च-जोखीम असलेल्या AI प्रणाली मानवी-मशीन इंटरफेससह डिझाइन करणे आवश्यक आहे, ज्यामुळे मानवांना सिस्टमच्या संपूर्ण जीवनचक्रात प्रभावीपणे देखरेख ठेवता येईल. उद्दिष्ट आरोग्य, सुरक्षा किंवा मूलभूत हक्कांवरील धोके टाळणे किंवा कमी करणे आहे.

सर्वात महत्त्वाचे म्हणजे, कलम 14 मध्ये 'मानवी नियंत्रणा'चे तत्त्व समाविष्ट आहे. केवळ एखादी व्यक्ती प्रणालीमध्ये (लूपमध्ये) असणे पुरेसे नाही - त्या व्यक्तीकडे खऱ्या अर्थाने समजून घेण्याची, हस्तक्षेप करण्याची आणि अंतिम निर्णय बदलण्याची क्षमता आणि अधिकार असणे आवश्यक आहे.

आवश्यक असलेल्या सहा देखरेख क्षमता

कलम 14(4) मध्ये सहा विशिष्ट क्षमतांची यादी आहे, ज्या मानवी देखरेखेने सक्षम करणे आवश्यक आहे:

• क्षमता आणि मर्यादा समजून घेणे - ज्यात ज्ञात पूर्वग्रह, त्रुटी आणि अचूकतेच्या मर्यादांचा समावेश आहे
• विसंगतींसाठी परीक्षण - ज्यात बदल, विसंगत डेटा आणि ऱ्हास यांचा समावेश आहे
• परिणामांचा अर्थ लावणे - पारदर्शकता आणि स्पष्टीकरण वैशिष्ट्यांद्वारे समर्थित
• वापर न करण्याचा निर्णय घेणे - योग्य असेल तेव्हा एआयच्या (AI) परिणामांवर कार्यवाही करण्यास नकार देणे
• हस्तक्षेप करणे किंवा व्यत्यय आणणे - थांबवण्याची बटणे, विराम देणे किंवा पुनरावलोकनासाठी थांबवणे
• अंतिम निर्णय बदलणे - एआयने तयार केलेला अंतिम परिणाम बदलणे

दस्तऐवजीकरण आवश्यकता

सिस्टम डिझाइनच्या पलीकडे, पर्यवेक्षण प्रभावी आहे हे सिद्ध करणारे दस्तऐवज तैनातकर्त्यांनी (deployers) जतन करणे आवश्यक आहे:

• नियुक्त पर्यवेक्षण प्राधिकरण (ज्यांच्याकडे अंतिम निर्णय बदलण्याचा अधिकार आहे)
• पर्यवेक्षण कर्मचाऱ्यांसाठी प्रशिक्षण नोंदी
• अंतिम निर्णय बदलण्याची प्रक्रिया आणि कार्यवाही
• हस्तक्षेप आणि त्यामागच्या कारणांची नोंद
• पर्यवेक्षण कधी केले आणि कधी केले नाही याची तपासणीसाठी नोंदी

विशिष्ट नियम: बायोमेट्रिक ओळख

दूरस्थ बायोमेट्रिक ओळख प्रणालीसाठी, कलम 14 मध्ये अतिरिक्त आवश्यकता आहेत:

महत्वाचे निर्णय किमान दोन सक्षम व्यक्तींद्वारे सत्यापित केले जाणे आवश्यक आहे, विशिष्ट कायदा अंमलबजावणी आणि सीमा नियंत्रण परिस्थिती वगळता.