یورپی یونین کی ای آئی ایکٹ کا مضمون 14: انسانی نظارت کی پیروی گائیڈ لائن

کیا آرٹیکل 14 کے مطالبے ہیں

پرووڈر کو انسانی ہم جنس رابطے والے اعلیٰ خطرہ والے آئی ایس سسٹم بنانا ہوگا جو انہیں سسٹم کے پورے دورانیے میں اس پر اثر انداز ہونے کی اجازت دیتا ہے۔ مقصد صحت، سلامتی یا بنیادی حقوق پر خطرے کو روکنا یا کم کرنا ہے۔

مضبوط طور پر، مضمون 14 ایک 'انسان کے حکم' فلسفہ کو لپیٹتا ہے۔ صرف ایک انسان کے لپیٹ میں رہنا کافی نہیں ہے — وہ انسان کو حقیقی صلاحیت اور اختیار ہونا چاہیے کہ وہ سمجھ سکتا ہو، مداخلت کر سکتا ہو، اور اوور رائیڈ کر سکتا ہو۔

سکس اوورسیٹنگ کی صلاحیتوں کی ضرورت ہے

متن 14(4) چھ مخصوص صلاحیتوں کی فہرست پیش کرتا ہے جن کے لیے انسانی نگرانی کو یہ صلاحیتوں کو ممکن بنانے کی ضرورت ہے:

• صلاحیتوں اور محدودیتوں کو سمجھیں — جس میں جانے جانے والے biases، error tendencies، اور accuracy bounds شامل ہیں
• غیر معمولی حالات کی نگرانی — جس میں تبدیلی، غیر معمولی عناصر، اور زوال شامل ہیں
• معنی نکلنے والے نتائج — شفافیت اور وضاحت کی خصوصیات کے ذریعے مدد فراہم کرتا ہے
• استعمال نہیں کرنے کا فیصلہ کریں — مناسب حالات میں AI کے آؤٹ پٹ پر عمل کرنے سے انکار کریں
• مذاکرات کرنا یا روکنا — روکنے والے دباؤ، رکاوٹ، یا انتظامی معائنے میں رکاوٹ
• ٹھیک یا پھیر — نتیجہ تبدیل کرنا جسے AI نے پیدا کیا ہوگا

دستاویز کی ضروریات

سیسٹم ڈیزائن کے باوجود، ڈپلوئرز کو یہ ثابت کرنے کے لیے دستاویزات برقرار رکھنی ہوں گی کہ نظارت موثر ہے:

• مقررہ نگرانی کی ذمہ دار ادارہ (جس کے پاس اوور رائیڈ کی طاقت ہے)
• Oversight کے عملہ کے لیے تربیت کے ریکارڈ
• اووررائیڈ پروسیجرز اور ایسکلیٹیشن پتھ
• Logged واقعات مداخلت اور منطق
• آڈٹ کی تیاری کے لئے ریکارڈ جب نگرانی کی گئی تھی vs. جب نہیں تھی

خاص Rule: بیومیکٹرک شناخت

دور دراز بیومیتریک شناختی شناخت نظاموں کے لیے، آرٹیکل 14 مزید تقاضوں کا حامل ہے:

مهم فیصلے کم از کم دو ذی کفایتہ افراد کی طرف سے تصدیق کیے جانی چاہیئے، مگر تنگ تنگ قانونی اور سرحدی کنٹرول کے معاملات کے علاوہ۔