ইইউ এআই আইন, ১২ নং ধারা: লগিং এবং নিরীক্ষণtrail প্রয়োজনীয়তা

১২ নং ধারার প্রয়োজনীয়তা

উচ্চ ঝুঁকিপূর্ণ এআই সিস্টেমগুলিকে এমনভাবে ডিজাইন করতে হবে, যাতে সিস্টেমের জীবনকালে স্বয়ংক্রিয়ভাবে ঘটনা ('লগ') রেকর্ড করা যায়। লগগুলি এমনভাবে তৈরি করতে হবে, যাতে বাজার-পরবর্তী নিরীক্ষণ, নিয়ন্ত্রক পরিদর্শন এবং ১৪ নং ধারার অধীনে মানুষের তত্ত্বাবধানের জন্য পর্যাপ্ত ট্রেসেবিলিটি নিশ্চিত করা যায়।

১২ নং ধারা হল ইইউ এআই আইনের কয়েকটি বাধ্যবাধকতার মধ্যে একটি, যা কেবল প্রক্রিয়া ডকুমেন্টেশনের চেয়ে বরং একটি প্রযুক্তিগত সক্ষমতার ওপর জোর দেয় - আপনার এআই সিস্টেমকে অবশ্যই এর কার্যক্রমের সময় এই রেকর্ডগুলি তৈরি করতে হবে।

আপনার নিরীক্ষণtrail-এ কী কী অন্তর্ভুক্ত থাকতে হবে

১২ নং ধারার লগগুলিতে পর্যাপ্ত বিবরণ থাকতে হবে, যাতে সিদ্ধান্ত কীভাবে এবং কেন নেওয়া হয়েছিল, তা পুনর্গঠন করা যায়:

• নির্ভরযোগ্য টাইমস্ট্যাম্প সহ ইভেন্ট-স্তরের লগিং
• এআই সিস্টেম দ্বারা প্রাপ্ত ইনপুট এবং উৎপাদিত আউটপুট
• অভ্যন্তরীণ প্রক্রিয়া পদক্ষেপ (আলোচনা, অন্তর্বর্তী সিদ্ধান্ত, নীতি মূল্যায়ন)
• মানুষের তত্ত্বাবধানে নেওয়া পদক্ষেপ: অনুমোদন, বাতিলকরণ, সমস্যা বৃদ্ধি
• সিদ্ধান্ত গ্রহণের প্রেক্ষাপট পুনরুৎপাদন করার জন্য পর্যাপ্ত সিস্টেমের ডেটা
• অস্বাভাবিক ঘটনা এবং সেগুলি কীভাবে সমাধান করা হয়েছে

প্রযুক্তিগত প্রয়োজনীয়তা

বিধি অনুসারে, আপনার লগিং অবকাঠামোকে অবশ্যই কিছু প্রযুক্তিগত বৈশিষ্ট্য পূরণ করতে হবে:

• স্বয়ংক্রিয় লগিং - ম্যানুয়াল লগ এন্ট্রি ১২ নং ধারার শর্ত পূরণ করে না
• নির্ভরযোগ্য, সম্পূর্ণ ইভেন্ট রেকর্ডিং
• টেম্পার-এভিডেন্ট, সুরক্ষিত স্টোরেজ
• উদ্দিষ্ট উদ্দেশ্য এবং ঝুঁকির প্রোফাইলের সাথে সামঞ্জস্য রেখে ডেটা ধরে রাখার সময়কাল
• নিয়ন্ত্রক পর্যালোচনার জন্য উপযুক্ত ফর্ম্যাটে ডেটা এক্সপোর্ট করার সুবিধা

সাধারণ সম্মতি ত্রুটি

এন্টারপ্রাইজ এআই টিমের সাথে আমাদের কাজের ভিত্তিতে, এইগুলি হল সবচেয়ে সাধারণ ১২ নং ধারার সম্মতি ত্রুটি:

• কেবলমাত্র আউটপুট লগ করা, যে যুক্তির মাধ্যমে সেগুলি তৈরি করা হয়েছে, তা লগ করা হয়নি
• অননুমোদিত বা অসম্পূর্ণ মানব-ওভাররাইড রেকর্ড
• পরিবর্তনযোগ্য লগ স্টোরেজ, যা টেম্পার-এভিডেন্সের শর্ত পূরণ করে না
• নিয়ন্ত্রক পরিদর্শনের জন্য খুব কম সময়ের জন্য ডেটা ধরে রাখা
• কোনো কাঠামোগত এক্সপোর্ট নেই - শুধুমাত্র অ্যাড-হক ডেটাবেস ক্যোয়ারী

১১ নং ধারা + সংযোজন IV প্রযুক্তিগত ডকুমেন্টেশন

১১ নং ধারায় প্রযুক্তিগত ডকুমেন্টেশনের প্রয়োজন, যা ১২ নং ধারার লগগুলির সাথে একত্রে সম্মতি প্রদর্শন করে।

সংযোজন IV-এ কাঠামো নির্দিষ্ট করা হয়েছে: সিস্টেমের বিবরণ, উদ্দিষ্ট উদ্দেশ্য, নকশার পছন্দ, প্রশিক্ষণ এবং পরীক্ষার ডেটা, বৈধতা পদ্ধতি, নিরীক্ষণ এবং লগগুলি। এই দুটিকে একটি সমন্বিত কর্মপ্রবাহ হিসাবে বিবেচনা করুন।