طبقهبندی با ریسک بالا ماده 6 قانون هوش مصنوعی اتحادیه اروپا
ماده ۶ قانون هوش مصنوعی اتحادیه اروپا قواعد طبقهبندی برای سیستمهای هوش مصنوعی با ریسک بالا را تعیین میکند. سیستمهای با ریسک بالا توسط دستههای پیوست III شامل استخدام، امتیازدهی اعتباری، مراقبتهای بهداشتی، آموزش و اجرای قانون تعریف میشوند. سازمانها باید تا ۲ دسامبر ۲۰۲۷ مطابق با تأخیری که توسط قانون دیجیتال جامع در مورد هوش مصنوعی معرفی شده است، عمل کنند. الزامات ماده ۶ شامل ثبت خودکار برای ردیابی تصمیمات (ماده ۱۲)، شفافیت و قابلیت توضیح (ماده ۱۳) و قابلیتهای نظارت انسانی (ماده ۱۴) است. عدم رعایت این الزامات شامل جریمههایی تا ۱۵ میلیون یورو یا ۳٪ از گردش مالی جهانی میشود. ثبتهای اجرایی استاندارد الزامات ماده ۶ را برآورده نمیکند — رعایت این الزامات نیاز به ردیابی ساختاریافته تصمیمات دارد که استدلال، شواهد، گزینههای در نظر گرفته شده و مسئولیتپذیری را ثبت کند. AIAgentree زیرساخت بسته تصمیم را بهطور خاص برای رعایت ماده ۶ قانون هوش مصنوعی اتحادیه اروپا ارائه میدهد.
ماده ۶ قانون هوش مصنوعی اتحادیه اروپا تعیین میکند که آیا سیستم هوش مصنوعی شما "پرخطر" است یا خیر — که الزامات اجباری برای ثبت، شفافیت و نظارت انسانی را به همراه دارد. مهلت: ۲ دسامبر ۲۰۲۷.
- •دستهبندیهای پیوست III — اعتبار، اشتغال، بهداشت و درمان، آموزش
- •ماده 12 — ثبت خودکار که امکان ردیابی تصمیمات را فراهم میکند
- •ماده 13 — الزامات شفافیت و توضیحپذیری
- •ماده 14 — قابلیتهای نظارت و مداخله انسانی
- •مجازاتها — تا ۱۵ میلیون یورو یا ۳٪ از گردش مالی جهانی برای عدم رعایت قوانین
ماه گذشته، تیم هوش مصنوعی یک بانک اروپایی سطح یک ایمیلی دریافت کرد که هیچ رهبری در زمینه هوش مصنوعی نمیخواهد.
مدیر امنیت اطلاعات نوشت: "بازرسی نهاد ناظر در راه است. 30 روز. مستند سازی تصمیمات اعتباری با کمک هوش مصنوعی در 90 روز گذشته. ردیابی کامل طبق ماده 6."
اولین پاسخ تیم هوش مصنوعی این بود که "ما لاگ داریم." لاگها با ماده 6 مطابقت ندارند.
سلب مسئولیت: این پست صرفاً برای اهداف اطلاعاتی است و مشاوره حقوقی محسوب نمیشود. برای تصمیمات انطباق، با مشاور حقوقی واجد شرایط مشورت کنید. متن مقررات تا جولای 2026 بهروز است؛ قبل از اتکا به آنها، ارجاعات را تأیید کنید.
ماده 6 به زبان ساده
ماده ۶ قانون هوش مصنوعی اتحادیه اروپا (مقرره ۲۰۲۴/۱۶۸۹) تعیین میکند که چه زمانی یک سیستم هوش مصنوعی به عنوان "پرخطر" واجد شرایط است. این طبقهبندی الزامات انطباق اجباری را فعال میکند که به طور اساسی نحوه مستندسازی و مدیریت عوامل هوش مصنوعی شما را تغییر میدهد.
ماده 6(1): "یک سیستم هوش مصنوعی [...] به عنوان یک سیستم با ریسک بالا در نظر گرفته میشود زمانی که [...] سیستم هوش مصنوعی به عنوان یک جزء ایمنی یک محصول [...] یا خود سیستم هوش مصنوعی یک محصول [...] در نظر گرفته شده و نیاز به ارزیابی انطباق توسط شخص ثالث دارد."
ماده 6(2): "علاوه بر سیستمهای هوش مصنوعی با ریسک بالا که در بند 1 اشاره شدهاند، سیستمهای هوش مصنوعی که در هر یک از موارد استفاده ذکر شده در پیوست III قرار دارند، به عنوان سیستمهای با ریسک بالا در نظر گرفته خواهند شد."
اگر عامل هوش مصنوعی شما در دستههای ذکر شده در پیوست III — امتیازدهی اعتباری، استخدام، مراقبتهای بهداشتی، آموزش، اجرای قانون — تصمیمگیری کند، به طور پیشفرض پرخطر است و باید با مواد 12 تا 14 مطابقت داشته باشد.
پیوست III دستههای پرخطر
ضمیمه III هشت دسته را تعریف میکند که در آن سیستمهای هوش مصنوعی بهطور خودکار بهعنوان ریسک بالا طبقهبندی میشوند:
- •(1) بیومتریک — شناسایی چهره، تشخیص احساس، شناسایی بیومتریک
- •(2) زیرساختهای حیاتی — مدیریت ترافیک، خدمات عمومی، زیرساخت دیجیتال
- •(3) آموزش — تصمیمات پذیرش، نمرهدهی آزمون، تعیین مسیر یادگیری
- •(4) استخدام — جذب، ارزیابی عملکرد، ارتقاء، termination. بسیار مرتبط
- •(5) خدمات ضروری — امتیازدهی اعتباری، قیمتگذاری بیمه، دسترسی به مزایا. بسیار مرتبط
- •(6) اجرای قانون — ارزیابی شواهد، پروفایلسازی، ارزیابی ریسک
- •(7) مهاجرت و پناهندگی — درخواستهای ویزا، کنترل مرزی، پردازش پناهندگی
- •(8) عدالت — تحقیق قانونی، پیشبینی نتیجه پرونده، صدور حکم
اگر عوامل هوش مصنوعی شما در دستههای ۴ (استخدام) یا ۵ (خدمات اساسی) فعالیت میکنند، تقریباً مطمئناً مشمول الزامات کامل ماده ۶ هستید. اینها پرحجمترین موارد استفاده از هوش مصنوعی در کسبوکار هستند.
مقاله 6 الزامات سه قابلیت
طبقهبندی با ریسک بالا سه ماده مرتبط را فعال میکند که تعریف میکند رعایت قوانین در واقع به چه معناست:
ماده 12: نگهداری سوابق و مسیرهای حسابرسی
سیستمهای هوش مصنوعی با ریسک بالا باید با قابلیتهایی طراحی و توسعه یابند که امکان ثبت خودکار رویدادها ('لاگها') را فراهم کند [...] قابلیتهای ثبت باید سطحی از قابلیت ردیابی عملکرد سیستم هوش مصنوعی را [...] متناسب با هدف مورد نظر تضمین کند.
شما به لاگهایی نیاز دارید که قابلیت ردیابی تصمیمات را فراهم کنند — نه فقط تماسهای API، بلکه استدلال.
ماده ۱۳: شفافیت و اطلاعات
سیستمهای هوش مصنوعی با ریسک بالا باید به گونهای طراحی و توسعه یابند که اطمینان حاصل شود عملکرد آنها به اندازه کافی شفاف است تا به کاربرها امکان تفسیر خروجی سیستم و استفاده مناسب از آن را بدهد.
ترجمه: خروجیهای تصمیمگیری باید قابل تفسیر باشند. سیستمهای بسته مطابق نیستند.
ماده 14: نظارت انسانی
سیستمهای هوش مصنوعی با ریسک بالا باید به گونهای طراحی و توسعه یابند [...] که به افراد طبیعی که نظارت انسانی به آنها واگذار شده است [...] این امکان را بدهند که به طور کامل ظرفیتها و محدودیتهای سیستم هوش مصنوعی را درک کنند و بتوانند به درستی عملکرد آن را نظارت کنند.
ترجمه: انسانها باید قادر به درک، نظارت و مداخله باشند.
چرا ثبتنام با ماده 6 مطابقت ندارد
گزارشهای اجرایی استاندارد آنچه اتفاق افتاد را ثبت میکنند. ماده 6 مستندات آنچه تصمیمگیری شد و چرا را الزامی میکند. اینها به طور بنیادی آثار متفاوتی هستند.
| ❌ گزارش اجرای (غیرقابل انطباق) | ✅ ردیابی تصمیم (مطابق) |
|---|---|
تأیید_اعتبار(app_id=1234) | پیشنهاد: تأیید اعتبار #1234 مزیت: تاریخچه پرداخت ۳ ساله (وزن: ۰.۹) مزیت: اشتغال پایدار (وزن: ۰.۸۵) معایب: نمره زیر آستانه (وزن: ۰.۷۲) استثنا: تحلیلگر استثنا را تأیید کرد دلایل: تاریخچه پرداخت بر نمره غلبه دارد نتیجه (۶ ماه): ۰ پرداخت معوق |
| به شما میگوید که اعتبار تأیید شده است. اما نمیگوید چرا، چه مواردی در نظر گرفته شده یا چه گزینههای دیگری وجود داشته است. | استدلال، گزینهها، نظارت انسانی و پیگیری نتایج را ثبت میکند. |
زمانی که یک نهاد نظارتی میپرسد "چرا این اعتبار با وجود نمره تأیید شد؟"، لاگ پاسخی ندارد. ردپای تصمیم این پاسخ را دارد.
چرا ثبت زنجیرهای افکار ماده ۶ را برآورده نمیکند
به نظر میرسد که ثبت زنجیرهای از افکار (CoT) یک راهحل باشد — مدل را وادار کنید که "توجیه" استدلال خود را بیان کند. اما یک مشکل اساسی وجود دارد:
مسئله CoT
زنجیرهی تفکر پسازواقع تولید میشود. این به محاسبات داخلی مدل وفادار نیست. دو درخواست میتوانند همان تصمیم را با "توضیحات" متفاوت تولید کنند. تفسیر کاری کمیسیون به سمت نیاز به ضبط در نقطهی تصمیمگیری، نه بازسازی پسازواقع، در حال حرکت است.
ردیابی تصمیمات آثار ساختاری را در نقطه تصمیم ثبت میکند — نه روایتهای بازسازی شده بعد از آن. این نیازمندی ماده 12 برای "ضبط خودکار" که "امکان ردیابی" را فراهم میکند، برآورده میسازد.
آنچه ردیابی تصمیمات ثبت میکند (و چرا ماده 6 را برآورده میکند)
بستههای تصمیمگیری AIAgentree به طور مستقیم با الزامات مستندات ماده 6 مطابقت دارند:
| ماده ۶ الزامات | اجزای بسته تصمیم گیری |
|---|---|
| قابلیت ردیابی تصمیمات | نتیجه + شناسههای_استدلال_استدلال |
| بررسی گزینههای جایگزین | alternatives[] + آرگومانهای رد شده |
| پایه شواهد | evidence_refs[] با منشاء + عکسهای فوری |
| نظارت انسانی (ماده ۱۴) | فیلد decided_by (عامل/انسان/هر دو) |
| قابلیت تفسیر (ماده ۱۳) | درخت استدلال ساختاری با روابط موافق/مخالف |
درخواست خاص بخش
هوش مصنوعی در مراقبتهای بهداشتی
سیستمهای هوش مصنوعی که در تشخیص، توصیههای درمانی یا تریاژ بیماران کمک میکنند، تحت ضمیمه III قرار میگیرند. ماده 6 نیاز به ثبت شواهد بالینی مورد نظر، تشخیصهای افتراقی ارزیابی شده و زنجیره استدلالی که به یک توصیه منجر شده است، دارد.
الزام کلیدی: عکسهای شواهد باید دادههای بالینی را در زمان تصمیمگیری ثابت کنند. بازسازی پس از وقوع از سوابق فعلی بیمار مطابق نیست.
خدمات مالی
امتیازدهی اعتباری، زیرنویسی بیمه و شناسایی تقلب در دسته ۵ به عنوان ریسک بالا قرار دارند. ماده ۶ نیاز به مستندسازی عواملی دارد که بر تصمیم تأثیر گذاشتهاند، چگونگی وزندهی آنها و اینکه چه چیزی میتوانست نتیجه را تغییر دهد.
نیاز کلیدی: زمانی که یک متقاضی میپرسد "چرا درخواست من رد شد؟"، شما باید قادر باشید عوامل خاصی را از ردیابی تصمیم ذکر کنید — نه اینکه توضیحی دوباره تولید کنید.
منابع انسانی و استخدام
فرآیندهای استخدام، ارزیابی عملکرد و تصمیمات خاتمه کار در دسته ۴ ریسک بالایی دارند. الزامات ماده ۶ در اینجا به دلیل نگرانیهای مربوط به تبعیض بهویژه سختگیرانه هستند.
نیاز کلیدی: ردپای تصمیمات باید نشان دهد که ویژگیهای محافظتشده بر نتایج تأثیر نداشتهاند. نظارت بر تعصب نیاز به استدلال ساختاریافته دارد، نه فقط حسابرسی نتایج.
زمانبندی و مهلتها
زمانبندی قانون هوش مصنوعی اتحادیه اروپا
- •اوت 2024 — ورود به مرحله اجرایی
- •فوریه 2025 — هوش مصنوعی ممنوع + سواد هوش مصنوعی الزامی است
- •اوت 2025 — قوانین حاکمیت + تعهدات GPAI
- •اوت ۲۰۲۶ — مهلت انطباق سیستمهای پرخطر
چک لیست آمادگی 90 روزه
در اینجا یک نقشه راه مشخص برای رعایت ماده 6 آورده شده است:
فهرست موجودی عوامل هوش مصنوعی خود را تهیه کنید
کدام سیستمها تصمیمگیری میکنند یا به تصمیمگیری کمک میکنند؟ هدف هر یک را مستند کنید.
طبقهبندی قابلیت اعمال ضمیمه III
هر عامل را به دستههای پیوست III مرتبط کنید. تعیین کنید کدامیک پرخطر هستند.
بررسی ثبتهای جاری در مقابل الزامات
مقایسه لاگهای موجود با الزامات بسته تصمیمگیری. شناسایی شکافها.
زیرساخت ردیابی تصمیمات را پیادهسازی کنید
SDK ای ای ایجن تری را یکپارچه کنید. شروع به ضبط بستههای تصمیم در نقاط تصمیمگیری کنید.
ایجاد جریانهای کاری نظارت انسانی
صفهای تأیید، رویههای جایگزین و مسیرهای تشدید را طبق ماده 14 تعریف کنید.
ایجاد کتابچه راهنمای پاسخ به تنظیمکننده
مدارک کنید که چگونه به درخواست حسابرسی ۳۰ روزه پاسخ خواهید داد. جریان پاسخ را آزمایش کنید.
این پست به چه موضوعاتی نمیپردازد
مرزها مهم هستند. این پست به طور خاص به طبقهبندی پرخطر ماده 6 میپردازد. این پست شامل موارد زیر نمیشود:
- •هوش مصنوعی ممنوع (ماده ۵) — اگر سیستم شما در این دسته قرار گیرد، رعایت آن ممکن نیست
- •تنظیمات هوش مصنوعی ایالات متحده — چارچوبهای مختلفی اعمال میشود؛ راهنمای انطباق ایالات متحده ما را ببینید
- •قانون کامل هوش مصنوعی اتحادیه اروپا — مواد ۷-۸۶ شامل بسیاری از الزامات دیگر است
- •مشاوره حقوقی — این محتوا اطلاعاتی است و نه مشاوره حقوقی
سؤالات متداول
ماده ۶ قانون هوش مصنوعی اتحادیه اروپا چیست؟
ماده ۶ قوانین طبقهبندی برای سیستمهای هوش مصنوعی با ریسک بالا را تحت قانون هوش مصنوعی اتحادیه اروپا تعیین میکند. این ماده مشخص میکند که یک سیستم هوش مصنوعی چه زمانی به عنوان "ریسک بالا" واجد شرایط است بر اساس استفاده آن در زمینههای ذکر شده در پیوست III (استخدام، اعتبار، بهداشت و درمان، آموزش و غیره) و آستانهای برای الزامات انطباق اجباری شامل ثبت، شفافیت و نظارت انسانی تعیین میکند.
ماده ۶ قانون هوش مصنوعی اتحادیه اروپا چه زمانی به اجرا در میآید؟
الزامات سیستمهای هوش مصنوعی با ریسک بالا تحت ماده ۶ باید تا ۲ دسامبر ۲۰۲۷ برای سیستمهای مستقل پیوست III برآورده شوند، که از ۲ اوت ۲۰۲۶ به تعویق افتاده است بر اساس قانون دیجیتال جامع در مورد هوش مصنوعی. این تاریخ، مهلت اصلی رعایت قوانین برای سازمانهایی است که از عوامل هوش مصنوعی در دستههای پیوست III استفاده میکنند. برخی از مقررات (عملکردهای ممنوع) از فوریه ۲۰۲۵ به اجرا درآمدند.
دستهبندیهای پرخطر ضمیمه III چیستند؟
ضمیمه III هشت دسته پرخطر را تعریف میکند: (1) بیومتریک، (2) زیرساختهای حیاتی، (3) آموزش/آموزش حرفهای، (4) مدیریت استخدام/کارگران، (5) دسترسی به خدمات اساسی (اعتبار، بیمه، مزایا)، (6) اجرای قانون، (7) مهاجرت/پناهندگی، و (8) اداره عدالت. عوامل هوش مصنوعی که در این زمینهها تصمیمگیری میکنند باید با الزامات کامل ماده 6 مطابقت داشته باشند.
ماده 6 چه الزامات و شرایطی برای ثبت و ردیابی تعیین میکند؟
ماده ۶ (و ماده ۱۲ مرتبط) از سیستمهای هوش مصنوعی با ریسک بالا میخواهد که ثبت خودکار را حفظ کنند که امکان ردیابی تصمیمات را فراهم میکند. این به معنای ثبت آنچه تصمیمگیری شده، مبنای استدلال، گزینههای در نظر گرفته شده، شواهد مشاوره شده و اقدامات نظارت انسانی است — که فراتر از لاگهای اجرایی است که فقط تماسهای API و زمانها را ثبت میکنند.
ردیابی تصمیمگیری چگونه با ثبتنام استاندارد برای رعایت قانون هوش مصنوعی اتحادیه اروپا متفاوت است؟
گزارشهای استاندارد آنچه را که اتفاق افتاده است (تماسهای API، زمانسنجیها، خطاها) ثبت میکنند. رعایت ماده 6 نیاز به ردیابی خود تصمیم دارد — اینکه چرا اتخاذ شده، چه شواهدی از آن حمایت کرده، چه گزینههایی در نظر گرفته شده و چه کسی مسئول بوده است. ردیابی تصمیم این استدلال ساختاریافته را به عنوان بستههای تصمیم قابل حسابرسی که الزامات قانونی را برآورده میکنند، ثبت میکند.
مجازاتهای عدم رعایت ماده ۶ چیست؟
عدم رعایت الزامات هوش مصنوعی با ریسک بالا جریمههایی تا ۱۵ میلیون یورو یا ۳٪ از گردش مالی سالانه جهانی، هر کدام که بیشتر باشد، به همراه دارد. برای نقایص جدیتر (عملکردهای ممنوع)، جریمهها میتوانند به ۳۵ میلیون یورو یا ۷٪ از گردش مالی برسند. برای شرکتی با گردش مالی ۱ میلیارد یورو، این به معنای جریمههای بالقوه ۳۰-۷۰ میلیون یورو است.
آیا قانون هوش مصنوعی اتحادیه اروپا به شرکتهای خارج از اتحادیه اروپا اعمال میشود؟
بله. قانون هوش مصنوعی اتحادیه اروپا دارای دامنه فرامرزی است. این قانون به هر سازمانی که سیستمهای هوش مصنوعی آن در بازار اتحادیه اروپا قرار دارد، خروجیهای هوش مصنوعی آن در داخل اتحادیه اروپا استفاده میشود، یا تصمیمات هوش مصنوعی آن بر ساکنان اتحادیه اروپا تأثیر میگذارد، اعمال میشود — صرف نظر از اینکه شرکت در کجا مستقر است.
چگونه میتوانم برای رعایت ماده ۶ آماده شوم؟
با یک برنامه آمادگی 90 روزه شروع کنید: (1) موجودیگیری از عوامل هوش مصنوعی خود، (2) طبقهبندی قابلیت اعمال ضمیمه III، (3) حسابرسی ثبتهای فعلی در مقابل الزامات بسته تصمیمگیری، (4) استقرار زیرساخت ردیابی تصمیم، (5) ایجاد جریانهای نظارت انسانی، (6) ایجاد کتابچههای راهنمای پاسخ به نهادهای نظارتی. AIAgentree زیرساختی را بهطور خاص برای رعایت ماده 6 فراهم میکند.
موضوعات مرتبط
مقالات مرتبط
تصمیمات هوش مصنوعی به رسید نیاز دارند: چرا ردیابی تصمیمات لایه مفقود در حاکمیت هوش مصنوعی است
هر معامله مالی یک رسید دریافت میکند. هر قرارداد قانونی یک امضا دریافت میکند. اما تصمیمات هوش مصنوعی که بر میلیونها نفر تأثیر میگذارد؟ نامرئی. ردیابی تصمیمات این وضعیت را تغییر میدهد با ضبط دلیل پشت هر تصمیم هوش مصنوعی.
GraphRAG برای تصمیمات هوش مصنوعی: چرا گرافها جستجوی برداری را برای حافظه عامل شکست میدهند
وکتور RAG بر روی لاگها "سوپ تکهای" را برمیگرداند — تکههای متنی جداشده که استدلالهای مخالف، تأییدها و سوابقی که تصمیم را قابل دفاع میکردند، را از دست میدهند. زمانی که تصمیمات به عنوان یک گراف استدلال هنجاری ذخیره میشوند، بازیابی به جای آن یک بسته تصمیم محدود و قابل حسابرسی را برمیگرداند.
هوش مصنوعی قابل اعتماد چیست؟
طبقهبندی با ریسک بالا تحت ماده 6 جایی است که شیوههای هوش مصنوعی قابل اعتماد، شفافیت، نظارت و شواهد دیگر اختیاری نیستند.
تیم AIAgentree
انطباق هوش مصنوعی
تیم AIAgentree در حال ساخت زیرساخت ردیابی تصمیم برای عوامل هوش مصنوعی است. مأموریت ما این است که استدلال هوش مصنوعی را قابل مشاهده، قابل حسابرسی و قابل بهبود کنیم.
دسامبر ۲۰۲۷ در راه است.
یک چکلیست آمادگی 30 دقیقهای برای ماده 6 با تیم انطباق ما رزرو کنید. ما وضعیت فعلی شما را ارزیابی کرده و مسیر انطباق را ترسیم خواهیم کرد.
رزرو چکلیست آمادگی