ارزیابی انطباق هوش مصنوعی چیست؟
قبل از اینکه یک سیستم هوش مصنوعی با ریسک بالا به بازار برسد، کسی باید آن را با قوانین بررسی کند. ارزیابی انطباق همان بررسی است — و چیزی که مصرف میکند، شواهد است.
ارزیابی انطباق بررسی ساختاری است که تعیین میکند آیا یک سیستم هوش مصنوعی الزامات قانونی قابل اجرا را برآورده میکند یا خیر. بسته به سیستم و رژیم، این ارزیابی ممکن است توسط ارائهدهنده تحت کنترل داخلی یا توسط یک نهاد مستقل انجام شود. این ارزیابی مستندات فنی، سیستم مدیریت کیفیت و شواهدی درباره نحوه عملکرد واقعی سیستم را بررسی میکند. استانداردهای در حال توسعه انتظار میرود که شکلدهنده درخواستهای ارزیابان و نحوه قضاوت آنها باشد.
چه کسی ارزیابی را انجام میدهد
این بستگی به سیستم دارد. بسیاری از سیستمهای با ریسک بالا توسط خود ارائهدهنده تحت یک رویه کنترل داخلی ارزیابی میشوند، با این الزام که مستندات کامل را نگهداری کرده و در صورت درخواست ارائه دهند. دیگران به یک نهاد مستقل نیاز دارند. در هر صورت، ماهیت مشابه است: مجموعهای مشخص از الزامات، مستنداتی که به هر یک پرداخته و شواهدی که نشان میدهد توصیف با واقعیت مطابقت دارد.
یک ارزیابی چه چیزی را بررسی میکند
به طور کلی، سه چیز. مستندسازی — آیا سیستم، هدف، ریسکها و کنترلهای آن به اندازه کافی کامل توصیف شده است تا شخص دیگری بتواند ارزیابی کند. مدیریت — آیا یک سیستم کیفیت کارا وجود دارد و نه فقط مجموعهای از فایلها. شواهد — آیا رفتار واقعی سیستم با آنچه توصیف شده مطابقت دارد، که از طریق سوابق موارد خاص بررسی میشود و نه از طریق ادعاهایی درباره رفتار عمومی. آخرین مورد جایی است که شواهد انطباق کار خود را انجام میدهد.
ارزیابی یک رویداد یکباره نیست
سیستمی که پس از ارزیابی به طور قابل توجهی تغییر میکند ممکن است به ارزیابی مجدد نیاز داشته باشد و تعهدات پس از ورود به بازار ادامه مییابد: نظارت، گزارش حوادث و نگهداری سوابق. یک ارزیابی وضعیتی را در یک نقطه زمانی مشخص میکند؛ حفظ آن وضعیت صحیح یک وظیفه مداوم است، به همین دلیل است که شیوههای نگهداری سوابق بیشتر از یک بررسی موفقیتآمیز واحد اهمیت دارند.
چرا استانداردها در اینجا مهم هستند
متون مقررات الزامات را به صورت کلی بیان میکنند؛ استانداردها آنها را به جزئیات قابل بررسی ترجمه میکنند. زمانی که یک استاندارد به طور رسمی شناخته شده باشد، پیروی از آن میتواند فرضی را به همراه داشته باشد که الزامات مربوطه برآورده شدهاند — که این امر استانداردها را به مسیر عملی تبدیل میکند که بیشتر سازمانها انتخاب میکنند و محتوای آنها را به طور غیرمعمولی مهم میسازد. چندین استاندارد مرتبط هنوز در حال تدوین هستند، بنابراین آنچه ارزیابان درخواست خواهند کرد هنوز به طور کامل مشخص نشده است. ارتباط صدور گواهینامه سیستم مدیریت با مقررات یک سردرگمی رایج است که در ISO 42001 در مقابل قانون هوش مصنوعی اتحادیه اروپا توضیح داده شده است — و الزامات وسیعتر در راهنمای قانون هوش مصنوعی اتحادیه اروپا قرار دارد.
ارزیابی چه چیزی را مصرف میکند
چهار ورودی، به طور تقریبی به ترتیبی که یک ارزیاب از آنها عبور میکند.
مستندات فنی
سیستم چیست، برای چه چیزی طراحی شده، چگونه ساخته شده، چه خطراتی شناسایی شده و چه کنترلهایی به آنها رسیدگی میکنند.
مدیریت کیفیت
شواهدی که نشان میدهد توسعه و تغییر تحت تأثیر یک فرآیند عملیاتی قرار دارند نه یک فرآیند آرزومندانه.
سوابق سطح پرونده
سوابق تصمیمات فردی، که برای بررسی اینکه آیا رفتار با توصیف مطابقت دارد یا خیر، استفاده میشود. نمونهگیری یک عمل استاندارد است.
سوابق پس از بازار
نظارت، حوادث و اقدامات اصلاحی، نشان میدهد که سیستم هنوز همان سیستمی است که ارزیابی شده بود.
ورودی سوم جایی است که بیشتر سازمانها ضعیفترین هستند، زیرا نمیتوان آن را پس از وقوع نوشت — باید در حین اجرای سیستم ثبت شده باشد.
ارزیابی انطباق: سوالات متداول
آیا ارزیابی انطباق همان گواهینامه است؟
خیر. گواهینامه توسط یک نهاد معتبر بر اساس یک استاندارد خاص صادر میشود. ارزیابی انطباق تحت یک مقررات یک فرآیند وسیعتر است و برای بسیاری از سیستمها، یکی از کارهایی است که ارائهدهنده خود انجام میدهد. آمادگی برای یکی بهطور خودکار دیگری را به همراه ندارد.
آیا گواهینامه ISO یک سیستم را مطابق میکند؟
خیر. گواهینامه سیستم مدیریت نشان میدهد که فرآیندهای حاکمیتی وجود دارند و دنبال میشوند. این یک ماده پشتیبانی مفید است، اما به سوالات متفاوتی نسبت به الزامات یک مقررات برای یک سیستم خاص پاسخ میدهد.
چه کسی میتواند ارزیابی انجام دهد؟
برای بسیاری از سیستمهای با ریسک بالا، ارائهدهنده تحت کنترل داخلی است. برخی دستهها به یک نهاد مستقل نیاز دارند. رژیم قابل اجرا تعیین میکند که کدام مسیر اعمال میشود — این یک سوال است که باید زودتر حل شود، زیرا بر آنچه باید تولید کنید تأثیر میگذارد.
چه چیزی باعث ارزیابی مجدد میشود؟
معمولاً یک تغییر اساسی در سیستم یا هدف مورد نظر آن است. آموزش مجدد روتین در چارچوبهای توصیف شده معمولاً اینگونه نیست؛ تغییر در هدف سیستم معمولاً اینگونه است.
ارزیابی تا چه زمانی به عقب نگاه میکند؟
به اندازه کافی برای پوشش دادن دوره نگهداری که اعمال میشود، که به سالها اندازهگیری میشود. به همین دلیل است که سوابق باید نگهداری و قابل ارائه باشند نه فقط اینکه وجود داشتهاند.
آیا ابزارها میتوانند ارزیابی را برای ما انجام دهند؟
خیر. ابزارها میتوانند شواهدی را که یک ارزیابی مصرف میکند تولید و سازماندهی کنند. خود ارزیابی یک قضاوت است که توسط افراد — کارکنان واجد شرایط خود ارائهدهنده یا یک نهاد مستقل — انجام میشود.
اگر استانداردها هنوز تمام نشده باشند، چه؟
سپس الزامات از طریق دیگر روشها برآورده میشوند، مستند و توجیه میشوند. سازمانهایی که اکنون در حال ساخت هستند معمولاً پیشنویسها را پیگیری میکنند، زیرا پیشنویسها نشان میدهند که ارزیابان در نهایت چه انتظاراتی خواهند داشت.
Related AI governance topics
AI Governance
The umbrella discipline: how organizations keep AI agents accountable, observable, and compliant — start here.
AI Observability
Seeing what your AI systems do in production — metrics, traces, and logs.
LLM Observability
Monitoring prompts, tokens, latency, and quality of large language model calls.
AI Traceability
Reconstructing the full lineage of an AI output — inputs, steps, and decisions.
LLM Traceability
End-to-end traces of multi-step LLM and prompt chains.
AI Agent Observability
Observability for autonomous, multi-step agents — tool calls, plans, and decisions.
Agentic AI Governance
Governing autonomous agents: policy, oversight, and accountable autonomy.
AI Audit Trail
Append-only, tamper-evident records of what an AI system decided and why.
AI Agent Monitoring
Real-time monitoring of agent behavior, drift, and decision quality.
Explainable AI (XAI)
Making AI decisions understandable to the people accountable for them.
AI TRiSM
Gartner's framework for AI trust, risk, and security management.
Decision Retrieval
GraphRAG for agents — retrieving past decisions as bounded, auditable packets.
Decision Record
The durable document of one AI decision — reasoning, evidence, policy and approval in a single file.
AI Compliance Evidence
What auditors actually ask for, and why policy documents are not evidence.
Decision Tracing
Capturing the structured reasoning behind every AI decision — AI Agentree's category.
AI Precedent Systems
Letting agents learn from past decisions as searchable precedent.
Decision Audit Trails
How human teams record why a decision was made — the deliberation counterpart to an AI audit trail.
Transparent AI
Making model reasoning inspectable, and what changes when several models are compared against each other.
Multi-Agent Simulation
Running many AI personas against one scenario to surface risks before a decision is taken.
برای سوال شواهد آماده باشید
مستندات میتوانند بعداً نوشته شوند. سوابق سطح پرونده نمیتوانند — آنها باید قبل از اینکه کسی سوال کند وجود داشته باشند.
پلتفرم را کاوش کنید