فهرست این فصلبخش ۲، فصل ۱۶ — صفحهٔ ۲ از ۲
بخش ۲، فصل ۱۶ — صفحهٔ ۲ از ۲
کاربرد در سازمان‌های ایرانی: حاکمیت و مدیریت ریسک هوش مصنوعی در عمل
متن اصلی فارسی با منشأ، شناسه و پیوند استناد پایدار.
خط لولهٔ برچسب‌گذاری داده: از داده خام تا حلقهٔ بازخورد
«این بخش برای پشتیبانی از کار عملی هوش مصنوعی افزوده شده و لایهٔ تدوینگر است؛ ادعایی مبنی بر راهنمای رسمی NIST برای برچسب‌گذاری داده ندارد و از مفاهیم کیفیت داده و TEVV مطرح‌شده در منابع این بخش استخراج شده است.»
کیفیت هر مدل یادگیری‌ماشین به کیفیت داده‌های برچسب‌خورده‌ای وابسته است که بر پایهٔ آن‌ها آموزش و ارزیابی می‌شود. خط لولهٔ زیر، مسیر معمول داده از خام تا حلقهٔ بازخورد تولید را نشان می‌دهد:
داده خام ← حاشیه‌نویسی ← بازبینی ← کشف اختلاف‌نظر ← داوری اختلاف ← مجموعه‌دادهٔ طلایی ← نسخه‌بندی مجموعه‌داده ← آموزش/تنظیم دقیق ← ارزیابی ← پایش در تولید ← حلقهٔ بازخورد
| گام | شرح | خروجی |
|---|---|---|
| داده خام | داده‌های گردآوری‌شده پیش از هرگونه برچسب؛ متن، تصویر، صدا، ویدیو یا رخداد سامانه | مجموعه‌دادهٔ خام با شناسهٔ منبع |
| حاشیه‌نویسی | حاشیه‌نویس بر پایهٔ راهنمای حاشیه‌نویسی مصوب، برچسب اختصاص می‌دهد | داده با برچسب و درجهٔ اطمینان (Confidence) حاشیه‌نویس |
| بازبینی | بازبین (Reviewer) کیفیت و انطباق برچسب با راهنما را بررسی می‌کند | تأیید یا بازگشت برای اصلاح |
| کشف اختلاف‌نظر | ناسازگاری میان حاشیه‌نویسان (Inter-Annotator Disagreement) به‌طور خودکار یا نمونه‌گیری‌شده شناسایی می‌شود | فهرست موارد مناقشه‌برانگیز |
| داوری اختلاف | داور (Adjudicator) با ثبت دلیل داوری (Adjudication Reason) تصمیم نهایی را می‌گیرد | برچسب نهایی با دلیل مستند |
| مجموعه‌دادهٔ طلایی | برچسب‌های داوری‌شده و پراطمینان در یک مجموعهٔ مرجع گرد می‌آیند | Gold Dataset با شناسهٔ نسخه |
| نسخه‌بندی مجموعه‌داده | هر تغییر در مجموعه‌داده با شمارهٔ نسخه و ردپای ممیزی (Audit Trail) ثبت می‌شود | مجموعه‌دادهٔ نسخه‌دار قابل بازگشت |
| آموزش/تنظیم دقیق | مجموعه‌دادهٔ نسخه‌دار برای آموزش یا تنظیم دقیق مدل استفاده می‌شود | مدل کاندیدا |
| ارزیابی | عملکرد مدل روی دادهٔ نگه‌داشته‌شده (Held-out) سنجیده می‌شود | گزارش ارزیابی |
| پایش در تولید | رفتار مدل پس از استقرار پایش می‌شود | سنجه‌های پایش و هشدار |
| حلقهٔ بازخورد | موارد پرچم‌گذاری‌شده در تولید به فرایند حاشیه‌نویسی بازمی‌گردند | نسخهٔ بعدی مجموعه‌دادهٔ طلایی |
واحد برچسب بسته به کاربرد متفاوت است: واژه، بازه (Span)، جمله، سند کامل، تصویر، بخشی از صدا یا ویدیو، قصد کاربر (Intent)، احساس (Sentiment)، ایمنی محتوا، یا رتبه‌بندی ترجیح (Preference Ranking) میان چند پاسخ. هر پروژهٔ برچسب‌گذاری باید پیش از آغاز، واحد برچسب، راهنمای حاشیه‌نویسی، و آستانهٔ اطمینان قابل‌قبول را روشن مستند کند.
نقش‌های پیشنهادی (نمونهٔ تدوینگر):
| نقش | مسئولیت |
|---|---|
| حاشیه‌نویس (Annotator) | اعمال برچسب طبق راهنما |
| بازبین (Reviewer) | کنترل کیفیت نمونه‌ای یا کامل برچسب‌ها |
| داور (Adjudicator) | حل‌وفصل نهایی اختلاف‌نظرها با ثبت دلیل |
| مباشر داده (Data Steward) | نگهداشت راهنما، نسخه‌بندی و ردپای ممیزی مجموعه‌داده |
| مالک مدل (Model Owner) | تصمیم دربارهٔ آماده‌بودن مجموعه‌داده برای آموزش |
| مالک حاکمیت (Governance Owner) | اطمینان از هم‌راستایی فرایند برچسب‌گذاری با سیاست حاکمیت هوش مصنوعی سازمان (همان AI Officer یا نقش معادل سازمانی که در این فصل معرفی شد) |
برای شروع، از قالب «راهنمای برچسب‌گذاری داده» (TPL-P02-3) در ادامه استفاده کنید.
نمونه فرم — نمونه فرم: راهنمای برچسب‌گذاری داده و ثبت اختلاف‌نظر (نمونهٔ پیشنهادی تدوینگر) (نمونه پیشنهادی تدوینگر بر پایه مفاهیم مطرح‌شده در منابع این فصل)
| فیلد | English | توضیح | نمونه |
|---|---|---|---|
| شناسهٔ پروژهٔ برچسب‌گذاری | labeling_project_id | شناسهٔ یکتای پروژه | LBL-2026-014 |
| واحد برچسب | label_unit | واژه، بازه، جمله، سند، تصویر، صدا، ویدیو، قصد، احساس، ایمنی یا رتبه‌بندی ترجیح | رتبه‌بندی ترجیح میان دو پاسخ |
| راهنمای حاشیه‌نویسی | annotation_guideline_ref | نسخهٔ سند راهنما که حاشیه‌نویسان از آن پیروی می‌کنند | راهنمای نسخهٔ ۲٫۱ — مورخ ۱۴۰۴/۰۵/۰۱ |
| درجهٔ اطمینان حاشیه‌نویس | annotator_confidence | خوداظهاری حاشیه‌نویس دربارهٔ قطعیت برچسب | بالا / متوسط / پایین |
| اختلاف‌نظر میان حاشیه‌نویسان | inter_annotator_disagreement | آیا حاشیه‌نویسان مستقل به برچسب یکسان رسیدند؟ | دو از سه حاشیه‌نویس توافق داشتند |
| دلیل داوری | adjudication_reason | توضیح داور برای برچسب نهایی در صورت اختلاف | بر پایهٔ بند ۳ راهنما، مورد دوم ارجح تشخیص داده شد |
| نسخهٔ مجموعه‌داده | dataset_version | شناسهٔ نسخه‌ای که این رکورد در آن گنجانده شده | gold-v3.2 |
| ردپای ممیزی | audit_trail_ref | ارجاع به لاگ تغییرات این رکورد | AUDIT-LBL-2026-014-007 |
استناد
محمدعلی کهندژ، راهنمای جامع حاکمیت، امنیت و مدیریت ریسک هوش مصنوعی، شناسه بخش: KDJ-AI-2026E1-P02-C16-S08
شناسهٔ محتوا KDJ-AI-2026E1-P02-C16-S08-79D3418F
جمع‌بندی تطبیقی: نگاشت ISO/IEC، مدل بلوغ و شاخص‌های پیشنهادی
نگاشت به استانداردها (ارزیابی تدوینگر با سطح اطمینان):
| مفهوم این بخش | استاندارد | سطح اطمینان | دلیل مفهومی |
|---|---|---|---|
| حاکمیت، نقش‌ها و سیاست‌ها (GOVERN 1 و 2) | ISO/IEC 42001 | DIRECT | هر دو بر ضرورت چرخهٔ سیاست، رویه، بازبینی و تعیین نقش‌ها برای سامانهٔ مدیریت هوش مصنوعی تأکید می‌کنند؛ با این تفاوت که این چرخه تحت گواهی‌نامهٔ ISO/IEC 42001 الزام‌آور است، حال آنکه AI RMF چارچوبی داوطلبانه است و GOVERN را الزامی نمی‌کند |
| چارچوب‌بندی و پاسخ به ریسک (MANAGE 1) | ISO/IEC 23894 | DIRECT | هر دو، فرایند شناسایی، تحلیل، ارزیابی و پردازش ریسک هوش مصنوعی را با گزینه‌های کاهش، اجتناب، انتقال و پذیرش توصیف می‌کنند |
| کنترل‌های امنیتی و لاگ | ISO/IEC 27001 | PARTIAL | کنترل‌های کلی امنیت اطلاعات قابل تعمیم‌اند اما تهدیدهای خاص هوش مصنوعی مانند مسموم‌سازی مدل را به‌طور کامل پوشش نمی‌دهند |
| روش‌شناسی ارزیابی ریسک | ISO/IEC 27005 | PARTIAL | الگوی کلی مدیریت ریسک قابل استفاده است اما فهرست تهدید و آسیب‌پذیری مختص هوش مصنوعی ندارد |
| داده‌های آموزشی و حریم خصوصی | ISO/IEC 27701 | RELATED | مدیریت اطلاعات حریم خصوصی هم‌پوشان است اما حاکمیت رفتار مدل را در بر نمی‌گیرد |
| دفاع در برابر Prompt Injection و پایش مدل‌های ازپیش‌آموزش‌دیده | استانداردهای یادشده | NO_DIRECT_EQUIVALENT | این کنترل‌ها در لایهٔ اجرایی این کتاب از مفاهیم کلی امنیت و منابع همین بخش استخراج شده‌اند |
مدل بلوغ تدوینگر (سطح ۰ تا ۵) — این مدل بلوغ، چارچوب رسمی NIST نیست و برای کاربرد اجرایی این کتاب تدوین شده است:
- سطح ۰ (ناشناخته): بدون فهرست دارایی و بدون مالک.
- سطح ۱ (آغاز): فهرست ناقص و مالکیت موردی.
- سطح ۲ (تعریف‌شده): سیاست مصوب؛ فهرست دارایی‌ها و ثبت ریسک برقرار؛ نقش‌ها مستند.
- سطح ۳ (مدیریت‌شده): پایش دوره‌ای، KPI و بازبینی مستقل.
- سطح ۴ (کمی): TEVV تفکیک‌شده، آزمون مقاومت و ارزیابی تأثیر.
- سطح ۵ (بهینه): بهبود مستمر مبتنی بر بازخورد بیرونی و تحلیل رخدادها.
نمونهٔ KPI/KRI (پیشنهادی تدوینگر بر پایهٔ مفاهیم مطرح‌شده در منابع این بخش):
- KPI — پوشش فهرست دارایی‌های هوش مصنوعی (درصد).
- KPI — درصد ریسک‌های سطح بالا دارای پاسخ مصوب و مالک.
- KRI — تعداد رخدادهای امنیتی یا افت کیفیت مرتبط با AI در ماه.
- KRI — میانگین زمان کشف رانش یا افت کیفیت.
جمع‌بندی: آنچه سازمان ایرانی لازم دارد، ساختن قانون جدید از صفر نیست؛ ترجمان حاکمیت این چارچوب به ساختار، مالکیت و شواهد قابل ممیزی است. آغاز کنید، کوچک بمانید و تناوب بازبینی را رها نکنید.
استناد
محمدعلی کهندژ، راهنمای جامع حاکمیت، امنیت و مدیریت ریسک هوش مصنوعی، شناسه بخش: KDJ-AI-2026E1-P02-C16-S09
شناسهٔ محتوا KDJ-AI-2026E1-P02-C16-S09-F5BE4808