مفاهیم کتاب

شفافیت و مستندسازی

Transparency Documentation

۲ ارجاع نقش سازمانی

مسئولیت‌های حکمرانی هوش مصنوعی

AI Governance Responsibilities

۱ ارجاع شاخص کلیدی عملکرد

سنجه‌های عملکرد

Performance Metrics

۲ ارجاع نشریه

راهنمای پیوست چارچوب حکمرانی هوش مصنوعی WEF

WEF Model AI Governance Framework Companion

۱ ارجاع سند

پایگاه داده رخدادهای هوش مصنوعی

AI Incident Database

۱ ارجاع کنترل

MANAGE 2.4

غیرفعال‌سازی

Deactivation

جانشین‌سازی (بای‌پس‌کردن)

Bypass (Superseding)

تحلیل علل ریشه‌ای

Root Cause Analysis

سیستم‌های افزونه یا پشتیبان

Redundant or Backup Systems

۱ ارجاع شاخص کلیدی ریسک

آستانه‌های تحمل

Risk Tolerance Threshold

۱ ارجاع شاخص کلیدی ریسک

آستانه‌های رخداد سامانه

Incident Threshold

مستندات برای بازبینی‌های قضایی، قانونی و حقوقی

Forensic Materials

ملاک‌های استقرار مجدد

Redeployment Criteria

۱ ارجاع ویژگی

ویژگی‌های قابل‌اعتماد

Trustworthy Characteristics

۲ ارجاع کنترل

GOVERN 1.7

۱ ارجاع کنترل

مدیریت ۳.۱

MANAGE 3.1

سامانه هوش مصنوعی طرف ثالث

Third-party AI system

پایش ریسک طرف ثالث

Third-party risk monitoring

غیرشفافی

Opacity

پیچیدگی

Complexity

۱ ارجاع مفهوم حقوقی

مسئولیت‌های حقوقی

Legal liability

۱ ارجاع مفهوم حقوقی

انطباق قانونی

Regulatory compliance

آزمون، ارزیابی، اعتبارسنجی و تأیید

Testing, evaluation, verification and validation (TEVV) for third-party systems

از رده خارج کردن سامانه‌های طرف ثالث

Decommissioning of third-party systems

۱ ارجاع شاخص کلیدی ریسک

شاخص‌های ریسک طرف ثالث

Third-party risk indicators

۱ ارجاع چارچوب

راهنمای همراه چارچوب حاکمیت هوش مصنوعی WEF

WEF Model AI Governance Framework Companion

۱ ارجاع کنترل

مدیریت ۴.۱

MANAGE 4.1

برنامه پایش سامانه هوش مصنوعی پس از استقرار

Post-deployment AI system monitoring plan

پایش سامانه هوش مصنوعی

AI system monitoring

افت عملکرد

Performance degradation

۱ ارجاع حمله

حملات خصمانه

Adversarial attack

۴ ارجاع مفهوم

بازخورد بیرونی

External feedback

TEVV پس از استقرار

Post-deployment TEVV

تمرین‌های تیم قرمز

Red-teaming exercise

رهگیری تغییرات مجموعه‌داده‌ها

Dataset modification tracking

۱ ارجاع چارچوب

MANAGE 4.3

رخداد

Incident

خطا

Error

اطلاع‌رسانی رخدادها و خطاها

Incident and Error Communication

فرایندهای رهگیری، پاسخ‌دهی و بازیابی از رخدادها و خطاها

Incident Tracking, Response, and Recovery Processes

مستندسازی خطاها

Error Documentation

پایگاه‌داده خطاها و رخدادها

Error and Incident Database

پایگاه‌داده تغییرات سامانه

System Change Database

اطلاعات تاریخچه نسخه‌ها

Version History Information

فعالیت‌های مدیریت ریسک هوش مصنوعی

AI Risk Management Activities

۱ ارجاع نقش سازمانی

کنشگران هوش مصنوعی مرتبط

Relevant AI Actors

۱ ارجاع نقش سازمانی

جوامع متأثر

Affected Communities

موارد نزدیک به خطا

Near-Miss Reporting

پیامدهای منفی

Negative Impacts

۲ ارجاع ریسک

ریسک‌های پیچیده یا نوپدید

Complex or Emergent Risks

شفافیت و مستندسازی

Transparency and Documentation

۲ ارجاع کنترل

اقدامات اصلاحی برای کیفیت داده‌ها

Corrective Actions for Data Quality

فرایندهای بهبود مستمر

Continuous Improvement Processes

MAP 1.2

۱ ارجاع نقش سازمانی

کنشگران هوش مصنوعی میان‌رشته‌ای

Inter-disciplinary AI Actors

۱ ارجاع ویژگی

تنوع جمعیت‌شناختی

Demographic Diversity

پرسشگری انتقادی

Critical Inquiry