مفاهیم کتاب

چرخه عمر هوش مصنوعی

AI lifecycle

تعامل انسان و هوش مصنوعی

Human-AI Interaction

نظارت انسانی

Human Oversight

۴ ارجاع مفهوم

پیکربندی انسان و هوش مصنوعی

Human-AI Configuration

۴ ارجاع ریسک

سوگیری شناختی

Cognitive Bias

سوگیری سیستمی

Systemic Bias

۸ ارجاع ویژگی

ابهام سامانه هوش مصنوعی

AI System Opacity

فقدان بافتار

Loss of Context

کارکرد حاکمیت

GOVERN Function

کارکرد نگاشت

MAP Function

۳ ارجاع ویژگی

مکمل بودن

Complementarity

تقویت سوگیری‌های انسانی

Bias Amplification in Human-AI Interaction

۱ ارجاع مستند شاهد

نادیده گرفتن خروجی سامانه هوش مصنوعی توسط انسان‌ها

Human Overrule of AI Output

ویژگی‌های چارچوب مدیریت ریسک هوش مصنوعی

Attributes of the AI RMF

رده‌شناسی ریسک هوش مصنوعی

AI risk taxonomy

ویژگی مبتنی بر ریسک

Risk-based attribute

سند زنده

Living document attribute

ویژگی نتیجه‌محور

Outcome-focused attribute

مستقل از قوانین و مقررات

Law- and regulation-agnostic attribute

۱ ارجاع نشریه

نشریه چارچوب مدیریت ریسک هوش مصنوعی NIST

NIST AI Risk Management Framework publication

استانداردها و بهترین شیوه‌های موجود

Existing standards and best practices

۱ ارجاع فرایند

فرایند باز و شفاف

Open transparent process

۱ ارجاع نقش سازمانی

ذی‌نفعان

Stakeholders

۳ ارجاع مفهوم

قابلیت اعتماد هوش مصنوعی

AI trustworthiness

۳ ارجاع سند

دفترچه راهنما

Playbook

چارچوب مدیریت ریسک هوش مصنوعی

AI Risk Management Framework

۵ ارجاع مفهوم

هسته چارچوب مدیریت ریسک هوش مصنوعی

AI RMF Core

کارکردهای چارچوب مدیریت ریسک هوش مصنوعی

AI RMF Functions

۱ ارجاع سازمان

سازمان‌ها

Organization

۲ ارجاع کنترل

اقدامات پیشنهادی

Suggested Actions

داوطلبانه بودن پیشنهادها

Voluntary Nature of Playbook

زیرمجموعه

Sub-category

GOVERN 1.1

۱ ارجاع مفهوم حقوقی

الزامات حقوقی و قانون‌گذاری مرتبط با هوش مصنوعی

Legal and regulatory requirements involving AI

۱ ارجاع مفهوم حقوقی

رفتار متفاوت

Disparate treatment

شکاف دیجیتال

Digital divide

۱ ارجاع روش ارزیابی

آزمون سنجش سوگیری

Bias measurement testing

۱ ارجاع راهکار کاهش

تکنیک‌های رفع سوگیری

Debiasing techniques

ریسک‌های حقوقی ناشی از مسائل طراحی

Legal risk from unaddressed design issues

حفظ آگاهی از ملاحظات و الزامات حقوقی و قانون‌گذاری قابل‌اجرا

Awareness of applicable legal considerations

همسوسازی تلاش‌های مدیریت ریسک با استانداردهای حقوقی قابل‌اجرا

Alignment of risk management with legal standards

سیاست‌های آموزش کارکنان درباره ملاحظات حقوقی

Staff training policies on legal considerations

۱ ارجاع مستند شاهد

مستندسازی محیط قانون‌گذاری

Documentation of regulatory environment

۱ ارجاع روش ارزیابی

بررسی انطباق سامانه

Compliance review of AI system

۱ ارجاع سند

کتاب راهنمای NIST AI RMF

NIST AI RMF Playbook

۸ ارجاع نشریه

چارچوب پاسخ‌گویی هوش مصنوعی GAO

GAO-21-519SP AI Accountability Framework

۵ ارجاع فرایند

GOVERN 1.2

سیاست‌ها، فرایندها و رویه‌های سازمانی

Organizational policies, processes, and procedures

پاسخگویی

Accountability

۳ ارجاع نقش سازمانی

کنشگران هوش مصنوعی

AI Actor

۵ ارجاع فرایند

حکمرانی داده

Data Governance

۱ ارجاع روش ارزیابی

آزمون مدل و اعتبارسنجی

Model Testing and Validation

برنامه‌های پاسخ به رخداد

Incident response plans

۲ ارجاع کنترل

سیاست‌های افشاگری

Whistleblower policies

۱ ارجاع فرایند

فرایندهای پایش، حسابرسی و بازبینی

Monitoring, auditing and review processes

چارچوب پاسخگویی هوش مصنوعی GAO

GAO-21-519SP AI Accountability Framework

۱۳ ارجاع ریسک

نبود اطلاعات روشن درباره مسئولیت‌ها و زنجیره‌های فرماندهی

Lack of clear responsibilities and chains of command