مفاهیم کتاب

طراحی حساس به ارزش‌ها

Value-sensitive design

رویکردهای مشارکتی

Participatory approaches

شفافیت و مستندسازی

Transparency and documentation

۱ ارجاع چارچوب

سیستم مدیریت ریسک

Risk management system

سنجه‌های خط پایه انسانی

Human baseline metrics

۱ ارجاع مستند شاهد

بازخورد دربارهٔ منافع ادراک‌شدهٔ سامانه

Perceived system benefits feedback

MAP 3.2

هزینه‌های بالقوه

Potential costs

هزینه‌های غیرپولی

Non-monetary costs

خطاهای هوش مصنوعی

AI errors

تحمل ریسک سازمانی

Organizational risk tolerance

۲ ارجاع ریسک

تأثیرات منفی سامانه‌های هوش مصنوعی

Negative impacts of AI systems

عدم کارکرد صحیح سامانه

System non-functionality

تحلیل بافتار

Context analysis

ارزیابی هزینه‌های شکست

Failure cost evaluation

تصمیم اجرا/توقف استقرار

Go/no-go deployment decision

خطاهای ماشینی

Machine errors

خطاهای انسانی

Human errors

فهرست ارزیابی برای هوش مصنوعی اعتمادپذیر

ALTAI

MAP 3.3

دامنه کاربرد هدفمند

Targeted application scope

دامنه کاربرد محدود

Narrow application scope

نگاشت، سنجش و مدیریت خطرها

Risk mapping and management

۱ ارجاع نوع مدل

چت‌بات باز

Open-ended chatbot

۱ ارجاع نوع مدل

چت‌بات وظیفه‌محور

Task-specific chatbot

۱ ارجاع چارچوب

چارچوب پاسخگویی هوش مصنوعی GAO

AI Accountability Framework for Federal Agencies (GAO-21-519SP)

۲ ارجاع نقش سازمانی

کنشگران هوش مصنوعی از واحدهای حقوقی و تدارکات

Legal and procurement AI actors

سوءاستفاده سامانه

System misuse

طبقه‌بندی سامانه هوش مصنوعی

AI system categorization

تسلط بهره‌بردار و متخصص کاربر

Operator and practitioner proficiency

پیروی گزینشی

Selective adherence

رویه‌های گواهی‌دهی برای بهره‌برداری

Operator certification procedures

۱ ارجاع راهکار کاهش

مواد آموزشی برای کاربران نهایی

Training materials for end users

۱ ارجاع مستند شاهد

مستندات عملیاتی سامانه هوش مصنوعی

AI system operational documentation

تفسیرپذیری خروجی سامانه

Interpretability of AI output

۱ ارجاع نشریه

Human-AI Teaming: State-of-the-Art and Research Needs

سوگیری خودکارسازی

Automation bias

۲ ارجاع فرایند

MAP 4.2

کنترل‌های داخلی ریسک

Internal risk controls

فناوری‌های طرف ثالث هوش مصنوعی

Third-party AI technologies

ارزیابی محتوای طرف ثالث

Third-party material review

۱ ارجاع قالب پیاده‌سازی

الگوهای مستندسازی مدل

Model documentation templates

فهرست‌های مجاز نرم‌افزاری

Software safelists

کنترل‌های سنتی ریسک فناوری

Traditional technology risk controls

قابلیت ممیزی سامانه هوش مصنوعی

Auditability of AI system

اعتماد و اطمینان عمومی

Public trust and confidence

ریسک سوگیری

Bias risk

ریسک حریم خصوصی داده‌ها

Data privacy risk

آسیب‌پذیری‌های امنیتی

Security vulnerability risk

قابلیت ردیابی فرایند توسعه

Traceability of development process

۱ ارجاع چارچوب

ارزیابی چارچوب حکمرانی مدل هوش مصنوعی WEF

WEF Model AI Governance Framework Assessment

MAP 5.1

برآورد احتمال وقوع

Likelihood estimate

بزرگی اثر

Impact magnitude

مقیاس سنجش

Assessment scale

طبقه‌بندی قرمز–نارنجی–سبز (RAG)

RAG classification

۱ ارجاع مستند شاهد

برگه‌های داده برای مجموعه‌داده‌ها

Datasheets for Datasets

۲ ارجاع فرایند

MAP 5.2