مفاهیم کتاب

سوگیری‌های بالقوه ذاتی در فرایند توسعه

Development Process Bias

دیدگاه‌های ذی‌نفعان

Stakeholder Perspectives

MAP 1.3

مأموریت سازمان

Organization mission

هدف سامانه هوش مصنوعی

AI system purpose

ارزش‌های اجتماعی

Societal values

پرهیز از ریسک

Risk avoidance

هوش مصنوعی عادلانه

Equitable AI

رویه‌های شفاف

Transparency practices

منظر اجتماعی‌ـ‌فناورانه

Socio-technical perspective

۳ ارجاع مفهوم

منشور اخلاقی

Code of ethics

انگیزه‌های نهفته

Latent incentives

۱ ارجاع سند

فهرست ارزیابی هوش مصنوعی اعتمادپذیر (ALTAI)

ALTAI

۳ ارجاع سند

چارچوب پاسخگویی برای نهادهای فدرال

Accountability Framework for Federal Agencies

MAP 1.4

ارزش کسب‌وکاری یا بستر استفادهٔ کسب‌وکاری

Business value or context of business use

خطرهای اجتماعی‌ـ‌فناورانهٔ هوش مصنوعی

Socio-technical AI risks

کنش‌های چرخهٔ حیات هوش مصنوعی

AI lifecycle actions

مأموریت سازمانی

Organizational mission

هدف شناسایی‌شدهٔ سامانه

System purpose

مستندسازی ارزش کسب‌وکاری یا بستر استفادهٔ کسب‌وکاری

Documenting business value or context of business use

تطبیق نگرانی‌های مستندشده با ارزش‌های سازمان

Reconciling documented concerns with organizational values

۱ ارجاع راهکار کاهش

بازنگری در طراحی، راهبرد پیاده‌سازی یا استقرار

Reconsidering design, implementation strategy, or deployment

اصول هوش مصنوعی

AI principles

۱ ارجاع ویژگی

اعتماد عمومی و عدالت

Public trust and equity

۱ ارجاع روش ارزیابی

سازگاری سنجه‌ها با هدف‌های سامانه

Metrics consistency with system goals

۱ ارجاع چارچوب

ارزیابی چارچوب حکمرانی هوش مصنوعی الگوی WEF

WEF Model AI Governance Framework Assessment 2020

MAP 1.5

حداکثر تحمل ریسک مجاز

Maximum Allowable Risk Tolerance

معیارهای ریسک

Risk Criteria

منابع نظارت

Oversight Resources

استفاده خارج از برچسب

Off-Label Use

ریسک اعتبار سازمانی

Reputational Risk

۱ ارجاع مستند شاهد

بازخورد ذی‌نفعان

Stakeholder Feedback

۲ ارجاع چارچوب

چارچوب مدیریت ریسک NIST

NIST Risk Management Framework

نگاشت ریسک

Risk Mapping

MAP 1.6

نیازمندی‌های سامانه

System requirements

پیامدهای اجتماعی‌ـ‌فناورانه

Socio-technical implications

سوگیری‌های ضمنی انسانی

Implicit human biases

۱ ارجاع روش ارزیابی

مصاحبه‌های کیفی

Qualitative interviews

۱ ارجاع روش ارزیابی

پژوهش کاربر

User research

۱ ارجاع راهکار کاهش

تکنیک‌های طراحی مسئولانه

Responsible design techniques

۱ ارجاع مستند شاهد

اسناد نیازمندی‌های محصول (PRD)

Product requirement documents (PRDs)

۱ ارجاع سند

دستورالعمل‌های اخلاقی برای هوش مصنوعی اعتمادپذیر

Ethics Guidelines for Trustworthy AI

سوگیری‌های نظام‌مند و تاریخی

Systemic and historical biases

MAP 2.1

تعریف کار سامانه هوش مصنوعی

AI System Task Definition

۱ ارجاع نوع مدل

طبقه‌بندها

Classifier

۱ ارجاع نوع مدل

مدل‌های مولد

Generative Model

۲ ارجاع نوع مدل

توصیه‌گرها

Recommender

شفافیت و مستندسازی

Transparency & Documentation

۱ ارجاع مستند شاهد

مشخصات و الزامات فنی

Technical Specifications and Requirements

۲ ارجاع سند

ارزیابی شفافیت مدل ATARC ۲۰۲۰

ATARC Model Transparency Assessment (WD) 2020

۱ ارجاع مفهوم حقوقی

اصول حریم خصوصی OECD

OECD Privacy Principles

۱ ارجاع راهکار کاهش

علامت‌گذاری خروجی هوش مصنوعی

AI Output Marking

MAP 3.1

۱ ارجاع ویژگی

منافع بالقوهٔ سامانه هوش مصنوعی

Potential benefits of AI system