مفاهیم کتاب

شست‌وشوی مشارکتی

Participation washing

شفافیت سازمانی

Organizational transparency

تناسب سامانه هوش مصنوعی با هدف

AI system fitness-for-purpose

۱ ارجاع راهکار کاهش

سازوکارهای جبران

Recourse mechanisms

۲ ارجاع راهکار کاهش

جوایز کشف خطا

Bug bounties

۲ ارجاع فرایند

طراحی انسان‌محور

Human-centered design

مشورت هدفمند با خبرگان موضوعی

Subject matter expert consultation

جوامعی که به‌طور تاریخی کنار گذاشته شده‌اند

Historically excluded populations

۱ ارجاع سند

چارچوب پاسخگویی هوش مصنوعی GAO

GAO AI Accountability Framework

۱ ارجاع سند

کتاب Artificial Intelligence in Society، OECD

OECD Artificial Intelligence in Society

۱ ارجاع چارچوب

GOVERN 5.2

گنجاندن بازخورد داوری‌شده

Adjudicated Feedback Incorporation

۱ ارجاع نقش سازمانی

رهبری سازمان

Organizational Leadership

تخصیص منابع مدیریت ریسک

Risk Management Resources Allocation

ارزیابی اثر سامانه

System Impact Assessment

ارزیابی اقتصادسنجی

Econometric Evaluation

مقیاس قرمز–نارنجی–سبز

RAG Scale

سیاست بازخورد

Feedback Policy

سیاست تأیید

Approval Policy

۱ ارجاع راهکار کاهش

سیاست خروج از خدمت زودهنگام

Early Decommissioning Policy

۱ ارجاع مستند شاهد

شفافیت و مستندسازی هوش مصنوعی

AI Transparency Documentation

GOVERN 6.1

ریسک‌های هوش مصنوعی مرتبط با نهادهای طرف ثالث

Third-Party AI Risk

ریسک نقض مالکیت فکری

Intellectual Property Infringement Risk

سیاست‌ها و رویه‌ها

Third-Party Policies and Procedures

سیاست‌های زنجیره تأمین

Supply Chain Policy

شفافیت در توابع سامانه طرف ثالث

Third-Party System Transparency

آزمون جامع سامانه‌های هوش مصنوعی طرف ثالث

Thorough Testing of Third-Party AI Systems

قابلیت حسابرسی سامانه هوش مصنوعی

AI System Auditability

حسابرسی توسط طرف‌های ثالث مستقل

Independent Third-Party Audit

فرایند گزارش آسیب‌پذیری‌ها

Vulnerability Reporting Process

۲ ارجاع مفهوم

نرم‌افزار متن‌باز

Open Source Software

۱ ارجاع چارچوب

فهرست ارزیابی هوش مصنوعی مورد اعتماد

ALTAI

۴ ارجاع چارچوب

چارچوب حکمرانی هوش مصنوعی WEF

WEF Model AI Governance Framework

۲ ارجاع چارچوب

GOVERN 6.2

فرایندهای احتیاطی

Contingency processes

خرابی سامانه‌های طرف ثالث

Third-party AI system failure

۱ ارجاع راهکار کاهش

سازوکارهای افزونگی

Redundancy mechanisms

فرایند گزارش آسیب‌پذیری طرف ثالث

Third-party vulnerability reporting process

سنجش ریسک مجموعه‌داده طرف ثالث

Third-party dataset risk assessment

۱ ارجاع نشریه

هوش مصنوعی در جامعه OECD

OECD Artificial Intelligence in Society 2019

۱ ارجاع سازمان

طرف‌های ثالث

Third parties

سامانه‌های هوش مصنوعی پرخطر

High-risk AI systems

MANAGE 1.1

ریسک‌های منفی

Negative risks

منافع

Benefits

ویژگی‌های قابلیت اعتماد

Trustworthiness characteristics

۱۲ ارجاع فرایند

پایش پس از استقرار

Post-deployment monitoring

۲ ارجاع ویژگی

عملکرد سامانه

System performance

ارزیابی موازنه

Tradeoff assessment

۱ ارجاع چارچوب

Artificial Intelligence Ethics Framework For The Intelligence Community

AI Ethics Framework for the Intelligence Community

۷ ارجاع چارچوب

WEF Companion to the Model AI Governance Framework

۲ ارجاع فرایند

مدیریت ۱.۲

MANAGE 1.2

منابع مدیریت ریسک

Risk Management Resources

سیستم مدیریت ریسک

Risk Management System

پایش و ارزیابی سامانه هوش مصنوعی

AI System Monitoring and Assessment

ساختار حکمرانی

Governance Structure