مفاهیم کتاب

رهبری ارشد و اعضای سطح مدیران ارشد (C-Suite)

C-Suite Senior Leadership

مقام منصوب

Designated Officer

پرتفوی هوش مصنوعی

AI Portfolio

کمیته هیئت‌مدیره برای مدیریت ریسک هوش مصنوعی

Board Committee for AI Risk Management

تفویض اختیارات

Delegation of Authority

۱ ارجاع نشریه

WEF Companion to the Model AI Governance Framework

۳ ارجاع چارچوب

GOVERN 3.1

تیمی متنوع

Diverse Team

۱ ارجاع ویژگی

تعهد رهبری ارشد

Senior Leadership Commitment

مدیریت سازمانی

Organizational Management

مشارکت ذی‌نفعان

Stakeholder Involvement

ابتکارهای تنوع، برابری، شمول و دسترس‌پذیری (DEIA)

DEIA Initiatives

تیم‌های چندرشته‌ای

Multidisciplinary Teams

سیاست‌ها و رویه‌های استخدامی

Hiring Practices

تخصص بیرونی

External Expertise

۲ ارجاع ریسک

پیامدهای ناخواسته

Unintended Consequences

GOVERN 3.2

نقش‌ها و مسئولیت‌ها

Roles and Responsibilities

۱ ارجاع قالب پیاده‌سازی

سیاست‌ها و رویه‌ها

Policies and Procedures

رهگیری اطلاعات ریسک

Risk Information Tracking

استانداردهای شایستگی

Proficiency Standards

۲ ارجاع کنترل

پروتکل‌های آموزشی مدیریت ریسک

Risk Management Training Protocols

۱ ارجاع ویژگی

آستانه‌های تحمل ریسک سازمانی

Organizational Risk Tolerance

۲ ارجاع مفهوم

تیم‌سازی انسان–هوش مصنوعی

Human-AI Teaming

ناظر سامانه هوش مصنوعی

AI System Overseer

تصمیم‌گیری‌های تقویت‌شده با هوش مصنوعی

AI-Augmented Decision-Making

GOVERN 4.1

فرهنگ ریسک

Risk Culture

سه خط دفاعی

Three Lines of Defense

چالش مؤثر

Effective Challenge

۱ ارجاع روش ارزیابی

تیم قرمز

Red-Teaming

۱۱ ارجاع مفهوم

ذهنیت ایمنی‌محور

Safety-First Mindset

تفکر انتقادی

Critical Thinking

۱ ارجاع راهکار کاهش

حمایت‌های افشاگرانه

Whistleblower Protections

۱ ارجاع روش ارزیابی

حسابرسی مدل

Model Audit

عملکردهای نظارتی

Oversight Functions

۱ ارجاع سند

چارچوب پاسخگویی هوش مصنوعی GAO

GAO AI Accountability Framework (GAO-21-519SP)

۱ ارجاع سند

ارزیابی چارچوب حاکمیت هوش مصنوعی WEF 2020

WEF Model AI Governance Framework Assessment 2020

۳ ارجاع فرایند

گزارش‌دهی رخدادها

Incident Reporting

GOVERN 4.2

تیم‌های سازمانی

Organizational teams

تصمیم‌های «ادامه/توقف»

Go/no-go decision

۳ ارجاع مستند شاهد

خاستگاه داده

Data provenance

چارچوب پاسخگویی هوش مصنوعی

AI Accountability Framework for Federal Agencies & Other Entities

GOVERN 4.3

آزمون سامانه هوش مصنوعی

AI system testing

۱ ارجاع مستند شاهد

پایگاه داده رخدادهای هوش مصنوعی

AI Incident Database

رانش مفهومی

Concept drift

۱ ارجاع ریسک

سوگیری و تبعیض در هوش مصنوعی

AI bias and discrimination

اشتراک‌گذاری اطلاعات رخدادها

Incident information sharing

سیاست‌ها و رویه‌های استفاده و آزمون درون‌سازمانی

In-house testing policies and procedures

۱ ارجاع ریسک

آزمون‌های ناسازگار

Inconsistent testing practices

۱ ارجاع مستند شاهد

فهرست CVE مؤسسه MITRE

MITRE CVE list

۱ ارجاع مستند شاهد

AIAAIC

سیاست‌های گزارش‌دهی و مستندسازی پاسخ به رخدادها

Incident reporting policies

یادگیری میان‌بُر یا تعریف‌نشدگی دقیق

Shortcut learning / underspecification

محدودیت‌های سامانه هوش مصنوعی

AI system limitations

افشای عمومی رخدادها

Public disclosure of incidents