مفاهیم کتاب

طراحی حساس به ارزش (VSD)

Value sensitive design (VSD)

تیم مستقل ارزیابی

Independent assessment team

شفافیت و مستندسازی

Transparency & Documentation

۲ ارجاع مفهوم

ماهیت اجتماعی‌ـ‌فناورانه

Socio-technical nature

۱ ارجاع چارچوب

سنجه 1.2

MEASURE 1.2

سنجه‌های هوش مصنوعی

AI Metrics

۱ ارجاع کنترل

کنترل‌های موجود

Existing Controls

روایی بیرونی

External Validity

رانش داده‌ها

Data Drift

گزارش خطاها

Error Reporting

سنجه‌های کیفیت نرم‌افزار

Software Quality Metrics

فرایندهای بازخورد ذی‌نفعان

Stakeholder Feedback Processes

ابزار طرف ثالث

Third-Party Tools

۱ ارجاع نوع مدل

پردازش زبان طبیعی

Natural Language Processing

۱ ارجاع نوع مدل

شبکه‌های عصبی

Neural Networks

چارچوب اخلاق هوش مصنوعی برای جامعه اطلاعاتی

AI Ethics Framework For The Intelligence Community

سنجه ۱.۳

MEASURE 1.3

ارزیابان مستقل

Independent Assessors

کارشناسان داخلی

Internal Experts

جوامع متأثر

Affected Communities

تیم‌های آزمون مجزا

Separate Testing Teams

ارزیابی‌های محلی

Local Evaluations

سازوکارهای بازخورد ذی‌نفعان خارجی

External Stakeholder Feedback Mechanisms

رویکردهای مشارکتی

Participatory Approaches

شکنندگی سامانه هوش مصنوعی

AI System Brittleness

اقدام ۲.۱

MEASURE 2.1

۱ ارجاع مستند شاهد

مجموعه‌های آزمون

Test sets

سنجه‌ها

Metrics

۲ ارجاع کنترل

مستندسازی سنجش

Measurement documentation

کارت‌های مدل برای گزارش‌دهی مدل

Model Cards for Model Reporting

۱ ارجاع ویژگی

تکرارپذیری و سازگاری

Repeatability and consistency

تصمیم‌های مدیریت ریسک هوش مصنوعی

AI risk management decisions

راهنمای مدیریت ریسک مدل SR 11-7

SR 11-7 Model Risk Management Guidance

استاندارد IEEE-1012-2016

IEEE-1012-2016 Verification and Validation Standard

۱ ارجاع کنترل

سنجه ۲.۲

MEASURE 2.2

حفاظت از آزمودنی‌های انسانی

Human Subjects Protection

آزمودنی‌های انسانی

Human Subjects

۱ ارجاع ویژگی

نمایندگی داده‌ها

Representativeness

داده‌های غیرنماینده

Nonrepresentative Data

بستر استفاده

Context of Use

رضایت آگاهانه

Informed Consent

روش‌های ارزیابی تفکیک‌شده

Disaggregated Evaluation Methods

۱ ارجاع راهکار کاهش

آستانه‌های نمایندگی مجموعه‌داده‌ها

Data Representativeness Thresholds

آزمون سنتی سوگیری

Bias Testing

مهندسی آشوب

Chaos Engineering

۲ ارجاع روش ارزیابی

بازخورد ذی‌نفعان

Stakeholder Feedback

حقوق مالکیت فکری و حریم خصوصی

Intellectual Property and Privacy Rights

گزارش بلمونت

The Belmont Report

۴۵ CFR 46

45 CFR 46

ارزیابی سامانه هوش مصنوعی

AI System Evaluation

۱ ارجاع چارچوب

معیار ۲.۳

Measure 2.3

سنجش عملکرد سامانه هوش مصنوعی

AI System Performance Measurement

معیارهای تضمین

Assurance Criteria

بستر استفاده در استقرار

Deployment Context of Use

۱ ارجاع ویژگی

کارایی

Efficiency

۱ ارجاع شاخص کلیدی عملکرد

نرخ مثبت کاذب

False Positive Rate