مفاهیم کتاب

مستندسازی تفاوت‌های میان بستر سنجش و محیط استقرار

Measurement Setting vs Deployment Environment Documentation

ناکافی بودن برآوردهای عملکرد هوش مصنوعی

AI Performance Estimate Insufficiency

ابزار What-If

What-If Tool

۱ ارجاع مفهوم

حقیقت مبنایی

Ground Truth

۲ ارجاع فرایند

اقدام 2.4

Measure 2.4

پایش در محیط تولید

Production Monitoring

آزمون فرضیه

Hypothesis Testing

پایش ناهنجاری‌ها

Anomaly Monitoring

هشدارها

Alerts

خطرهای انتشار خطا

Error Propagation Risk

خطرهای حلقه‌های بازخورد

Feedback Loop Risk

اطلاعات groundtruth

Ground Truth Data

استقرار

Deployment

اقدام ۲.۵

MEASURE 2.5

روایی سازه

Construct validity

روایی درونی

Internal validity

روایی بیرونی

External validity

۱ ارجاع مفهوم

شاخص‌های جایگزین

Proxy indicators

خطرهای اعتبارسنجی

Validation risk

انتشار خطا

Error propagation

همبستگی‌های کاذب

Spurious correlations

بازه اطمینان

Confidence intervals

اعتبارسنجی متقابل

Cross-validation

آزمون نرم‌افزار

Software testing

اقدامات پس از هشدار

Post-alert actions

ابزار What-If Tool

What-If Tool

اقدام ۲.۶

MEASURE 2.6

ارزیابی ایمنی سامانه هوش مصنوعی

AI System Safety Evaluation

ریسک ایمنی

Safety Risk

۲ ارجاع ریسک

ریسک منفی باقی‌مانده

Residual Negative Risk

ازکارافتادن ایمن

Fail Safely

۱ ارجاع مفهوم

محدودیت‌های دانش

Knowledge Limits

۴ ارجاع روش ارزیابی

پایش بلادرنگ

Real-time Monitoring

آزمون تنش

Stress Testing

۲ ارجاع فرایند

ممیزی مستقل

Independent Audit

آسیب جسمی یا زیست‌محیطی

Physical or Environmental Harm

۱ ارجاع شاخص کلیدی عملکرد

زمان‌های پاسخ به رخداد

Incident Response Time

۱ ارجاع چارچوب

سنجه ۲.۷

MEASURE 2.7

امنیت سامانه هوش مصنوعی

AI system security

۲ ارجاع ویژگی

تاب‌آوری

Resilience

۳ ارجاع ویژگی

استواری

Robustness

۱۶ ارجاع حمله

نمونه‌های خصمانه

Adversarial examples

۱ ارجاع حمله

مسموم‌سازی داده

Data poisoning

۸ ارجاع حمله

بیرون‌کشی مدل‌ها

Model exfiltration

۱ ارجاع حمله

حملات استخراج داده و استخراج مدل

Data and model extraction attacks

۱ ارجاع راهکار کاهش

اقدامات متقابل

Countermeasures

۱ ارجاع راهکار کاهش

واترمارک‌گذاری

Watermarking

۶ ارجاع شاخص کلیدی عملکرد

آزمون‌ها و سنجه‌های امنیتی

Security tests and metrics

اشتراک اطلاعات

Information sharing

ممیزی‌های امنیتی طرف ثالث

Third party security audits

۱ ارجاع نشریه

چارچوب امنیت سایبری

Cybersecurity Framework

۱ ارجاع سند

adversarial-robustness-toolbox

سنجش ۲.۸

MEASURE 2.8

خطرهای مرتبط با شفافیت و پاسخگویی

Transparency and accountability risks

جبران خسارت

Redress

۱ ارجاع نقش سازمانی

رهبری پاسخگو

Accountable leadership

نبودِ شفافیت

Lack of transparency

۲ ارجاع روش ارزیابی

سنجش قابلیت اعتماد

Trustworthiness measurement