مفاهیم، ۳۸۹ مورد · فرایند
مفاهیم کتاب
موجودیت‌های استخراج‌شده از منابع و تدوین، با ارجاع به بخش‌های کتاب.
فهرست مفاهیم
افشای رخداد
Incident Disclosure
سنتز فیزیکی عوامل شیمیایی یا زیستی
Physical synthesis of chemical or biological agents
پیش‌آموزش
Pre-training
تنظیم دقیق
Fine-tuning
استنتاج
Inference
فرایند انتخاب مدل
Model Selection Process
چرخهٔ مدیریت ریسک هوش مصنوعی
AI Risk Management Cycle
طبقه‌بندی سه‌سطحی ریسک
Three-Level Risk Classification
فهرست‌برداری اولیهٔ دارایی‌ها
Initial Asset Inventory
کشف دوره‌ای
Periodic Discovery
خط لولهٔ برچسب‌گذاری داده
Data Labeling Pipeline
حلقهٔ بازخورد
Feedback Loop
پایش در تولید
Production Monitoring
تشخیص ناهنجاری
Anomaly Detection
پرس‌وجوهای مبتنی بر امتیاز
Score-based Queries
گروهِ مجموعه‌ای از مدل‌ها
Model Ensemble Training
جرم‌شناسی مسموم‌سازی
Poison forensics
فرایادگیری ماشینی
Machine Unlearning
گردآوری و امتیازدهی داده‌ها
Data Collection and Scoring
یکپارچه‌سازی مدل‌های هوش مصنوعی توسعه‌یافته توسط طرف ثالث
Third-Party AI Model Integration
ادغام افزونه‌های توسعه‌یافته توسط طرف ثالث
Third-Party Plugin Integration
تنظیم با دستورالعمل
Instruction Tuning
یادگیری تقویتی از بازخورد انسانی
Reinforcement Learning from Human Feedback
خط لوله آموزش LLM
LLM Training Pipeline
استخراج (اسکرپ) داده
Data Scraping
پژوهش‌های امنیتی بر عامل‌ها
Security Research on Agents
بهینه‌سازی پارتو
Pareto optimization
ارزیابی راهکارها
Evaluation of Mitigations
TrojAI
TrojAI
مدیریت ریسک زنجیره تأمین هوش مصنوعی
AI Supply-Chain Risk Management
آموزش ایمنی
Safety Training
طبقه‌بندی تصویر
image classification
تشخیص اشیا
object detection
قطعه‌بندی تصویر
image segmentation
آموزش مدل
Model Training
مرحلهٔ آموزش
training stage
سنجش ریسک سوءاستفاده
Misuse Risk Measurement
پایش
Monitoring
شیوه ۱.۱: شناسایی و نگهداشت فهرستی از پروفایل‌های تهدید
Practice 1.1: Identify and maintain threat profiles
شیوه ۲.۱: شناسایی سطح ریسک سوءاستفاده غیرقابل‌قبول
Practice 2.1: Identify unacceptable level of misuse risk
توسعهٔ مدل هوش مصنوعی
AI Model Development
رویکرد مبتنی بر ریسک
Risk-based approach
رهگیری نسخه‌بندی و خاستگاه مدل
Model versioning and lineage tracking
عملیات یادگیری ماشین (MLOps)
MLOps
خط لولهٔ یکپارچه‌سازی مستمر/تحویل مستمر (CI/CD)
CI/CD pipeline
امنیت معماری و چرخهٔ عمر مدل
Model lifecycle security
زنجیرهٔ تأمین مدل
Model supply chain
فرایند ارزیابی ریسک حملات مدل
Model Attack Risk Assessment Process
یادگیری گروهی
Ensemble Learning
یادگیری چندوظیفه‌ای
Multitask Learning
مهندسی نیازمندی‌ها
Requirements engineering
فعالیت‌های توسعهٔ استاندارد
Standards development activities
چرخهٔ شناسایی و مدیریت سوگیری
Bias identification and management cycle
چرخهٔ شناسایی، مدیریت، کاهش
Identify-Manage-Mitigate Cycle
آزمون سوگیری تفکیکی
Bias Testing Program
پایش سنجه‌های سوگیری و رانش
Post-deployment Bias and Drift Monitoring
فهرست دارایی‌ها
AI Asset Inventory
پایش سوگیری شناختی کاربران
User Cognitive Bias Monitoring
توالی آغاز
Onboarding Sequence
استقرار سایه‌ای یا آبی-سبز
Shadow or blue-green deployment