مفاهیم، ۱۶۳ مورد · راهکار کاهش
مفاهیم کتاب
موجودیت‌های استخراج‌شده از منابع و تدوین، با ارجاع به بخش‌های کتاب.
فهرست مفاهیم
محدودسازی پرس‌وجوهای کاربران
Query Limiting
محدودیت‌های فنی
Technical Restrictions
اطلاعات منشأ (Provenance)
Provenance Information
در نظر گرفتن تمام سطح حمله
Full Attack Surface Consideration
آموزش ایمنی
Safety Training
راستی‌آزمایی بارگیری‌های وب
Web download verification
پالایش داده
Data filtering
مدل‌ها به‌عنوان مؤلفه‌های سیستمی نامعتبر
Untrusted model component design
دفاع ایمنی در سطح مدل
Model-level Safety Defense
فنون دستورالعمل و قالب‌بندی اعلان
Prompt instruction and formatting techniques
آشکارسازی و خاتمه‌دادن به تعامل‌های زیان‌بار
Detecting and terminating harmful interactions
آشکارسازی سرقت اعلان
Prompt stealing detection
تغییر ورودی
Input modification
SmoothLLM
SmoothLLM
پایش و پاسخ
Monitoring and response
محدودیت‌های استفاده
Usage restrictions
راهکارهای غیرمستقیم
Indirect mitigations
بازیافت دانش (آن‌یادگیری)
Unlearning
فنون آموزش
Training Techniques
تنظیم دقیق مدل‌های ویژهٔ وظیفه
Fine-tuning Task-Specific Models
آموزش مدل‌ها برای پیروی از روابط اعتماد سلسله‌مراتبی
Hierarchical Trust Relationships Training
طرح‌های تشخیص
Detection Schemes
دفاع‌های مبتنی بر LLM
LLM-based Defenses
روش‌های پردازش ورودی
Input Processing Methods
spotlighting
Spotlighting
پالایش دستورها از منابع دادهٔ طرف ثالث
Instruction Filtering from Third-Party Sources
نادیده گرفتن دستورهای موجود در داده‌های غیرقابل‌اعتماد
Disregarding Instructions in Untrusted Data
چند LLM با مجوزهای متفاوت
Multiple LLMs with Different Permissions
رابط‌های خوش‌تعریف
Well-Defined Interfaces
اقدامات آموزش عمومی
Public Education Efforts
مداخلات مدیریت خطرهای امنیتی
Security Risk Management Interventions
راهکارهای کاهش مخاطره AML
AML mitigation
بهترین شیوه‌های توسعه نرم‌افزار امن
Secure Software Development Best Practices
اقدامات کاهشی AML
AML Mitigations
Llama Guard 3
Llama Guard 3
Prompt Guard
Prompt Guard
برنامه پاداش اشکال ایمنی مدل
Model safety bug bounty program
ضمانت‌ها
Safeguards
راستی‌آزمایی بارگیری‌های وب با درهم‌ساز رمزنگارانه
Cryptographic Hash Verification of Web Downloads
پالایش ورودی
Input filtering
پالایش خروجی
Output filtering
سقف نرخ پرس‌وجو
API rate limiting
تکنیک‌های هوش مصنوعی تبیین‌پذیر
Explainable AI techniques
حضور انسان در حلقه
Human-in-the-Loop
سنجهٔ فاصله از توزیع آموزشی (OOD)
Out-of-distribution detection
رهگیری منشأ
Provenance Tracking
برچسب‌گذاری
Content Labeling
داده‌های آموزشی متنوع و بدون سوگیری
Unbiased Training Data
دفاع چندلایه
Defense-in-Depth
علائم آبی نامرئی
Invisible watermark
واترمارک‌گذاری صوتی
Audio Watermarking
روش‌های حوزهٔ بسامد
Frequency Domain Watermarking
روش‌های حوزهٔ زمان
Time Domain Watermarking
استفاده از شبکهٔ عصبی آموزش‌دیده برای واترمارک‌گذاری
Neural Network Audio Watermarking
فرادادهٔ ایمن‌سازی‌شده با رمزنگاری
Cryptographically-Secured Metadata
امضای دیجیتال
Digital Signature
واترمارک مقاوم در برابر دستکاری
Tamper-Evident Watermark
تکنیک‌های درج فراداده
Metadata Capture Techniques
آشکارسازهای یادگیری عمیق
Deep Learning Detector
آشکارسازهای یادگیری ماشین
Machine Learning Detector