مفاهیم کتاب

نمونه‌های خصمانه

Adversarial examples

مسموم‌سازی داده

Data poisoning

۸ ارجاع حمله

بیرون‌کشی مدل‌ها

Model exfiltration

حملات استخراج داده و استخراج مدل

Data and model extraction attacks

جیل‌بریکینگ

Jailbreaking

حملات خصمانه

Adversarial Attacks

حملات گریز

Evasion Attacks

حملات مسموم‌سازی

Poisoning Attacks

حملات حریم خصوصی

Privacy Attacks

۳ ارجاع حمله

بازسازی داده

Data Reconstruction

استنتاج عضویت

Membership Inference

استنتاج ویژگی

Property Inference

۳ ارجاع حمله

استخراج مدل

Model Extraction

۱۰ ارجاع حمله

مسموم‌سازی داده در مقیاس وب

Web-scale Data Poisoning

حملات تزریق دستور

Prompt Injection Attacks

تزریق دستور (پرامپت)

Prompt Injection

۱۰ ارجاع حمله

گریز

Evasion

نقض‌های دسترس‌پذیری

Availability Violations

نقض‌های یکپارچگی

Integrity Violations

نقض حریم خصوصی

Privacy Compromises

از کارافتادگی دسترس‌پذیری

Availability breakdown

نقض تمامیت

Integrity violation

به خطر افتادن حریم خصوصی

Privacy compromise

حملات مسموم‌سازی داده

Data Poisoning Attacks

حملات مسموم‌سازی با برچسب تمیز

Clean-label Poisoning Attacks

حملات درِ پشتی

Backdoor Attacks

حملات گریز جعبه‌سیاه

Black-box Evasion Attacks

حمله انرژی-تأخیر

Energy-Latency Attack

حملات جعبه‌سفید

White-box Attacks

حملات جعبه‌سفید

White-box Attack

حملات جعبه‌سیاه

Black-box Attack

حملات جعبه‌خاکستری

Gray-box Attack

حملات سازگارشونده

Adaptive Attack

حملهٔ گریز

Evasion Attack

۷ ارجاع حمله

حملهٔ مسموم‌سازی

Poisoning Attack

۵ ارجاع حمله

حملهٔ حریم خصوصی

Privacy Attack

حملهٔ مسموم‌سازی از نوع درِ پشتی

Backdoor Poisoning Attack

۵ ارجاع حمله

انتقال‌پذیری

Transferability

بهینه‌سازی مرتبه صفر

Zeroth-order Optimization

بهینه‌سازی بیزی

Bayesian Optimization

بهینه‌سازی گرادیان

Gradient Optimization

حمله گریز جعبه‌سفید

White-Box Evasion Attack

روش مبتنی بر بهینه‌سازی

Optimization-Based Attack Method

روش علامت گرادیان سریع

FGSM

DeepFool

حمله Carlini-Wagner

Carlini-Wagner Attack

حمله Projected Gradient Descent

PGD

حمله گریز همگانی

Universal Evasion Attack

حمله قابل‌تحقق فیزیکی

Physically Realizable Attack

حمله هدف‌مند

Targeted Attack

حمله بدون‌هدف

Untargeted Attack

ShapeShifter

حمله ASCII-art

ASCII-art Attack

حملهٔ گریز جعبه‌سیاه

Black-Box Evasion Attack

حملهٔ مبتنی بر امتیاز

Score-Based Attack

حملهٔ مبتنی بر تصمیم

Decision-Based Attack

Boundary Attack

HopSkipJumpAttack