تأثیر فراپارامترها بر عملکرد آموزش خصمانه

جدول پیوندها

چکیده و 1. مقدمه

2. آثار مرتبط

3. الگوریتم NEO-KD پیشنهادی و راه اندازی مشکل 3.1: آموزش خصمانه در شبکه های چند خروجی

3.2 شرح الگوریتم

4. آزمایش ها و 4.1 راه اندازی آزمایشی

4.2. نتایج آزمایشی اصلی

4.3. مطالعات و بحث های فرسایشی

5. نتیجه گیری، تصدیق و مراجع

A. جزئیات آزمایش

ب. دقت تست پاک و ج. آموزش دشمنی از طریق حمله متوسط

د. تنظیم فراپارامتر

E. بحث در مورد کاهش عملکرد در خروجی های بعدی

F. مقایسه با روش های دفاعی اخیر برای شبکه های تک خروجی

ز. مقایسه با SKD و ARD و H. پیاده سازی الگوریتم های مهاجم قوی تر

D تنظیم فراپارامتر

در تابع هدف NEO-KD، سه فراپارامتر (α، β، γ) وجود دارد که α، β میزان دانش تقطیر را از NKD، EOKD و γ کنترل می‌کنند، مقدار دانش تقطیر شده را برای خروجی‌های بعدی افزایش می‌دهد.

D.1 فراپارامتر (α، β)

مقدار بسیار زیاد α و β می تواند تمرین ایده آل دشمن را از بین ببرد. α خیلی بزرگ باعث NKD قوی می شود که منجر به وابستگی زیاد در بین مدل های فرعی می شود و α خیلی کوچک باعث NKD ضعیف می شود که نمی تواند دانش کافی را به دانش آموزان تقطیر کند.