معماری های جایگزین تأثیر متغیری بر تعصب ناشی از افزایش دارند

جدول پیوندها

2.4 معماری های جایگزین تأثیر متغیری بر تعصب ناشی از افزایش دارند

پس از انجام یک تجزیه و تحلیل داده محور از تعصب کلاس خاص ناشی از DA، ما آخرین سری آزمایش ها (نگاه کنید به شکل 4) را به یک رویکرد مدل محورتر به این پدیده اختصاص دادیم. Balestriero، Bottou و LeCun (2022) نشان می‌دهند که معماری‌های مختلف تمایل دارند در مورد رژیم‌های حفظ برچسب برای DA(α) به توافق برسند – به عبارت دیگر، تعویض ResNet50 با مدلی متفاوت در آزمایش‌های بالا تفاوت قابل‌توجهی را به همراه نخواهد داشت. منجر به پویایی عملکرد کلی و خاص کلاس می شود. برای تأیید و گسترش این ادعا، آزمایش را از بخش 2.2 در مجموعه داده Fashion-MNIST با استفاده از CNN باقیمانده دیگر، EfficientNetV2S، و همچنین یک Vision Transformer در SWIN-Transformer بازسازی کردیم.

معماری «کوچک» EfficientNetV2S (Tan and Le 2021) به دلیل اجرای مدرن و کارآمد از خانواده مدل‌های EfficientNet انتخاب شد. مدل با استفاده از تطبیق رویه دانلود، تنظیم و بهینه سازی شد…