ارزیابی رویکردهای مختلف هرس در میزان تحمل‌پذیری اشکال در شبکه‌های عصبی عمیق

نویسندگان

1 دانشکده مهندسی برق و کامپیوتر، دانشگاه شیراز، شیراز، ایران

2 دانشکده فنی و مهندسی، دانشگاه شهید باهنر کرمان، کرمان

3 دانشکده مهندسی برق و کامپیوتر، دانشگاه شیراز، شیراز، ایران,

doi
چکیده

افزایش اندازه مدل و تعداد پارامترها در شبکه‏‌های عصبی عمیق، از یک سو موجب پیشرفت‏‌های زیادی در عملکرد این شبکه‌‏ها شده و از سوی دیگر باعث بروز چالش­‌هایی از قبیل افزایش اندازه حافظه می­‌گردد. در هرس مدل، با حذف برخی پارامترهای شبکه، ضمن حفظ دقت مدل، اندازه آن کاهش داده می‏‌شود. با به‏‌کارگیری این شبکه‌‏ها در سیستم‌­های حساس-از-منظر-ایمنی، تاثیر هرس مدل که به طور سنتی با هدف کاهش اندازه شبکه استفاده می‌‏شود، بر تحمل‌‏پذیری اشکال شبکه‏‌ها مورد سوال جدی قرار گرفته است. در این مقاله، به کمک آزمایش‏‌های گسترده تزریق اشکال، تحلیل جامعی بر میزان تاثیر روش‏‌های مختلف هرس بر تحمل‏‌پذیری اشکال شبکه‌‏های عصبی عمیق ارائه می‏‌شود. مدل اشکال مورد مطالعه، خطاهای نرم واژگونی بیتی است که در حافظه ذخیره‌‏ساز وزن‏‌های شبکه رخ می‌‏دهد و باعث تغییر مقدار وزن‏‌های شبکه می‏‌گردد. با­توجه به نتایج به‌­دست­آمده از آزمایش‏‌های متنوع تزریق اشکال بر روی دو شبکه AlexNet و ResNet18 که به روش‏‌های مختلف هرس شده­اند، می‏‌توان نتیجه گرفت که به طور کلی، هرس کردن مدل باعث بهبود تحمل‌‏پذیری اشکال می‏‌شود و می‌‏توان از آن به منظور بهبود تحمل‌‏پذیری شبکه‌‏های عصبی عمیق هم بهره گرفت. از میان روش‌‏های مختلف هرس مدل، هرس وزنی بیشترین میزان بهبود تحمل‌‏پذیری اشکال را دارد.