یادگیری شبکه عصبی با روش لونبرگ-مارکوارت بهبودیافته

نویسندگان

1 دانشجوی کارشناسی ارشد، دانشکده فنی و مهندسی، دانشگاه شهید باهنر کرمان، کرمان، ایران

2 استادیار، دانشکده فنی و مهندسی، دانشگاه شهید باهنر کرمان، کرمان، ایران

3 دانشیار، دانشکده فنی و مهندسی، دانشگاه شهید باهنر کرمان، کرمان، ایران

doi
10.22034/abmir.2025.22500.1082
چکیده

دراین مقاله روشی جدید برای افزایش سرعت همگرایی و کارایی روش لونبرگ-مارکوارت ارائه می‌شود. روش لونبرگ-مارکوارت یک روش مبتنی بر نیوتن است که در بهینه‌سازی و تعیین ضرایب شبکه‌های عصبی دارای کارایی مناسبی در مقایسه با سایر روش‌ها ازجمله روش پس‌انتشارخطا است. بااین‌حال، عملکرد این روش به‌طور قابل‌توجهی به انتخاب ضریب دمپینگ مناسب بستگی دارد. ازجمله روش‌های مختلف تعیین ضریب دمپینگ، روش جستجو خطی مارکوارت و روش‌های مبتنی بر نرم خطا و مبتنی بر نرم ژاکوبین می‌باشند که در این مقاله با بررسی نقاط ضعف و قوت این روش‌ها، یک روش ترکیبی جهت افزایش سرعت همگرایی ارائه می‌شود. درروش پیشنهادی بازه جستجوی ضریب دمپینگ و درنتیجه مقدار پارامتر نرخ تنظیم کاهش‌یافته است. با انجام این اصلاحات دقت جستجوی ضریب دمپینگ افزایش‌یافته و سرعت همگرایی روش پیشنهادی افزایش می‌یابد. به‌منظور ارزیابی روش پیشنهادی، یادگیری یک شبکه‌عصبی برای شناسایی یک تابع غیرخطی پیچیده، یک مسأله رگرسیون و یک مسأله طبقه‌بندی مورد شبیه‌سازی قرارگرفته و نتایج به‌دست‌آمده نشان می‌دهد که روش پیشنهادی در مقایسه با سایر روش‌های مورد بررسی، دارای کارایی مناسبی بوده و توانسته است خطای یادگیری را به حد قابل قبولی کاهش داده و سرعت همگرایی بالاتری داشته باشد.