هوشمندسازی الگوریتم گرادیان با الهام از روش بهینه سازی ازدحام ذرات

نویسندگان

1 دانشکده فنی و مهندسی- دانشگاه شهید باهنر کرمان

2 دانشکده فنی و مهندسی- دانشگاه شهید باهنر کرمان

3 دانشکده فنی و مهندسی- دانشگاه شهید باهنر کرمان

doi
10.61882/jiaeee.22.2.111
چکیده

الگوریتم گرادیان ساده­ترین و پرکاربرد­ترین روش در بهینه­سازی و یادگیری ماشین می­باشد. سرعت همگرایی این روش به­شدت به انتخاب مقدار مناسب برای طول­گام بستگی دارد. انتخاب طول­گام بسیا­رکوچک می­تواند باعث سرعت همگرایی کند شود. ازطرفی انتخاب طول­گام بسیار­بزرگ نیز ممکن است باعث واگرایی و نوسان حول نقطه بهینه گردد. معمولاً طول­گام را در ...