طراحی شبکه بهینه‌ساز خودکار الهام گرفته از الگوریتم بهینه‌سازی BFGS با حافظه محدود

نویسندگان
اعتصام, محمد ID 1
صادقی لطف آبادی, اشکان ID 2
غیاثی شیرازی, سید کمال الدین ID 3

1 دانشگاه فردوسی مشهد

2 دانشگاه فردوسی مشهد

3 دانشگاه فردوسی مشهد

doi
10.61186/jsdp.21.1.89
چکیده

امروزه علی‌رغم توسعه مدل‌های یادگیری ماشین برای استخراج ویژگی‌ها به صورت خودکار، هنوز الگوریتم‌های بهینه‌سازی به صورت دستی طراحی می‌شوند. یکی از اهداف فرایادگیری (meta-learning)، خودکار کردن فرایند بهینه‌سازی است. الگوریتم‌های بهینه‌سازی دستی مبتنی بر بردار گرادیان تنها براساس عملیات ضرب داخلی، ضرب اسکالر و جمع برداری بر روی بردارهای ورودی ...

کلیدواژه‌ها
Hilbert LSTM, LSTM, L-BFGS, فرایادگیری, بهینه سازی خودکار