رگرسیون خطی: تمرین نزولی گرادیان

در این تمرین، نمودار داده‌های بهره‌وری سوخت را از تمرین پارامترها دوباره بررسی خواهید کرد. اما این بار، از گرادیان نزولی برای یادگیری مقادیر بهینه وزن و بایاس برای یک مدل خطی که تلفات را به حداقل می‌رساند، استفاده خواهید کرد.

سه وظیفه زیر نمودار را انجام دهید.

وظیفه شماره ۱: نوار لغزنده نرخ یادگیری را در زیر نمودار تنظیم کنید تا نرخ یادگیری ۰.۰۳ تنظیم شود. برای اجرای گرادیان کاهشی، روی دکمه شروع کلیک کنید.

چه مدت طول می‌کشد تا آموزش مدل همگرا شود (به یک مقدار حداقل زیان پایدار برسد)؟ مقدار MSE در همگرایی مدل چقدر است؟ چه مقادیر وزنی و بایاس این مقدار را تولید می‌کنند؟

وظیفه شماره ۲: برای تنظیم مجدد مقادیر Weight و Bias در نمودار، روی دکمه Reset در زیر نمودار کلیک کنید. نوار لغزنده Learning Rate را روی مقداری حدود ۱.۱۰e تنظیم کنید. برای اجرای گرادیان کاهشی، روی دکمه Start کلیک کنید.

در مورد مدت زمانی که طول می‌کشد تا آموزش مدل این بار همگرا شود، چه چیزی متوجه می‌شوید؟

وظیفه شماره ۳: برای تنظیم مجدد مقادیر Weight و Bias در نمودار، روی دکمه Reset در زیر نمودار کلیک کنید. نوار لغزنده Learning Rate را تا ۱ تنظیم کنید. برای اجرای گرادیان کاهشی، روی دکمه Start کلیک کنید.

با اجرای گرادیان نزولی چه اتفاقی برای مقادیر زیان می‌افتد؟ این بار همگرایی آموزش مدل چقدر طول می‌کشد؟