רגרסיה לינארית: תרגיל ירידה הדרגתית

בתרגיל הזה תראו שוב את התרשים של נתוני צריכת הדלק תרגיל הפרמטרים. אבל הפעם להשתמש בירידה הדרגתית כדי ללמוד את ערכי המשקל וההטיות האופטימליים שמפחית את האובדן.

מבצעים את שלוש המשימות שמתחת לתרשים.

משימה מס' 1: מכווננים את פס ההזזה קצב למידה שמתחת לתרשים כדי להגדיר קצב למידה של 0.03. לוחצים על הלחצן Start כדי להפעיל ירידה הדרגתית.

כמה זמן לוקח לאימון המודל להתכנס (להגיע למינימום יציב )? מהו ערך ה-MSE בנקודת ההתכנסות של המודל? איזה משקל והטיות האם הערכים האלה מניבים את הערך?

משימה מס' 2: לחצו על הלחצן איפוס שמתחת לתרשים כדי לאפס את המשקל ערכי הטיה בתרשים. מכווננים את פס ההזזה קצב למידה לערך 1.10e–5. לוחצים על הלחצן Start כדי להפעיל ירידה הדרגתית.

מה גיליתם לגבי משך הזמן שנדרש לאימון המודל כדי להתכנס הפעם?

משימה מס' 3: לחצו על הלחצן איפוס מתחת לתרשים כדי לאפס את המשקל ואת ערכי ההטיה בתרשים. מכווננים את פס ההזזה קצב למידה עד 1. לוחצים על הלחצן Start כדי להפעיל ירידה הדרגתית.

מה קורה לערכי אובדן כשמתבצעת ירידה הדרגתית? כמה זמן צריך לבנות מודל שהאימון יתקיים הפעם?