الانحدار الخطي: تمرين انحدار التدرج

في هذا التمرين، ستعيد الاطّلاع على الرسم البياني لبيانات كفاءة استهلاك الوقود من تمرين "المَعلمات". ولكن هذه المرة، ستستخدم الانحدار التدرّجي لمعرفة قيم الوزن والانحياز المثلى لنموذج خطي يقلل الخسارة.

أكمِل المهام الثلاث أسفل الرسم البياني.

المهمة 1: اضبط شريط التمرير معدل التعلّم أسفل الرسم البياني لضبط معدل تعلّم يبلغ 0.03. انقر على الزر Start (بدء) لتشغيل دالة التدرج التنازلي.

ما المدة التي يستغرقها تدريب النموذج للتقارب (الوصول إلى الحد الأدنى الثابت لقيمة الخسارة)؟ ما هي قيمة MSE عند تقارب النموذج؟ ما هي قيم الوزن والتحيز التي تؤدي إلى هذه القيمة؟

عندما ضبطنا معدّل التعلّم على 0.03، تقارب النموذج بعد حوالي 30 ثانية، وحقّق قيمة MSE أقل بقليل من 3 مع قيمتَي الوزن والتحيز -2.08 و23.098 على التوالي. يشير ذلك إلى أنّنا اخترنا قيمة جيدة لدرجة التعلّم.

المهمة 2: انقر على الزر إعادة الضبط أسفل الرسم البياني لإعادة ضبط قيم "الوزن" و"الانحياز" في الرسم البياني. اضبط شريط التمرير معدل التعلّم على قيمة تتراوح بين 1.10e–5. انقر على الزر Start (بدء) لتشغيل دالة التدرج التنازلي.

ما الذي لاحظته بشأن المدة التي يستغرقها تدريب النموذج للتقارب هذه المرة؟

بعد مرور عدة دقائق، لم تكتمل عملية تدريب النموذج. إنّ تعديلات صغيرة على قيم "الوزن" و"الانحراف" تؤدي إلى قيم أقل قليلاً للخسارة. يشير ذلك إلى أنّ اختيار معدّل تعلُّم أعلى سيتيح للانحدار التدرّجي العثور على قيم الوزن والانحياز المثلى بشكلٍ أسرع.

المهمة 3: انقر على الزر إعادة الضبط أسفل الرسم البياني لإعادة ضبط قيم "المُدخل" و"المُشغِّل" في الرسم البياني. اضبط شريط تمرير معدل التعلّم حتى 1. انقر على الزر Start (بدء) لتشغيل دالة التدرج التنازلي.

ماذا يحدث لقيم الخسارة أثناء عمليات خورازمية انحدار التدرج؟ ما المدة التي ستستغرقها عملية تدريب النموذج للتقارب هذه المرة؟

تتفاوت قيم الخسارة بشكل كبير عند القيم العالية (متوسط خطأ التربيع أكثر من 300). يشير ذلك إلى أنّ معدّل التعلّم مرتفع جدًا، ولن يصل تدريب النموذج أبدًا إلى حالة التقارب.