การถดถอยเชิงเส้น: แบบฝึกหัดที่ไล่ระดับสี

ในแบบฝึกหัดนี้ คุณจะเห็นกราฟข้อมูลการประหยัดเชื้อเพลิงจากแบบฝึกหัดพารามิเตอร์อีกครั้ง แต่ครั้งนี้คุณจะใช้การไล่ระดับสีเพื่อศึกษาค่าน้ำหนักและค่าความเอียงที่เหมาะสมที่สุดสำหรับโมเดลเชิงเส้นที่ลดการลดลง

ทํางาน 3 รายการใต้กราฟให้เสร็จสมบูรณ์

งาน #1: ปรับแถบเลื่อนอัตราการเรียนรู้ใต้กราฟเพื่อกำหนดอัตราการเรียนรู้เป็น 0.03 คลิกปุ่มเริ่มเพื่อเรียกใช้การลดเชิงลาด

การฝึกโมเดลใช้เวลานานแค่ไหนจึงจะบรรจบกัน (ถึงค่าการสูญเสียขั้นต่ำที่คงที่) ค่า MSE ที่การบรรจบของโมเดลคืออะไร ค่าน้ำหนักและค่าความลำเอียงใดที่ทำให้เกิดค่านี้

เมื่อเราตั้งอัตราการเรียนรู้เป็น 0.03 โมเดลจะแสดงผลหลังจากประมาณ 30 วินาที ซึ่งได้ค่า MSE ต่ำกว่า 3 ที่มีค่าน้ำหนักและค่ามีความลำเอียงเป็น -2.08 และ 23.098 ตามลำดับ ซึ่งบ่งชี้ว่าเราได้เลือกค่าอัตราการเรียนรู้ที่ดีแล้ว

งาน #2: คลิกปุ่มรีเซ็ตใต้กราฟเพื่อรีเซ็ตค่าน้ำหนักและค่าความเบี่ยงเบนในกราฟ ปรับแถบเลื่อนอัตราการเรียนรู้เป็นค่าประมาณ 1.10e–5 คลิกปุ่มเริ่มต้นเพื่อเรียกใช้การไล่ระดับสี

คุณสังเกตเห็นอะไรเกี่ยวกับระยะเวลาที่การฝึกโมเดลจะบรรลุความสอดคล้องกันในครั้งนี้

หลังจากผ่านไปหลายนาที การฝึกโมเดลยังคงไม่บรรลุ การอัปเดตค่าน้ำหนักและน้ำหนักตัวเล็กๆ น้อยๆ จะยังทำให้ค่าการสูญเสียลดน้อยลงเล็กน้อยต่อไป ซึ่งแสดงให้เห็นว่าการเลือกอัตราการเรียนรู้ที่สูงขึ้นจะทำให้การไล่ระดับสีค้นหาค่าน้ำหนักและค่าความเอียงที่เหมาะสมที่สุดได้รวดเร็วยิ่งขึ้น

งาน #3: คลิกปุ่มรีเซ็ตใต้กราฟเพื่อรีเซ็ตค่าน้ำหนักและค่าอคติในกราฟ ปรับแถบเลื่อนอัตราการเรียนรู้เป็น 1 คลิกปุ่มเริ่มเพื่อเรียกใช้การลดเชิงลาด

จะเกิดอะไรขึ้นกับค่าการสูญเสียเมื่อการลดเชิงลาดทำงาน การฝึกโมเดลจะใช้เวลา นานเท่าใดในการบรรจบกันในครั้งนี้

ค่าการสูญเสียผันผวนอย่างมากเมื่อค่าสูง (MSE มากกว่า 300) ซึ่งหมายความว่าอัตราการเรียนรู้สูงเกินไป และการฝึกโมเดลจะไม่บรรลุความสอดคล้อง