降低损失:优化学习速率

练习 1

将滑块上的学习速率设置为 0.03。不断按“步骤”按钮,直到梯度下降法算法到达损失曲线的最低点。完成了多少步?

练习 2

较高的学习速率可以更快地达到最低值吗?将学习速率设为 0.1,继续按 STEP 键,直到梯度下降法达到最小值。这次走了多少步?

练习 3

更大的学习速率会怎么样。重置图表,将学习速率设为 1,并尝试达到损失曲线的最小值。这次发生了什么情况?

可选挑战

您能否为该曲线找到金发姑娘般刚刚好的学习速率,让梯度下降法以最少的步数到达最低点?达到最低数量要求所需的最少步骤数是多少?