在本练习中,您将重新查看“参数”练习中显示的燃油经济性数据图表。不过,这次您将使用梯度下降法为线性模型学习最优的权重和偏差值,以最大限度地减少损失。
完成图表下方的三项任务。
任务 1:调整图表下方的学习率滑块,将学习率设置为 0.03。点击 Start 按钮以运行梯度下降法。
模型训练需要多长时间才能收敛(达到稳定的最小损失值)?模型收敛时的 MSE 值是多少?哪些权重和偏置值会产生此值?
点击加号图标查看我们的解决方案
当我们将学习速率设为 0.03 时,该模型在大约 30 秒后收敛,MSE 接近 3,权重值和偏差值分别为 -2.08 和 23.098。这表明我们选择的学习速率值较为合适。
任务 #2:点击图表下方的 Reset 按钮,以重置图表中的“Weight”和“Bias”值。将学习率滑块调整为大约 1.10e-5 的值。点击 Start 按钮以运行梯度下降法。
您发现这次模型训练收敛所需的时间有何变化?
点击加号图标查看解决方案
几分钟后,模型训练仍未收敛。对权重和偏差值进行微小更新仍会导致损失值略微降低。这表明,选择较高的学习率可以让梯度下降算法更快地找到最佳权重和偏差值。
任务 3:点击图表下方的重置按钮,重置图表中的权重和偏置值。将学习率滑块调整到 1。 点击 Start 按钮以运行梯度下降法。
梯度下降运行时,损失值会发生什么变化?这次模型训练需要多长时间才能收敛?
点击加号图标查看解决方案
在高值(MSE 超过 300)时,损失值会大幅波动。 这表示学习速率过高,模型训练永远不会收敛。