檢查 L2 正規化
這項運動含有一個雜亂的小型訓練資料集。在這樣的環境下，過度配適是非常重要的。別擔心，正規化可能有所幫助
本練習包含三個相關工作。為了簡化這三項工作的比較，請在獨立的分頁中執行每項工作。
- 工作 1：執行至少 500 個訓練週期指定的模型。請注意以下事項：
- 測試損失。
- 測試損失與訓練損失之間的差異。
- 特徵的學習權重以及特徵交叉。(從特徵行到 OUTPUT 各行的相對厚度，代表該特徵或特徵交錯的已知權重。將滑鼠遊標懸停在每一行上，即可找到確切的權重值)。
- 工作 2： (建議在另一個分頁中執行這項工作。)將正規化率從 0 提高到 0.3。接著，至少執行 500 個週期的模型，並找到下列問題的答案：
- 工作 2 的測試損失和工作 1 的測試損失有何不同？
- 工作 2 的測試損失和訓練損失差距與工作 1 有何差異？
- 每項特徵和特徵的交叉學習權重與工作 2 到工作 1 有何不同？
- 您的結果顯示了模型複雜度如何？
- 工作 3：嘗試正規化率，嘗試找出最佳值。
(答案就在運動下方)。