稀疏度正規化

本單元旨在說明模型的特殊要求，以涵蓋多種維度的特徵向量。

平等化的正規化

  • 注意：稀疏特徵交叉的可能會大幅增加地圖項目空間
  • 可能的問題：
    • 模型大小 (RAM) 可能會變得很大
    • 「雜訊」係數 (原因過度配適)
  • 想要懲罰 L0 的權重
    • 非 convex 最佳化；NP 硬
  • 想要懲罰 L0 的權重
    • 非 convex 最佳化；NP 硬
  • 放寬 L1 正則化：
    • 修補 abs(weights) 的總和
    • 凸面問題
    • 鼓勵員工使用 L2
上一頁
節目規劃練習
下一頁
L1 正規化