این ماژول بر الزامات ویژه برای مدل های آموخته شده بر روی بردارهای ویژگی که دارای ابعاد زیادی هستند، تمرکز دارد.
تنظیم برای اسپاسیت
بیایید به Feature Crosses برگردیم
- هشدار: صلیب های پراکنده ممکن است فضای ویژگی را به میزان قابل توجهی افزایش دهد
- مسائل احتمالی:
- اندازه مدل (RAM) ممکن است بزرگ شود
- ضرایب "صدا" (باعث بیش از حد برازش می شود)
L 1 منظم سازی
- می خواهم L 0 هنجار وزنه ها را جریمه کنم
- بهینه سازی غیر محدب؛ NP-hard
L 1 منظم سازی
- می خواهم L 0 هنجار وزنه ها را جریمه کنم
- بهینه سازی غیر محدب؛ NP-hard
- ریلکس به تنظیم L 1 :
- جریمه کردن مجموع عضلات شکم (وزن)
- مشکل محدب
- بر خلاف L 2 ، پراکندگی را تشویق کنید