L2 normalleştirmesini inceleme
Bu alıştırma, küçük ve gürültülü bir eğitim veri kümesi içerir. Bu tür ortamlarda, fazla uyumlu hale getirmek gerçek bir sorundur. Neyse ki normalleştirme işe yarayabilir.
Bu alıştırma birbiriyle bağlantılı üç görevden oluşmaktadır. Üç görev arasındaki karşılaştırmaları basitleştirmek için her görevi ayrı bir sekmede çalıştırın.
- 1. Görev: Modeli en az 500 dönem için verilen şekilde çalıştırın. Aşağıdakileri göz önünde bulundurun:
- Test kaybı.
- Test kaybı ile Eğitim kaybı arasındaki delta.
- Özelliklerin öğrenilen ağırlıkları ve kesişim değerleri. (FEATURES ile OUTPUT aralığındaki her bir çizginin göreli kalınlığı, ilgili özellik veya özellik çaprazı için öğrenilen ağırlığı temsil eder. Fareyle her bir satırın üzerine gelerek tam ağırlık değerlerini bulabilirsiniz.)
- 2. Görev: (Bu görevi ayrı bir sekmede gerçekleştirmeyi düşünün.) 0 olan normalleştirme oranını 0,3'e yükseltin. Ardından, modeli en az 500 dönem için çalıştırın ve aşağıdaki soruların yanıtlarını bulun:
- Görev 2'deki Test kaybı ile Görev 1'deki Test kaybı arasındaki fark nedir?
- 2. Görevdeki Test kaybı ile Eğitim kaybı arasındaki delta, 1. görevdekinden ne açıdan farklıdır?
- Her bir özellik ve özellik çaprazının öğrenilen ağırlıkları, 2. görev ile 1. görev arasında nasıl farklılık gösterir?
- Sonuçlarınız model karmaşıklığı hakkında ne söylüyor?
- 3. görev: Optimum değeri bulmaya çalışarak normalleştirme oranıyla denemeler yapın.
(Yanıtlar alıştırmanın hemen altında görünür.)