Nadmiarowe dopasowanie oznacza utworzenie modelu. pasującym do (zapamiętuje) training set (zestaw treningowy), więc uważa, że model nie generuje poprawnych prognoz na podstawie nowych danych. Przetrenowany model przypomina wynalazek, który dobrze sprawdza się w laboratorium, ale jest bezwartościowa w świecie rzeczywistym.
Na rys. 11 wyobraźmy sobie, że każdy kształt geometryczny reprezentuje położenie drzewa. w kwadratowym lesie. Niebieskie romby wskazują lokalizacje zdrowych drzew, a pomarańczowe okręgi wskazują lokalizacje chorych drzew.
Rysuj ręcznie wszelkie kształty – linie, krzywe, owale...by rozdzielić i wyhodować zdrowe drzewa. Następnie rozwiń następny wiersz, aby przeanalizować jednego możliwego rozdzielenia.
Złożone kształty pokazane na Rys. 12 zostały poprawnie podzielone na kategorie i drzewa. Jeśli myślimy o kształtach jako modelach, to fantastyczne, model atrybucji.
A może jednak? Naprawdę doskonały model poprawnie kategoryzuje nowe przykłady. Rysunek 13 pokazuje, co się dzieje, gdy ten sam model generuje prognozy w nowym modelu przykłady ze zbioru testowego:
Model złożony, pokazany na rys. 12, świetnie się sprawdził w zbiorze treningowym, ale całkiem kiepsko na zbiorze testowym. To klasyczny przypadek modelu nadmierne dopasowanie do danych zbioru treningowego.
Dopasowywanie, nadmierne dopasowanie i dopasowanie
Model musi formułować dobre prognozy na nowych danych. Chodzi o to, aby stworzyć model, który „pasuje” nowych danych.
Jak widać, model niedopasowany zapewnia doskonałe prognozy podczas trenowania ale słabe prognozy nowych danych. An model underfit nie ma nawet prognoz w przypadku danych treningowych. Jeśli model z nadmiarowym dopasowaniem jest jak produkt, który sprawdza się dobrze w laboratorium, ale słabo w świecie rzeczywistym, Gdy modelka schludna jest jak produkt, który nie radzi sobie dobrze w laboratorium.
Uogólnianie to przeciwieństwo nadmiernego dopasowania. Oznacza to, że model, który dobrze uogólnia, zapewnia i generowanie prognoz na nowych danych. Twoim celem jest stworzenie modelu, który uogólni do nowych danych.
Wykrywam nadmierne dopasowanie
Te krzywe pomagają wykryć nadmierne dopasowanie:
- krzywe straty
- krzywe uogólniania
Krzywa straty przedstawia stan utraty modelu. z liczbą iteracji treningowych. Wykres pokazujący co najmniej dwie krzywe straty, jest nazywany uogólnieniem. . Poniżej krzywa uogólniania pokazuje dwie krzywe straty:
![Rysunek 15. Funkcja utraty dla zbioru treningowego stopniowo
odrzuca. Funkcja utraty dla zestawu walidacji również odrzuca,
ale po pewnym czasie zaczyna rosnąć.](https://developers.google.cn/static/machine-learning/crash-course/images/RegularizationTwoLossFunctions.png?authuser=0000&hl=pl)
Zwróć uwagę, że 2 krzywe straty na początku zachowują się podobnie, a potem się rozchodzą. Oznacza to, że po określonej liczbie iteracji spada utraconych lub utrzymuje się na stałym poziomie (przebiega) w zbiorze treningowym, ale rośnie; dla zestawu do walidacji. To sugeruje nadmierne dopasowanie.
Z kolei krzywa uogólniania dobrze dopasowanego modelu przedstawia 2 krzywe utraty. które mają podobne kształty.
Co powoduje nadmierne dopasowanie?
Ogólnie mówiąc, nadmierne dopasowanie jest spowodowane co najmniej jednym z tych czynników: problemy:
- Zbiór treningowy nie odzwierciedla odpowiednio rzeczywistych danych (lub zestaw do walidacji lub testowy).
- Model jest zbyt złożony.
Warunki uogólnienia
Model trenuje na zbiorze treningowym, ale prawdziwy test wartości modelu pokazuje, tworzy prognozy na nowych przykładach, szczególnie w przypadku danych ze świata rzeczywistego. Podczas tworzenia modelu Twój zbiór testowy służy jako pośrednik dla danych ze świata rzeczywistego. Trenowanie modelu, który dobrze uogólnia, zakłada następujące warunki zbioru danych:
- Na przykład: niezależnie i identycznie, czyli powiedzenie, że Twoja nie mogą na siebie wpływać.
- Zbiór danych to stacjonarne, czyli w zbiorze danych nie zmieniają się znacząco w czasie.
- Partycje zbioru danych mają taki sam rozkład. Oznacza to, że przykłady w zbiorze treningowym są statystycznie podobne do w zbiorze do walidacji, w zbiorze testowym i w rzeczywistych danych.
Przeanalizuj poprzednie warunki, wykonując poniższe ćwiczenia.
Ćwiczenia: sprawdź swoją wiedzę
![Poziomy pasek podzielony na 3 części: 70% słupka
to zbiór treningowy, 15% zbioru do walidacji i 15%
zbiór testowy](https://developers.google.cn/static/machine-learning/crash-course/images/PartitionThreeSets.png?authuser=0000&hl=pl)
Wyzwanie
Tworzysz model, który przewiduje idealny dzień, w którym pasażerowie będą mogli kupić bilet kolejowy na określoną trasę. Model może na przykład zalecić że użytkownicy kupują bilety na 8 lipca za pociąg odjeżdżający 23 lipca. Przewoźnik aktualizuje ceny co godzinę, kierując się aktualnymi informacjami ale głównie od obecnej liczby wolnych miejsc. Czyli:
- Jeśli jest wiele wolnych miejsc, ceny biletów są zwykle niskie.
- Jeśli jest bardzo mało wolnych miejsc, ceny biletów są zwykle wysokie.
Odpowiedź: prawdziwy model boryka się z pętla informacji zwrotnych.
Załóżmy na przykład, że model zaleca użytkownikom zakup biletów na 8 lipca. Niektórzy pasażerowie korzystający z rekomendacji modelu kupują bilety o 8:30 8 lipca rano. O 9:00 przewoźnik podnosi ceny, Zostało wolnych miejsc siedzących. Pasażerowie korzystający z rekomendacji modelu uzyskali zmienionych cen. Wieczorem ceny biletów mogą być dużo wyższe niż rano.