Co oznacza &generatywna" nazwa w raporcie &Generative Adversarial Network"? " Generatywne" opisuje klasę modeli statystycznych, które kontrastują z modelami dyskryminacyjnymi.
Nieformalnie:
- Modele generujące mogą generować nowe instancje danych.
- Modele dyskryminacji rozróżniają różne rodzaje instancji danych.
Model generatywny może powodować tworzenie nowych zdjęć zwierząt, które wyglądają jak rzeczywiste zwierzęta. Model dyskryminujący może natomiast wskazywać psa kota. Model GAN jest tylko jednym z modeli generacyjnych.
Bardziej formalnie, biorąc pod uwagę zbiór instancji danych X i zestaw etykiet Y:
- Modele generujące uwzględniają prawdopodobieństwo łączenia osi p(X, Y) lub tylko p(X), jeśli nie ma etykiet.
- Modele dyskryminacyjne rejestrują prawdopodobieństwo warunkowe(p | X).
Model generacyjny obejmuje dystrybucję samych danych i wskazuje prawdopodobieństwo w danym przykładzie. Modele, które przewidują następne słowo w sekwencji, są zwykle modelami generacyjnymi (zwykle są prostsze niż w przypadku GAN), ponieważ mogą przypisywać prawdopodobieństwo do sekwencji słów.
Model dyskryminacyjny ignoruje pytanie o to, czy dana instancja jest prawdopodobna, i wskazuje jedynie prawdopodobieństwo zastosowania etykiety przez instancję.
Jest to bardzo ogólna definicja. Jest wiele rodzajów modeli generacyjnych. GAN to po prostu jeden z modeli generacyjnych.
Prawdopodobieństwo modelowania
Żaden z modeli nie musi zwracać liczby reprezentującej prawdopodobieństwo. Rozkład danych możesz modelować, imitując tę dystrybucję.
Na przykład klasyfikator dyskryminujący, taki jak drzewo decyzji, może oznaczyć etykietę bez przypisywania prawdopodobieństwa do tej etykiety. Klasyfikator nadal byłby modelem, ponieważ rozkład wszystkich prognozowanych etykiet modelowałby rozkład rzeczywistych etykiet w danych.
Podobnie model generacyjny może modelować rozkład, tworząc z nich przekonujące dane, które wyglądają na takie.
Modele genetyczne są trudne
Modele genetyczne mierzą się z trudniejszym zadaniem niż analogiczne modele dyskryminujące. Modele Generacyjne muszą modelować więcej.
Model generacyjny obrazów może uwzględniać korelacje takie jak &\u2015, które wyglądają, jakby łodzie pojawiały się w pobliżu rzeczy przypominających wodę. Są to bardzo złożone procesy dystrybucji.
Natomiast model dyskryminujący może nauczyć się różnicy między „żaglówką” czy „żaglówką”, jeśli szukałby kilku wzorów. Może on ignorować wiele korelacji, które muszą być prawidłowe dla modelu generacyjnego.
Modele dyskryminujące próbują narysować granice w przestrzeni danych, a modele generacyjne próbują modelować miejsce danych w przestrzeni. Na przykład ten diagram przedstawia modele dyskryminujące i generacyjne odręcznych cyfr:
Rysunek 1. Modele dyskryminujące i generujące odręczne cyfry.
Model dyskryminacyjny stara się odróżnić różnicę między odręcznymi literami 0 i 3, rysując linię w przestrzeni danych. Właściwy wiersz może odróżniać argumenty 0 od 1 & 39. Dzięki temu nie trzeba dokładnie modelować miejsca, w którym instancje są umieszczone w przestrzeni danych po obu stronach linii.
Model generatywny próbuje natomiast przekonać do siebie użytkowników, tworząc w przestrzeni danych cyfry, które są zbliżone do prawdziwych odpowiedników. Musi modelować rozkład w przestrzeni danych.
GAN oferuje skuteczny sposób trenowania takich szczegółowych modeli przypominających rzeczywistą dystrybucję. Aby zrozumieć, jak działają, trzeba poznać podstawową strukturę sieci GAN.
Sprawdź swoją wiedzę: modele genialne a modele dyskryminacji
- Rzuć trzema kostkami.
- Pomnóż rolkę przez stały W.
- Powtórz te czynności 100 razy i podaj średnią wszystkich wyników.