Ponieważ GAN zawiera 2 oddzielnie wytrenowane sieci, jego algorytm trenowania musi rozwiązać 2 powikłania:
- GAN musi skoordynować 2 różne rodzaje trenowania (generatory i dyskryminację).
- Konwersja z GAN jest trudna do zidentyfikowania.
Szkolenie alternatywne
Generator i dyskryminator mają różne procesy trenowania. Jak ogólnie możemy przeszkolić sieć GAN?
Szkolenia z GAN przechodzą w różnych okresach:
- Kryminał trenuje jedną lub więcej epoki.
- Generator jest używany do trenowania co najmniej jednej epoki.
- Powtórz kroki 1–2, aby wytrenować generator i sieci dyskryminujące.
Zachowujemy stały poziom generatora na etapie trenowania dyskryminacji. Szkolenia z dyskryminacji starają się odróżnić prawdziwe dane od fałszywych, dlatego muszą nauczyć się rozpoznawać wady generatora. To zupełnie inny problem dla dokładnie wytrenowanego generatora niż dla nie wytrenowanego generatora, który generuje losowe dane wyjściowe.
Analogicznie utrzymujemy dyskryminację na etapie trenowania generatora. W przeciwnym razie generator mógłby próbować osiągnąć ruchomy cel i nigdy się nie zniekształca.
W ten sposób rozwiązania GAN mogą być w stanie rozwiązać nieuzasadnione problemy generacyjne. W trudnych sytuacjach generatywnych dochodzimy do momentu, gdy zaczyna się już znacznie prostszy klasyfikacja. Jeśli natomiast nie możesz wytrenować klasyfikatora tak, aby odróżniał dane rzeczywiste od wygenerowanych, nawet na potrzeby początkowego generatora losowych urządzeń, nie możesz uruchomić trenowania GAN.
Converver
W miarę jak trenuje się generator, wydajność dyskryminacji się pogarsza, ponieważ dyskryminator nie wie, jaka jest różnica między prawdziwym a fałszem. Jeśli generator działa idealnie, dyskryminator ma 50% dokładności. W efekcie dyskryminator rzuca monetą, aby przeprowadzić prognozę.
Postęp staje się problemem dla ogółu użytkowników sieci GAN: opinie o dyskryminacji z czasem stają się coraz mniej istotne. Jeśli sieć GAN będzie wciąż uczyć się od momentu, w którym dyskryminator rzeczywiście przekazuje całkowicie losowe opinie, generator zaczyna trenować niepotrzebne informacje i może się zwinąć.
W przypadku GAN konwersje mają charakter przelotny, a nie stabilny.