GAN ayrı olarak eğitilmiş iki ağ içerdiğinden eğitim algoritması iki sorunu çözmelidir:
- GAN'lar iki tür eğitimden (jeneratör ve ayrımcı) geçmelidir.
- GAN dönüşümünü tespit etmek zordur.
Alternatif Eğitim
Jeneratör ve ayrımcı farklı eğitim süreçleri vardır. GAN'ı bir bütün olarak nasıl eğitiyoruz?
GAN eğitimi alternatif dönemlerde devam eder:
- Ayrımcı bir veya daha fazla dönem için eğitim yapar.
- Jeneratör bir veya daha fazla dönem için eğitim yapar.
- Jeneratör ve ayrımcı ağlarını eğitmeye devam etmek için 1. ve 2. adımları tekrarlayın.
Ayrımcı eğitim aşamasında jeneratörü sabit tutuyoruz. Ayrımcı eğitim, gerçek verilerin sahteden nasıl ayırt edileceğini anlamaya çalışırken, oluşturucunun kusurlarını nasıl tanımlayacağını öğrenmelidir. Bu, kapsamlı şekilde eğitilmiş bir jeneratörde rastgele çıkış üreten eğitimsiz bir jeneratörden farklı bir sorundur.
Benzer şekilde, jeneratör eğitim aşaması sırasında ayrımcıyı sabit tutuyoruz. Aksi halde, jeneratör hareket etmeye çalışan bir hedefe ulaşmaya çalışır ve asla ilerlemeyebilir.
GAN'ların aksi halde zorlaşan, üretken sorunları çözmesine olanak tanıyan bu ileri ve geri gider. Çok daha basit bir sınıflandırma sorunuyla başlayarak zor oluşturma sorununa dikkat ediyoruz. Buna karşılık, bir rastgele oluşturucuda ilk rastgele oluşturucu çıkışı için bile gerçek ve oluşturulan veriler arasındaki farkı ayırt edecek şekilde eğitebiliyorsanız GAN eğitimini başlatamazsınız.
Birleştirme
Jeneratör eğitimle birlikte gelişirken, ayrımcı gerçek ve sahte arasındaki farkı kolayca ayırt edemediği için ayrımcı performansı kötüleşiyor. Jeneratör başarıyla açılırsa, ayrımcılık %50 doğrulukta olur. Aslında, ayrımcı tahmin yapmak için yazı tura atar.
Bu ilerleme, GAN'ın bir bütün olarak birleştirilmesi açısından sorun teşkil etmektedir: Ayrımcı geri bildirimleri zamanla daha az anlamlı hale gelir. GAN, ayrımcının tamamen rastgele geri bildirim verdiği noktadan sonra eğitime devam ederse jeneratör ahlaksız geri bildirim verme eğitimi vermeye başlar ve kendi kalitesi düşebilir.
GAN için birleşim genellikle durağan değil, geçici bir durumdur.