GAN'lar ayrı ayrı eğitilmiş iki ağ içerdiğinden, eğitim algoritması iki karmaşıklığı ele almalıdır:
- GAN'lar iki farklı eğitim türü (üretici ve ayırt edici) arasında denge kurmalıdır.
- GAN yakınsamasının belirlenmesi zordur.
Alternatif Antrenman
Oluşturucu ve ayırt edici farklı eğitim süreçlerine sahiptir. Peki GAN'ı nasıl bir bütün olarak eğitiriz?
GAN eğitimi, dönüşümlü dönemlerde ilerler:
- Ayırt edici, bir veya daha fazla dönem boyunca eğitilir.
- Oluşturucu bir veya daha fazla dönem için eğitilir.
- Oluşturucu ve ayırt edici ağları eğitmeye devam etmek için 1. ve 2. adımları tekrarlayın.
Ayrıştırıcı eğitim aşamasında jeneratörü sabit tutarız. Ayırt edici eğitimi, gerçek verileri sahte verilerden nasıl ayırt edeceğini anlamaya çalışırken üreticinin kusurlarını nasıl tanıyacağını da öğrenmelidir. Bu, iyi eğitilmiş bir üreteç için rastgele çıkışlar üreten eğitimsiz bir üreteçten farklı bir sorundur.
Benzer şekilde, üreteç eğitim aşamasında ayırıcıyı sabit tutarız. Aksi takdirde jeneratör hareketli bir hedefi vurmaya çalışır ve hiçbir zaman yakınlaşmayabilir.
GAN'ların aksi takdirde çözülemez olan üretken sorunları çözmesine olanak tanıyan şey bu gidip gelme işlemidir. Çok daha basit bir sınıflandırma probleminden başlayarak zor üretken problemde bir başlangıç noktası elde ederiz. Buna karşılık, ilk rastgele üreteç çıkışı için bile gerçek veriler ile oluşturulan veriler arasındaki farkı söyleyecek bir sınıflandırıcıyı eğitemezseniz GAN eğitimini başlatamazsınız.
Yakınsama
Oluşturucu eğitimle geliştikçe ayırıcı, gerçek ile sahte arasındaki farkı kolayca ayırt edemediğinde ayırıcı performansı düşer. Oluşturucu mükemmel bir şekilde başarılı olursa ayırıcının doğruluğu %50'dir. Ayrıştırıcı, tahminini yapmak için bir bozuk para atar.
Bu ilerleme, GAN'ın bir bütün olarak yakınsaması için bir sorun teşkil eder: ayırt edici geri bildirimi zaman içinde daha az anlamlı hale gelir. GAN, ayırt edici tamamen rastgele geri bildirim verdiği noktadan sonra eğitime devam ederse üretici, önemsiz geri bildirimlerle eğitim almaya başlar ve kendi kalitesi düşebilir.
GAN'lar için yakınsama genellikle kararlı bir durum yerine geçici bir durumdur.