GAN में दो अलग-अलग ट्रेन किए गए नेटवर्क होते हैं. इसलिए, इसके ट्रेनिंग एल्गोरिदम को दो समस्याओं को हल करना होगा:
- जीएएन को दो अलग-अलग तरह की ट्रेनिंग (जनरेटर और डिस्करिमिनेटर) को जॉग करना होगा.
- जीएएन कन्वर्ज़न की पहचान करना मुश्किल है.
वैकल्पिक ट्रेनिंग
जनरेटर और डिस्करिमिनेटर की ट्रेनिंग की प्रोसेस अलग-अलग होती है. तो हम जीएएन को पूरी तरह से कैसे ट्रेन करते हैं?
GAN की ट्रेनिंग, अलग-अलग समयावधि में होती है:
- डिस्करिमिनेटर एक या उससे ज़्यादा एपिसोड के लिए ट्रेनिंग करता है.
- जनरेटर एक या उससे ज़्यादा एपिसोड के लिए ट्रेन करता है.
- जनरेटर और डिस्करिमिनेटर नेटवर्क को ट्रेन करना जारी रखने के लिए, पहले और दूसरे चरण को दोहराएं.
हम डिस्करिमिनेटर ट्रेनिंग फ़ेज़ के दौरान, जनरेटर को एक जैसा रखते हैं. डिस्टिंगुइशर ट्रेनिंग, असली डेटा को नकली डेटा से अलग करने का तरीका जानने की कोशिश करती है. इसलिए, उसे जनरेटर की गड़बड़ियों को पहचानना सीखना पड़ता है. अच्छी तरह से ट्रेन किए गए जनरेटर के लिए यह समस्या, बिना ट्रेन किए गए जनरेटर के मुकाबले अलग होती है. बिना ट्रेन किए गए जनरेटर, रैंडम आउटपुट जनरेट करता है.
इसी तरह, जनरेटर को ट्रेनिंग देने के दौरान, हम डिस्करिमिनेटर को एक जैसा बनाए रखते हैं. ऐसा न होने पर, जनरेटर किसी चलती हुई चीज़ को हिट करने की कोशिश करेगा और हो सकता है कि वह कभी भी एक साथ न आए.
इस प्रोसेस की वजह से, जीएएन को जनरेटिव समस्याओं को हल करने में मदद मिलती है. हम जनरेटिव समस्या को हल करने के लिए, सबसे पहले आसान कैटगरी वाली समस्या हल करते हैं. इसके उलट, अगर शुरुआती रैंडम जनरेटर आउटपुट के लिए भी, किसी क्लासिफ़ायर को रीयल और जनरेट किए गए डेटा के बीच का अंतर बताने के लिए ट्रेन नहीं किया जा सकता, तो जीएएन ट्रेनिंग शुरू नहीं की जा सकती.
कन्वर्जेंस
ट्रेनिंग के साथ-साथ जनरेटर बेहतर होता जाता है, लेकिन डिस्करिमिनेटर की परफ़ॉर्मेंस खराब होती जाती है. ऐसा इसलिए होता है, क्योंकि डिस्करिमिनेटर आसानी से असल और नकली कॉन्टेंट के बीच का फ़र्क़ नहीं बता पाता. अगर जनरेटर पूरी तरह से काम करता है, तो डिस्करिमिनेटर की सटीकता 50% होती है. इसका मतलब है कि डिस्क्रिमिनेटर अपना अनुमान लगाने के लिए, सिक्का उछालता है.
इस प्रोग्रेस से, जीएएन के पूरी तरह से एक साथ काम करने में समस्या आती है: समय के साथ, डिस्करिमिनेटर फ़ीडबैक का मतलब कम हो जाता है. अगर डिस्करिमिनेटर पूरी तरह से बेतरतीब सुझाव दे रहा है, तब भी अगर जीएएन ट्रेनिंग जारी रखता है, तो जनरेटर बेकार सुझावों पर ट्रेनिंग शुरू कर देता है. इससे उसकी क्वालिटी खराब हो सकती है.
जीएएन के लिए, कन्वर्ज़न अक्सर स्थिर स्थिति के बजाय, कुछ समय के लिए होता है.