הדיסקרימינטור

המבדיל ב-GAN הוא פשוט מסווג. הוא מנסה להבדיל בין נתונים אמיתיים לבין הנתונים שנוצרו על ידי הגנרטור. אפשר להשתמש בכל ארכיטקטורת רשת שמתאימה לסוג הנתונים שמסווגים.

דיאגרמה של רשת למידה חישובית גנרטיבית (GAN). באמצע התרשים מופיעה תיבה עם הכיתוב 'discriminator'. שני ענפים מחוברים לתיבה הזו מימין.  ההסתעפות העליונה מתחילה בפינה הימנית העליונה של התרשים, בתיבה עם הכיתוב 'תמונות מהעולם האמיתי'. חץ מוביל מהצינור הזה לתיבת 'דגימה'. חץ מהתיבה שמוכתרת בתווית 'דוגמה' מגיע לתיבת 'מאפיין מבדיל'. ההסתעפות התחתונה מובילה לתיבת 'מאפיין מבדיל', דרך התיבה 'קלט אקראי'. חץ מוביל מהתיבה 'קלט אקראי' לתיבה עם הכיתוב 'מחולל'. חץ מוביל מהתיבה 'מחולל' לתיבה שנייה של 'דוגמה'. חץ מוביל מהתיבה 'דוגמה' אל התיבה 'מאפיין מבדיל'. בצד שמאל של התיבה Discriminator יש שני חיצים שמובילים לשתי תיבות בצד שמאל של התרשים. חץ אחד מוביל לתיבת
          הכותרת 'Discriminator loss'. החץ השני מוביל לתיבת 'Generator loss'. תיבה צהובה עם חץ שמצביע שמאלה והמילה 'Backpropagation' מופיעה סביב התיבה של המזהה והתיבה של אובדן המזהה, כדי לציין ש-Backpropagation פועל בחלק של המערכת שמוקף בתיבה הצהובה.

איור 1: חזרה לאחור באימון המבדיל.

נתוני אימון של דיסקרימינטור

נתוני האימון של המזהה מגיעים משני מקורות:

  • מופעים של נתונים אמיתיים, כמו תמונות אמיתיות של אנשים. במהלך האימון, המזהה משתמש באירועים האלה כדוגמאות חיוביות.
  • מופעים של נתונים מזויפים שנוצרו על ידי הגנרטור. במהלך האימון, המזהה משתמש באירועים האלה כדוגמאות שליליות.

באיור 1, שתי התיבות 'דוגמה' מייצגות את שני מקורות הנתונים האלה שמזינים את המזהה. במהלך אימון המבדיל, הגנרטור לא עובר אימון. המשקולות שלו נשארים קבועים בזמן שהוא יוצר דוגמאות לאימון המזהה.

אימון הדיסקרימינטור

המזהה מתחבר לשתי פונקציות loss. במהלך אימון המבדיל, המבדיל מתעלם מהאובדן של הגנרטור ומשתמש רק באובדן של המבדיל. אנחנו משתמשים באובדן האנרגיה של הגנרטורים במהלך אימון הגנרטורים, כפי שמתואר בקטע הבא.

במהלך אימון המבדיל:

  1. המזהה מסווג גם נתונים אמיתיים וגם נתונים מזויפים מהגנרטור.
  2. אובדן המזהה (discriminator loss) מעניש את המזהה על סיווג שגוי של מכונה אמיתית כמזויפת או של מכונה מזויפת כמציאותית.
  3. הדיסקרימינטור מעדכן את המשקלים שלו באמצעות העברה לאחור מהאובדן של הדיסקרימינטור דרך רשת הדיסקרימינטור.

בקטע הבא נסביר למה אובדן האנרגיה של הגנרטור מחובר למבדל.