רשתות נוירונים מרובות כיתות

מוקדם יותר, נתקלתם במודלים של סיווג בינארי שאפשר לבחור ביניהם מתוך שתי אפשרויות אפשריות, למשל:

  • כתובת אימייל נתונה היא ספאם או שאינה ספאם.
  • גידול נתון הוא ממטרה או שפיר.

במודול הזה, נחקור את הסיווג לכיתות מרובות, והוא יכול לבחור מבין אפשרויות מרובות. למשל:

  • האם הכלב הזה הוא כלב ציד, כלב ציד או כלב דם?
  • האם הפרח הזה הוא אירוס סיבירי, אירוס הולנדי, אירוס דגל או אירוס זקן?
  • האם מטוס זה הוא Boeing 747, Airbus 320, Boing 777 או Embraer 190?
  • האם זו תמונה של תפוח, דוב, ממתק, כלב או ביצה?

חלק מהבעיות הנרחבות בעולם האמיתי מעורבים בבחירה של מיליוני כיתות נפרדות. לדוגמה, מודל של סיווג מרובה כיתות יכול לזהות את התמונה של כמעט כל דבר.

רשתות נוירונים מרובות כיתות

  • רגרסיה לוגיסטית מספקת הסתברות שימושית לבעיות ברמה בינארית.
    • ספאם / לא ספאם
    • קליק / לא קליק
  • מה בנוגע לבעיות במספר כיתות?
    • תפוח, בננה, מכונית, קרדיולוג, ..., סימן הליכה, זברה, גן חיות
    • אדום, כתום, צהוב, ירוק, כחול, אינדיגו, סגול
    • בעלי חיים, ירקות, מינרל
  • יוצרים פלט ייחודי לכל כיתה אפשרית
  • מאמנים את זה על אות של "הכיתה שלי" לעומת &ציטוט; כל שאר הכיתות"
  • אפשר לעשות זאת ברשת עמוקה, או במודלים נפרדים
רשת נוירונים עם חמש שכבות מוסתרות וחמש שכבות פלט.
  • הוספת אילוץ נוסף: דרישת פלט של כל הצמתים בכלל בהשוואה ל-1.0
  • האילוץ הנוסף עוזר להתכנס במהירות
  • בנוסף, ניתן לפרש את ההסתברות כהסתברות
רשת נוירונים עמוקה עם שכבת קלט, שתי שכבות נסתרות ללא תיאור, שכבת Softmax ולבסוף שכבת פלט עם אותו מספר צמתים כמו שכבת ה-Softmax.
  • סיווג בקטגוריה אחת, מרובה כיתות:
    • לדוגמה, החבר יכול להיות רק בכיתה אחת.
    • המגבלה היא שהשיעורים הם בלעדיים באופן הדדי.
    • זה שימושי אם תשתמשו בקוד שאבד לכם.
    • יש להשתמש באובדן אחד (softmax) לכל הכיתות האפשריות.
  • סיווג במספר כיתות:
    • לדוגמה, יכול להיות שיש לכם יותר מכיתה אחת.
    • אין הגבלות נוספות על החברות בכיתה.
    • אובדן רגרסיה לוגיסטי אחד לכל מחלקה אפשרית.
  • רך מלא
    • Brute Force; מחושב לכל הכיתות.
  • רך מלא
    • Brute Force; מחושב לכל הכיתות.
  • דגימת מועמדים
    • חישוב לכל התוויות החיוביות, אך רק לצורך דגימה אקראית של שליליות.