הוגנות מתייחסת לתוצאות השונות האפשריות שעשויות להשפיע על משתמשי הקצה בנוגע למאפיינים רגישים כמו גזע, הכנסה, נטייה מינית או מין, כתוצאה מקבלת החלטות על סמך אלגוריתמים. לדוגמה, האם לאלגוריתם לגיוס עובדים יש הטיות לטובת או נגד מועמדים עם שמות שמשויכים למגדר או לאתניות מסוימים?
בסרטון הזה מוסבר איך מערכות של למידת מכונה עלולות להיות חשופות להטיה אנושית:
דוגמה לכך היא האופן שבו מוצרים כמו חיפוש Google ו-Google Photos שיפרו את המגוון של ייצוג גווני העור באמצעות סולם גווני העור של Monk.
יש שיטות מהימנות לזיהוי, למדידה ולצמצום הטיות במודלים. במודול הוגנות בקורס המקוצר על למידת מכונה מוצגת סקירה מעמיקה של שיטות להוגנות ולצמצום הטיה.
[null,null,["עדכון אחרון: 2024-11-14 (שעון UTC)."],[[["Fairness in machine learning aims to address potential unequal outcomes for users based on sensitive attributes like race, gender, or income due to algorithmic decisions."],["Machine learning systems can inherit human biases, impacting outcomes for certain groups, and require strategies for identification, measurement, and mitigation."],["Google has worked on improving fairness in products like Google Search and Google Photos by utilizing the Monk Skin Tone Scale to better represent skin tone diversity."],["Developers can learn about fairness and bias mitigation techniques in detail through resources like the Fairness module of Google's Machine Learning Crash Course and interactive AI Explorables from People + AI Research (PAIR)."]]],[]]
