Obiektywność odnosi się do możliwych nierównych wyników, jakie mogą uzyskać użytkownicy w związku z wrażliwymi cechami, takimi jak rasa, dochód, orientacja seksualna czy płeć, w procesie podejmowania decyzji przez algorytmy. Na przykład czy algorytm rekrutacyjny może być stronniczy wobec kandydatów o imionach i nazwiskach kojarzonych z określoną płcią lub pochodzeniem etnicznym?
Więcej informacji o tym, jak systemy uczące się mogą być podatne na ludzkie uprzedzenia, znajdziesz w tym filmie:
Aby zobaczyć przykład z życia, przeczytaj, jak usługi takie jak wyszukiwarka Google i Zdjęcia Google zwiększyły różnorodność reprezentacji odcieni skóry dzięki skali odcieni skóry Monka.
Istnieją niezawodne metody identyfikowania, mierzenia i minimalizowania uprzedzeń w modelach. Moduł Obiektywność w szybkim szkoleniu z uczenia maszynowego zawiera szczegółowe informacje o obiektywności i technikach ograniczania uprzedzeń.
Zespół People + AI Research (PAIR) udostępnia interaktywne materiały edukacyjne AI Explorables na temat pomiaru sprawiedliwości i ukrytych uprzedzeń, które pomagają zrozumieć te koncepcje. Więcej terminów związanych z obiektywnością ML znajdziesz w Słowniczku uczenia maszynowego: obiektywność | Google dla deweloperów.