Obiektywność

Obiektywność ma na celu zapobieganie możliwym nierównym wynikom, które mogą wystąpić u użytkowników w związku z wrażliwymi cechami, takimi jak rasa, dochód, orientacja seksualna czy płeć, w ramach podejmowania decyzji przez algorytmy. Czy na przykład algorytm rekrutacyjny może faworyzować lub dyskryminować kandydatów o nazwiskach kojarzonych z konkretną płcią lub grupą etniczną?

Więcej informacji o tym, jak systemy uczenia maszynowego mogą być podatne na ludzkie uprzedzenia, znajdziesz w tym filmie:

Aby poznać praktyczny przykład, przeczytaj o tym, jak usługi takie jak wyszukiwarka Google i Zdjęcia Google poprawiły różnorodność reprezentacji odcieni skóry dzięki skali odcieni skóry Monka.

Istnieją niezawodne metody identyfikowania, pomiaru i minimalizowania uprzedzenia w modelach. W module Obiektywność szybkiego szkolenia z uczenia maszynowego omawiamy szczegółowo obiektywność i techniki łagodzenia uprzedzeń.

Zespół People + AI Research (PAIR) udostępnia interaktywne Explorables na temat AI dotyczące pomiaru uczciwości i ukrytych uprzedzeń. Więcej terminów związanych z obiektywnością systemów uczących się znajdziesz w glosariuszu dotyczącego systemów uczących się: obiektywność | Google dla deweloperów.