Справедливость: виды предвзятости

Модели машинного обучения (ML) не являются объективными по своей сути. Специалисты по МО обучают модели, предоставляя им набор данных обучающих примеров, а участие человека в предоставлении и обработке этих данных может сделать прогнозы модели подверженными предвзятости.

При построении моделей важно знать о распространенных человеческих предубеждениях, которые могут проявляться в ваших данных, чтобы вы могли принять упреждающие меры для смягчения их последствий.

Предвзятость в отчетности

Историческая предвзятость

Предвзятость автоматизации

Предвзятость выбора

Смещение выбора возникает, если примеры набора данных выбраны таким образом, который не отражает их реальное распределение. Ошибка отбора может принимать различные формы, включая ошибку охвата, ошибку отсутствия ответов и ошибку выборки.

Смещение охвата

Ошибка отсутствия ответа

Смещение выборки

Предвзятость групповой атрибуции

Предвзятость групповой атрибуции — это тенденция обобщать то, что верно в отношении отдельных лиц, на всю группу, к которой они принадлежат. Предвзятость групповой атрибуции часто проявляется в двух следующих формах.

Внутригрупповая предвзятость

Предвзятость однородности аутгруппы

Неявное смещение

Предвзятость подтверждения

Предвзятость экспериментатора

Упражнение: Проверьте свое понимание.

Какой из следующих типов предвзятости мог способствовать искажению прогнозов в модели приема в колледж, описанной во введении ?
Внутригрупповая предвзятость
Предвзятость подтверждения
Историческая предвзятость
Предвзятость автоматизации