Модели машинного обучения не являются объективными по своей сути. Инженеры обучают модели, передавая им набор данных обучающих примеров, и участие человека в предоставлении и обработке этих данных может сделать прогнозы модели восприимчивыми к предвзятости.
При построении моделей важно знать об общих человеческих предубеждениях, которые могут проявляться в ваших данных, чтобы вы могли предпринять упреждающие шаги для смягчения их последствий.
Сообщение о предвзятости
Предвзятость в отчетах возникает, когда частота событий, свойств и/или результатов, зафиксированных в наборе данных, не точно отражает их реальную частоту. Это предубеждение может возникнуть из-за того, что люди склонны сосредотачиваться на документировании необычных или особенно запоминающихся обстоятельств, предполагая, что обыденное может быть «само собой разумеющимся».
Предвзятость автоматизации
Предвзятость автоматизации — это тенденция отдавать предпочтение результатам, полученным автоматизированными системами, по сравнению с результатами, полученными неавтоматизированными системами, независимо от частоты ошибок каждой из них.
Критерий отбора
Предвзятость выбора возникает, если примеры набора данных выбраны таким образом, который не отражает их реальное распределение. Предвзятость выбора может принимать различные формы:
Смещение охвата : данные не отбираются репрезентативным образом.
Систематическая ошибка, связанная с отсутствием ответов (или систематическая ошибка , связанная с участием): данные оказываются нерепрезентативными из-за пробелов в участии в процессе сбора данных.
Систематическая ошибка выборки : во время сбора данных не используется надлежащая рандомизация.
Предвзятость групповой атрибуции
Предвзятость групповой атрибуции — это тенденция обобщать то, что верно в отношении отдельных лиц, на всю группу, к которой они принадлежат. Два ключевых проявления этой предвзятости:
Внутригрупповая предвзятость : предпочтение членов группы, к которой вы также принадлежите , или характеристик, которые вы также разделяете.
Склонность к однородности вне группы : склонность стереотипизировать отдельных членов группы, к которой вы не принадлежите , или рассматривать их характеристики как более однородные.
Неявное смещение
Неявная предвзятость возникает, когда предположения делаются на основе собственных ментальных моделей и личного опыта, которые не обязательно применимы в более широком смысле.
Распространенной формой неявной предвзятости является предвзятость подтверждения , когда создатели моделей бессознательно обрабатывают данные таким образом, чтобы подтвердить ранее существовавшие убеждения и гипотезы. В некоторых случаях разработчик модели может фактически продолжать обучение модели до тех пор, пока она не даст результат, который согласуется с его исходной гипотезой; это называется предвзятостью экспериментатора .
