Équité: types de biais

Durée estimée : 5 minutes

Les modèles de machine learning ne sont pas objectifs en soi. Les ingénieurs entraînent des modèles en leur fournissant un ensemble de données d'exemples d'entraînement, et une intervention humaine dans la fourniture et l'organisation de ces données peut rendre les prédictions d'un modèle sujettes à des biais.

Lorsque vous créez des modèles, il est important de connaître les biais humains courants qui peuvent se manifester dans vos données. Vous pouvez ainsi prendre des mesures proactives pour atténuer leurs effets.

AVERTISSEMENT: L'inventaire de biais suivant ne fournit qu'un petit nombre de biais souvent rencontrés dans les ensembles de données de machine learning. Cette liste n'est pas exhaustive. Le catalogue des biais cognitifs de Wikipédia répertorie plus de 100 types de biais humains pouvant affecter notre jugement. Lorsque vous auditez vos données, vous devez rechercher toute source potentielle de biais susceptible de fausser les prédictions de votre modèle.

Biais de fréquence

Un biais de fréquence survient lorsque la fréquence des événements, des propriétés et/ou des résultats collectés dans un ensemble de données ne correspond pas exactement à leur fréquence réelle. Ce biais peut se produire, car les utilisateurs ont tendance à documenter les circonstances inhabituelles ou particulièrement mémorables, en supposant que l'ordinaire puisse "parvenir sans le dire".

EXEMPLE: Un modèle d'analyse des sentiments est entraîné à prédire si les avis sur un livre sont positifs ou négatifs à l'aide d'un corpus de contributions d'utilisateurs envoyées à un site Web populaire. La majorité des avis de l'ensemble de données d'entraînement reflètent des opinions extrêmes (évaluateurs, qu'ils aient adoré ou détesté un livre), car les internautes étaient moins susceptibles de soumettre un avis sur un livre s'ils n'y avaient pas répondu fortement. Par conséquent, le modèle est moins capable de prédire correctement la sensibilité des avis qui décrivent un livre avec un langage plus subtil.

Biais d'automatisation

Le biais d'automatisation est une tendance à privilégier les résultats des systèmes automatisés par rapport à ceux générés par des systèmes non automatisés, indépendamment des taux d'erreur de chaque système.

EXEMPLE: Les ingénieurs logiciel travaillant pour un fabricant de pignons dentés étaient impatients de déployer le nouveau modèle révolutionnaire qu'ils ont entraîné à identifier les dents défectueuses, jusqu'à ce que le superviseur de l'usine leur signale que les taux de précision et de rappel du modèle étaient inférieurs de 15% à ceux des inspecteurs humains.

Biais de sélection

Le biais de sélection survient si les exemples d'un ensemble de données sont choisis d'une manière qui ne reflète pas leur distribution réelle. Le biais de sélection peut prendre de nombreuses formes:

• Biais de couverture: les données ne sont pas sélectionnées de manière représentative.

EXEMPLE : Un modèle est entraîné à prédire les futures ventes d'un nouveau produit à partir d'enquêtes téléphoniques réalisées auprès d'un échantillon de consommateurs l'ayant acheté. Les consommateurs ayant choisi d'acheter un produit concurrent n'ont pas été interrogés. Par conséquent, ce groupe de personnes n'était pas représenté dans les données d'entraînement.

• Biais de non-réponse (ou biais de participation): les données finissent par ne pas être représentatives en raison d'écarts de participation dans le processus de collecte des données.

EXEMPLE: Un modèle est entraîné à prédire les futures ventes d'un nouveau produit à l'aide d'enquêtes téléphoniques réalisées auprès d'un échantillon de consommateurs l'ayant acheté et d'un échantillon de consommateurs ayant acheté un produit concurrent. Les consommateurs ayant acheté le produit concurrent étaient 80% plus susceptibles de refuser de répondre à l'enquête, et leurs données étaient sous-représentées dans l'échantillon.

• Biais d'échantillonnage : la bonne randomisation n'est pas utilisée lors de la collecte des données.

EXEMPLE : Un modèle est entraîné à prédire les futures ventes d'un nouveau produit à l'aide d'enquêtes téléphoniques réalisées auprès d'un échantillon de consommateurs l'ayant acheté et d'un échantillon de consommateurs ayant acheté un produit concurrent. Au lieu de cibler au hasard les consommateurs, l'enquêteur a choisi les 200 premiers personnes qui ont répondu à un e-mail, qui étaient peut-être plus enthousiastes au sujet du produit que les acheteurs moyens.

Biais d'attribution de groupe

Le biais de représentativité désigne la propension à généraliser ce qui est vrai pour des individus à l'ensemble d'un groupe auquel ils appartiennent. Les deux principales manifestations de ce biais sont les suivantes:

• Biais d'appartenance: préférence pour les membres d'un groupe auquel vous appartenez également ou pour des caractéristiques que vous partagez également.

EXEMPLE : Deux ingénieurs qui entraînent un modèle de sélection de CV de développeurs de logiciels sont prédisposés à croire que les candidats qui ont fréquenté la même école informatique qu'eux sont plus qualifiés pour le poste.

• Biais d'homogénéité de l'exogroupe : tendance à stéréotyper les individus membres d'un groupe auquel vous n'appartenez pas, ou à considérer leurs caractéristiques comme plus uniformes.

EXEMPLE : Deux ingénieurs qui entraînent un modèle de sélection de CV de développeurs de logiciels sont prédisposés à croire que les candidats qui n'ont pas fréquenté une école informatique n'ont pas les compétences requises pour le poste.

Biais implicite

Le biais implicite se produit lorsque des hypothèses sont fondées sur des modèles mentaux et des expériences personnelles qui ne s'appliquent pas nécessairement de manière plus générale.

EXEMPLE: Un ingénieur qui entraîne un modèle de reconnaissance de gestes utilise un hochement de tête pour indiquer qu'une personne communique le mot "non". Toutefois, dans certaines régions du monde, un "shake" signifie en fait "yes".

Une forme de biais implicite est un biais de confirmation : les outils de création de modèles traitent inconsciemment les données de manière à confirmer des croyances et des hypothèses préexistantes. Dans certains cas, un constructeur de modèles peut continuer à entraîner un modèle jusqu'à ce qu'il obtienne un résultat conforme à son hypothèse d'origine. C'est ce que l'on appelle le biais de testeur.

EXEMPLE : Un ingénieur crée un modèle qui prédit l'agressivité des chiens en fonction de diverses caractéristiques (taille, poids, race, environnement). L'ingénieur a rencontré une rencontre désagréable avec un caniche nain hyperactif lorsqu'il était enfant et a depuis associé la race à l'agressivité. Lorsque le modèle entraîné a prédit que la plupart des caniches jouets étaient relativement dociles, l'ingénieur l'a entraîné plusieurs fois jusqu'à ce qu'il produise un résultat indiquant que les caniches plus petits étaient plus violents.

Termes clés

biais d'automatisation	biais de confirmation
biais de couverture	biais de l'expérimentateur
biais d'appartenance	biais de représentativité
biais implicite	biais de non-réponse
biais d'homogénéité de l'exogroupe	biais de fréquence
biais d'échantillonnage	biais de sélection