公平性: バイアスの種類

機械学習(ML)モデルは本質的に客観性のあるものではありません。ML 担当者は、トレーニング サンプルのデータセットをモデルにフィードすることでモデルをトレーニングします。このデータのプロビジョニングとキュレーションに人間が関与すると、モデルの予測はバイアスの影響を受けやすくなります。

モデルを構築する際には、よくある人間のバイアスに注意し、 認識できるため、潜在的なリスクを緩和するための事前対策を講じることができます。 できます。

報告バイアス

歴史的バイアス

自動化バイアス

選択バイアス

選択バイアスは、 サンプルが、実際のデータセットを反映していない 学習します。選択バイアスにはさまざまな形態がありますが (対象範囲バイアス、無応答バイアス、サンプリング バイアスなど)です。

対象範囲のバイアス

無回答のバイアス

サンプリング バイアス

グループ帰属バイアス

グループ属性バイアスとは、個人に当てはまることを、その個人が属するグループ全体に一般化する傾向を指します。グループ帰属バイアスは、次の 2 つによく表れる フォームです。

所属グループのバイアス

自分が属していないグループに対する均一性のバイアス

暗黙的なバイアス

確証バイアス

テスト者のバイアス

演習: 理解度を確認する

次の種類のバイアスのうち、原因となっている可能性があるのはどれですか。 ある大学入学モデルにおける偏った予測に対する
確証バイアス
自動化バイアス
所属グループのバイアス
歴史的バイアス