ML モデルは本質的に客観性のあるものではありません。ML 担当者 トレーニング サンプルのデータセットをモデルにフィードし、 データのプロビジョニングとキュレーションに関与することで、 バイアスの影響を受けやすい予測です
モデルを構築する際には、よくある人間のバイアスに注意し、 認識できるため、潜在的なリスクを緩和するための事前対策を講じることができます。 できます。
報告バイアス
-
定義
報告バイアスは イベント、プロパティ、結果をキャプチャしても、 正確に反映させることができますこのバイアスは 状況を文書化することに 重点を置く傾向があるからです 異常な、または特に記憶に残る 記録する必要があります。
-
例
書籍が書籍かどうかを予測するようにトレーニングされた感情分析モデル ユーザーのコーパスに基づくレビューが肯定的か否定的か 人気ウェブサイトでの応募件数などですレビューの大半は、 極端な意見（ （本を好き、嫌いなど） 強い反応がなかった場合の書籍のレビューデバイス名: モデルは、感情スコアを正確に予測できず、 本を説明するのに繊細な表現を使うレビュー。
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
歴史的バイアス
-
定義
履歴バイアスは、過去のデータが 当時の世界に存在していた不公平さを反映しています。
-
例
1960 年代のデータセットを保管する都市に住宅価格データが含まれる <ph type="x-smartling-placeholder"></ph>を反映 差別的な融資慣行が適用されることを願っています。 あります。
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
自動化バイアス
-
定義
自動化バイアスとは、結果を優先する傾向を指します。 自動化されたシステムによって生成されたものよりも 各システムのエラー率とは関係ありません
-
例
スプロケット メーカーで働く ML 担当者は、 新しい「画期的」なモデルをトレーニングして 歯の不良を起こし、工場のスーパーバイザーが モデルの適合率と再現率はそれぞれ 15% 大幅に削減されました
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
選択バイアス
選択バイアスは、 サンプルが、実際のデータセットを反映していない 学習します。選択バイアスにはさまざまな形態がありますが （対象範囲バイアス、無応答バイアス、サンプリング バイアスなど）です。
対象範囲のバイアス
-
定義
カバレッジ バイアスは、 提示します
-
例
モデルは、新しい商品の将来の売上を予測するようにトレーニングされます。 買い物をした消費者のサンプルを対象として電話で実施したアンケート 説明します。競合商品の購入を選択した消費者 調査が行われなかったため、このグループの人々は モデルに与えられます。
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
非回答バイアス
-
定義
非回答バイアス（別名 （参加バイアスなど）が データ収集における参加機会のギャップにより、代表性に欠ける プロセスです
-
例
モデルは、新しい商品の将来の売上を予測するようにトレーニングされます。 買い物をした消費者のサンプルを対象として電話で実施したアンケート 競合製品を購入した消費者のサンプルで 説明します。競合製品を購入した顧客は 80% 増加 回答を拒否した可能性が高く、そのデータは サンプルでは過小評価されています
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
サンプリング バイアス
-
定義
サンプリング バイアスは、適切なランダム化が 使用されません。
-
例
モデルは、新しい商品の将来の売上を予測するようにトレーニングされます。 買い物をした消費者のサンプルを対象として電話で実施したアンケート 競合製品を購入した消費者のサンプルで 説明します。無作為に消費者をターゲットにするのではなく、 メールに反応した最初の 200 人の消費者は 平均よりも高い関心を持っているユーザー できます
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
グループ帰属バイアス
グループ帰属バイアス 個人に当てはまることをグループ全体に一般化して、 できます。グループ属性バイアスは、次の 2 つによく表れる フォームです。
所属グループのバイアス
-
定義
グループ内バイアスは、 自分のグループ（同じグループ）や、 共有することもできます。
-
例
2 人の ML 担当者が履歴書スクリーニング モデルをトレーニングし、 ソフトウェア開発者は アプリケーション開発に 2 人と同じコンピュータサイエンスアカデミーに 有望度が高いと判断できます
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
自分が属していないグループに対する均一性のバイアス
-
定義
グループ外の均一性バイアスは、 自分が参加していないグループの個々のメンバーを固定概念化する 特徴を統一感のあるとみなしたりしたりできます。
-
例
2 人の ML 担当者が履歴書スクリーニング モデルをトレーニングし、 ソフトウェア開発者は すべての応募者は コンピュータ サイエンス アカデミーを受講していない人でも、 十分な専門知識が必要です。
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
暗黙的なバイアス
-
定義
暗黙的なバイアスは、前提条件が定められた場合に発生します。 独自の思考モデルと個人的な体験に基づいて 必ずしも一般的に当てはまるわけではありません
-
例
ジェスチャー認識モデルをトレーニングする ML 担当者は、 首を振る 相手が「いいえ」という言葉を伝えていることを示す機能です。 しかし、世界の一部の地域では、首振りをして 「はい」を意味します
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
確証バイアス
-
定義
確証バイアスはモデルビルダーが 既存の信念を確証する方法で無意識にデータを処理している 導き出します
-
例
ML 担当者は積極性を予測するモデルを構築している さまざまな特徴（身長、体重、犬種、 できます。その開業者は トイプードルは子供の頃から 攻撃的な犬種です。モデルのトレーニング データをキュレートする際は、 医療従事者が無意識のうちに破棄した 小型犬の忠実度を示す証拠です
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。
テスト者のバイアス
-
定義
テスト担当者のバイアスは、モデルビルダーが モデルに適合する結果が生成されるまで 導き出します
-
例
ML 担当者は積極性を予測するモデルを構築している さまざまな特徴（身長、体重、犬種、 できます。その開業者は トイプードルは子供の頃から 攻撃的な犬種です。トレーニング済みモデルが トイプードルは比較的おとなしくなっていたため、 結果が生成されるまで何度か繰り返します。 小型のプードルを暴力的にします
<ph type="x-smartling-placeholder"></ph> をクリック chevron_left を定義します。