Adalet: Önyargı türleri

Makine öğrenimi (ML) modelleri doğası gereği nesnel değildir. Makine öğrenimi uzmanları eğitim örneklerinden oluşan bir veri kümesi besleyerek modelleri eğitir ve Bu verilerin sağlanması ve seçimine dahil olmak, bir modelin açıklığa kavuşturmaktır.

Modeller geliştirirken, yapay zekanın neden olabileceği genel önyargıların böylece risklerin etkilerini azaltmaya yönelik proaktif adımlar atmanızı, hoşuma gidiyor.

Raporlama yanlılığı

Geçmişe dayalı önyargı

Otomasyon önyargısı

Seçim yanlılığı

Seçim yanlılığı, örneklerinin kendi verilerini yansıtmayan bir şekilde seçilmesi ne kadar iyi karşıladığını görebileceksiniz. Seçim yanlılığı birçok farklı biçimde olabilir. (ör. kapsam yanlılığı, yanıt vermeme yanlılığı ve örnekleme yanlılığı dahil).

Kapsam yanlılığı

Yanıt olmayan yanlılık

Örnekleme yanlılığı

Grup ilişkilendirme önyargısı

Grup ilişkilendirme ön yargısı bireyler için doğru olanı, grubun tamamını kapsayacak şekilde genelleştirme eğilimidir. bir liste oluşturun. Grup ilişkilendirme yanlılığı genellikle aşağıdaki ikide ortaya çıkar: oluşturabilirsiniz.

Grup içi önyargı

Grup dışı homojenlik yanlılığı

Örtülü Önyargı

Doğrulama yanlılığı

Deneycinin yanlılığı

Alıştırma: Öğrendiklerinizi sınayın

Aşağıdaki yanlılık türlerinden hangisi etkili oldu üniversiteye kabul modelindeki çarpık tahminlere inç giriş bölümü var mı?
Geçmişe dayalı önyargı
Kabul modeli, geçmişteki öğrenci kayıtlarıyla eğitildi 20 yıl. Bu verilerde azınlık grupları yeterli sayıda temsil edilmeseydi model aynı tarihsel eşitsizlikleri yeniden üretebilirdi yeni öğrenci verileriyle ilgili tahminler yaparken kullanılır.
Grup içi önyargı
Kabul modeli, fakültedeki üniversite öğrencileri tarafından eğitildi farkında olmadan öğrencileri kabul edip okula benzer geçmişlerden gelen kullanıcılar ve verileri seçme veya özellik geliştirme yöntemlerini etkilemiş olabilir. Eğitilen model.
Doğrulama yanlılığı
Kabul modeli, fakültedeki üniversite öğrencileri tarafından eğitildi hangi niteliklerin hangi nitelikleri karşılaması gerektiği konusunda önceden inancı bilgisayar bilimleri programının başarısıyla ilişkilidir. Şunları yapabilir: bu verileri yanlışlıkla seçmeye veya özellik mühendisliğine dönüştürme ya da model bu inançları doğruladı.
Otomasyon önyargısı
Otomasyon yanlılığı, kabul komitesinin neden kabul ettiğini açıklayabilir kabul kararları almak için makine öğrenimi modeli kullanmak; daha önce ortaya çıktığında, otomatik bir sistemin daha iyi insan tarafından alınan kararlar. Ancak otomasyon önyargısı, modelin tahminlerinin neden çarpıtıldığıyla ilgili bilgiler de edinebilirsiniz.
.