Makine Öğrenimi Sözlüğü: Adalet

Bu sayfa Adalet sözlüğü terimleri içeriyor. Tüm sözlük terimleri için burayı tıklayın.

CEVAP

özellik

#fairness

feature ile eş anlamlı.

Makine öğrenimi adaletinde, özellikler genellikle bireylerle ilişkili özellikleri ifade eder.

otomasyon önyargısı

#fairness

Otomatik karar verme sistemi hata yapsa bile insan karar verme yetkisine sahip bir kişinin otomatik karar alma sistemi tarafından yapılan önerileri otomasyon olmadan elde edilen bilgiler yerine tercih etmesi.

B

önyargı (etik/adalet)

#fairness
#fundamentals

1. Bazı şeylere, kişilere veya gruplara karşı klişeler, önyargılar ya da ayrımcılık. Bu önyargılar verilerin toplanıp yorumlanmasını, sistem tasarımını ve kullanıcıların sistemle etkileşimini etkileyebilir. Bu tür önyargı biçimleri şunları içerir:

2. Örnekleme veya raporlama prosedüründen kaynaklanan sistematik hatalar. Bu tür önyargı biçimleri şunları içerir:

Makine öğrenimi modellerindeki yanlılık terimi veya tahmin yanlılığı ile karıştırılmamalıdır.

C

doğrulama önyargısı

#fairness

Bilgiyi kişinin önceden var olan inançlarını veya hipotezlerini doğrulayacak şekilde arama, yorumlama, tercih etme ve hatırlama eğilimi. Makine öğrenimi geliştiricileri, mevcut inançlarını destekleyen bir sonucu etkileyecek şekilde istemeden veri toplayabilir veya etiketleyebilir. Doğrulama yanlılığı bir örtülü önyargı biçimidir.

Deneyci ön yargısı, deneycinin önceden var olan bir hipotez onaylanana kadar modelleri eğitmeye devam ettiği bir onay yanlılığı biçimidir.

karşı olgusal adalet

#fairness

Bir sınıflandırıcının, bir veya daha fazla hassas özellik açısından hariç olmak üzere, ilkiyle bire bir aynı olan bir kişi için aynı sonucu üretip üretmediğini kontrol eden bir adalet metriği. Sınıflandırıcıyı karşıt görüşlere dayalı adalet açısından değerlendirmek, bir modelde potansiyel önyargı kaynaklarını ortaya çıkarmanın bir yöntemidir.

Karşı olgusal adalet hakkında daha ayrıntılı bir tartışma için "Dünyalar Çarpıştığında: Farklı Karşıtsal Varsayımları Adalette Entegre Etme" bölümüne bakın.

kapsam önyargısı

#fairness

Seçim ağırlıklandırması bölümünü inceleyin.

D

demografik denklik

#fairness

Bir modelin sınıflandırmasının sonuçları, belirli bir hassas özelliğe bağlı olmadığında sağlanan adalet metriği.

Örneğin, hem Lilliputians hem de Brobdingnagians'ın Glubbdubdrib Üniversitesi'ne başvurması durumunda, bir grubun ortalama olarak diğerinden daha nitelikli olup olmadığına bakılmaksızın, kabul edilen Lilliputyalıların yüzdesi kabul edilen Brobdingnagililerin yüzdesiyle aynı olduğunda demografik denklik sağlanmış olur.

Sınıflandırma sonuçlarının topluca hassas özelliklere bağlı olmasına izin veren ancak belirtilen belirli kesin referans etiketlerinin sınıflandırma sonuçlarının hassas özelliklere bağlı olmasına izin vermeyen eşit oranlar ve fırsat eşitliği ile zıtlıktır. Demografik denklik için optimizasyon yaparken dengeleri keşfeden bir görselleştirme için "Daha akıllı makine öğrenimiyle ayrımcılığa meydan okuma" bölümüne bakın.

eşit düzeyde etki

#fairness

Farklı nüfus alt gruplarını orantısız bir şekilde etkileyen insanlarla ilgili kararlar almak. Bu genellikle algoritmik bir karar verme sürecinin bazı alt gruplara diğerlerinden daha çok zarar verdiği veya fayda sağladığı durumları ifade eder.

Örneğin, Lilliputian'ın bir minyatür ev kredisine uygun olup olmadığını belirleyen bir algoritmanın, posta adresi belirli bir posta kodu içeriyorsa o müşteriyi "uygun değil" olarak sınıflandırma olasılığının daha yüksek olduğunu varsayalım. Big-Endian Lilliputians'larının da bu posta koduna sahip posta adreslerine sahip olma olasılığı, Little-Endian Lilliputians'a göre daha yüksekse bu algoritmanın farklı bir etkisi olabilir.

Alt grup özelliklerinin algoritmik bir karar verme sürecine açıkça girdiler olması durumunda ortaya çıkan eşitsizliklere odaklanan farklı değerlendirmelerin aksine.

ayrı muamele

#fairness

Öznelerin hassas özelliklerini, farklı insan alt gruplarına farklı şekilde davranacak şekilde algoritmik bir karar verme sürecinde dikkate alma.

Örneğin, Lilliputians'ın kredi başvurularında sağladıkları verilere dayanarak minyatür ev kredisi için uygun olup olmadıklarını belirleyen bir algoritmayı düşünelim. Algoritma, bir Lilliputian'ın Big-Endian veya Little-Endian olarak ilişkisini giriş olarak kullanırsa bu boyut boyunca birbirine farklı muamele uygular.

Algoritmaya dayalı kararların alt gruplardaki toplumsal etkilerindeki eşitsizliklere odaklanan farklı etki ile kıyaslar. Bu alt grupların model için girdiler olup olmadığına bakılmaz.

E

fırsat eşitliği

#fairness

Bir modelin, bir hassas özelliğin tüm değerleri için istenen sonucu eşit ölçüde iyi tahmin edip etmediğini değerlendirmek üzere kullanılan adalet metriği. Diğer bir deyişle, bir model için istenen sonuç pozitif sınıf ise hedef, gerçek pozitif oranın tüm gruplar için aynı olması olur.

Fırsat eşitliği, eşit şanslar ile ilgilidir. Bu durum, tüm gruplar için hem gerçek pozitif oranların hem de yanlış pozitif oranlarının aynı olmasını gerektirir.

Glubbdubdrib Üniversitesi'nin hem Lilliputyalıları hem de Brobdingnagi'leri titiz bir matematik programına kabul ettiğini varsayalım. Lilliputians'ın ortaokulları, matematik sınıflarından oluşan güçlü bir müfredat sunar ve öğrencilerin büyük çoğunluğu üniversite programına katılmaya hak kazanır. Brobdingnagians'ın ortaokullarında hiç matematik dersi verilmiyor ve bu sayede öğrencileriniz çok daha az sayıda öğrenci tarafından karşılanıyor. Uygun niteliklere sahip öğrencilerin bir Lilliputian ya da Brobdingnagian olmalarına bakılmaksızın kabul edilme olasılıkları eşitse, uyruk açısından tercih edilen "kabul edildi" etiketi (Lilliputian veya Brobdingnagian) için fırsat eşitliği sağlanmış olur.

Örneğin, 100 Lilliputian ve 100 Brobdingnagia'nın Glubbdubdrib Üniversitesi'ne başvurduğunu ve kabul kararlarının aşağıdaki gibi alındığını varsayalım:

Tablo 1. Lilliputianus'taki başvuru sahipleri (%90'ı gerekli)

  Uygun Uygun Değil
Kabul edildi 45 3
Reddedildi 45 7
Toplam 90 10
Kabul edilen nitelikli öğrencilerin yüzdesi: 45/90 =%50
Reddedilen öğrencilerin yüzdesi: 7/10 =%70
Kabul edilen Lilliputian öğrencilerinin toplam yüzdesi: (45+3)/100 = %48

 

Tablo 2. Brobdingnagian başvuru sahipleri (%10 uygun):

  Uygun Uygun Değil
Kabul edildi 5 9
Reddedildi 5 81
Toplam 10 90
Kabul edilen nitelikli öğrencilerin yüzdesi: 5/10 =%50
Reddedilen öğrencilerin yüzdesi: 81/90 =%90
Kabul edilen Brobdingnagian öğrencilerinin toplam yüzdesi: (5+9)/100 = %14

Yukarıdaki örneklerde nitelikli Lilliputyalıların ve Brobdingnagialıların kabul edilme şansı% 50 olduğundan, yukarıdaki örneklerde nitelikli öğrencilerin kabul edilmesinde fırsat eşitliği bulunmaktadır.

Fırsat eşitliği sağlansa da aşağıdaki iki adalet metriği karşılanmaz:

  • demografik eşitlik: Lilliputians ve Brobdingnagians öğrencileri üniversiteye farklı oranlarda kabul edilmektedir. Lilliputyalı öğrencilerin% 48'i kabul edilirken, Brobdingnagian öğrencilerinin yalnızca% 14'ü kabul edilmektedir.
  • eşit şansa sahip olma: Uygun Lilliputian ve Brobdingnagian öğrencilerinin kabul edilme şansı aynı olsa da, kalifiye olmayan Lilliputian ve Brobdingnagian öğrencilerinin aynı reddedilme şansının aynı olması gibi ek kısıtlama karşılanmaz. Uygun olmayan Lilliputian'ların ret oranı% 70, nitelikli olmayan Brobdingnagis'ler ise% 90'dır.

Fırsat eşitliği konusunda daha ayrıntılı bir tartışma için "Gözetimli Öğrenimde Fırsat Eşitliği" bölümüne bakın. Fırsat eşitliği için optimizasyon yaparken dengeleri keşfeden bir görselleştirme için "Daha akıllı makine öğrenimiyle ayrımcılığa karşı mücadele" bölümüne de bakın.

eşitlenmiş olasılıklar

#fairness

Bir modelin, hassas özelliğin tüm değerleri için sonuçları hem pozitif sınıfa hem de negatif sınıfa (yalnızca bir sınıfa veya yalnızca bir sınıfa) göre eşit ölçüde iyi tahmin edip etmediğini değerlendirmek için kullanılan bir adalet metriğidir. Diğer bir deyişle, tüm gruplar için hem gerçek pozitif oranı hem de yanlış negatif oranı aynı olmalıdır.

Eşitlenmiş şanslar, yalnızca tek bir sınıfın (pozitif veya negatif) hata oranlarına odaklanan fırsat eşitliği ile ilgilidir.

Örneğin, Glubbdubdrib Üniversitesi'nin titiz bir matematik programına hem Lilliputyalıları hem de Brobdingnagianslıları kabul ettiğini varsayalım. Lilliputians'ın ortaokulları, matematik sınıflarından oluşan sağlam bir müfredat sunar ve öğrencilerin büyük çoğunluğu üniversite programına katılmaya hak kazanır. Brobdingnagians'ın ortaokullarında hiç matematik dersi verilmiyor ve bu nedenle öğrencilerinden çok daha azı nitelikli hale geliyor. Başvuru sahibinin Lilliputian veya Brobdingnagian olması önemli olmaksızın, programa kabul edilme olasılıklarının eşit olduğu ve kalifiye değillerse reddedilme ihtimallerinin de eşit olduğu durumlar eşittir.

100 Lilliputian ve 100 Brobdingnagia'nın Glubbdubdrib Üniversitesi'ne başvurduğunu ve başvuru kararlarının aşağıdaki gibi alındığını varsayalım:

Tablo 3. Lilliputianus'taki başvuru sahipleri (%90'ı gerekli)

  Uygun Uygun Değil
Kabul edildi 45 2
Reddedildi 45 8
Toplam 90 10
Kabul edilen nitelikli öğrencilerin yüzdesi: 45/90 =%50
Reddedilen öğrencilerin oranı: 8/10 =%80
Kabul edilen Lilliputian öğrencilerinin toplam yüzdesi: (45+2)/100 = %47

 

Tablo 4. Brobdingnagian başvuru sahipleri (%10 uygun):

  Uygun Uygun Değil
Kabul edildi 5 18
Reddedildi 5 72
Toplam 10 90
Kabul edilen nitelikli öğrencilerin yüzdesi: 5/10 =%50
Reddedilen öğrencilerin oranı: 72/90 =%80
Kabul edilen Brobdingnagian öğrencilerinin toplam yüzdesi: (5+18)/100 = %23

Gerekli niteliklere sahip olan Lilliputian ve Brobdingnagian öğrencilerinin kabul edilme şansı% 50, kalifiye olmayan Lilliputian ve Brobdingnagian öğrencilerinin ise% 80 oranında reddedilme şansı olduğundan, eşitleştirilmiş şanslar kabul edilir.

Eşitlenmiş şanslar resmi olarak "Gözetimli Öğrenimde Fırsat Eşitliği" bölümünde şu şekilde tanımlanır: "tahmincisi, Ŷ ve A bağımsızysa, Y'de koşula bağlı olarak korumalı A özelliğine ve Y sonucuna göre eşit oranlı olasılıkları karşılar."

deneycinin ön yargısı

#fairness

Onay yanlılığı bölümünü inceleyin.

F

adalet kısıtlaması

#fairness
Bir veya daha fazla adalet tanımının karşılandığından emin olmak için algoritmaya kısıtlama uygulama. Adalet kısıtlamalarına örnek olarak aşağıdakiler verilebilir:

adalet metriği

#fairness

"Adaletin" ölçülebilen matematiksel tanımı. Sık kullanılan adalet metriklerinden bazıları şunlardır:

Birçok adalet metriği birbirini dışlar. Adalet metriklerinin uyumsuzluğu bölümüne bakın.

G

grup ilişkilendirme yanlılığı

#fairness

Bir kişi için doğru olanın, o gruptaki herkes için de doğru olduğunu varsayar. Veri toplama için kullanışlılık örneklemesi kullanılırsa grup ilişkilendirme yanlılığının etkileri daha da ciddileşebilir. Temsil edici olmayan bir örnekte, atıflar gerçeği yansıtmayan şekilde yapılabilir.

Grup dışı homojenlik önyargısı ve grup içi önyargı bölümlerini de inceleyin.

VR

geçmiş önyargı

#fairness

Dünyada zaten mevcut olan ve veri kümesine dönüşen bir tür taraf. Bu ön yargılar, belirli sosyal gruplara karşı var olan kültürel klişeleri, demografik eşitsizlikleri ve ön yargıları yansıtma eğilimindedir.

Örneğin, bir kredi başvurusu sahibinin kredisini temerrüt edip etmeyeceğini tahmin eden bir sınıflandırma modelini ele alalım. Bu modelde, iki farklı topluluktaki yerel bankaların 1980'lerde elde ettiği geçmiş kredi tecil verileri kullanılarak eğitilmiştir. A Topluluğu'ndaki eski başvuru sahiplerinin kredilerini borcunu ödememe olasılığı B Topluluğu'ndan gelenlere göre altı kat daha fazlaysa model, geçmişe dönük bir önyargıyı öğrenebilir ve bu durumda modelin, A Topluluğu'ndaki yüksek tedavüle ilişkin oranlarla sonuçlanan tarihsel koşullar artık geçerli olmasa bile, A Topluluğu'ndaki kredileri onaylama ihtimali daha düşük olabilir.

İ

örtülü önyargı

#fairness

Kişinin zihin modelleri ve anılarıyla otomatik olarak ilişkilendirme veya varsayımda bulunma. Örtülü önyargı aşağıdakileri etkileyebilir:

  • Verilerin toplanma ve sınıflandırılma şekli.
  • Makine öğrenimi sistemlerinin tasarlanma ve geliştirilme şekli

Örneğin, düğün fotoğraflarını tanımlamak için bir sınıflandırıcı oluştururken bir mühendis, bir fotoğrafta beyaz bir elbisenin bulunmasını özellik olarak kullanabilir. Ancak beyaz elbiseler yalnızca belirli dönemlerde ve kültürlerde gelenekseldir.

Onay yanlılığı bölümünü de inceleyin.

adalet metriklerinin uyumsuzluğu

#fairness

Bazı adalet kavramlarının karşılıklı olarak uyumsuz olduğu ve eş zamanlı olarak gerçekleştirilemediği düşüncesi. Sonuç olarak, adaleti nicelleştirmek için tüm makine öğrenimi problemlerine uygulanabilecek tek bir evrensel metrik yoktur.

Bu cesaret kırıcı gibi görünse de adalet metriklerinin uyumsuzluğu, adalet çabalarının verimsiz olduğu anlamına gelmez. Bunun yerine, belirli bir makine öğrenimi problemi için adaletin bağlamsal olarak tanımlanması gerektiğini ve kullanım durumlarına özgü zararların önlenmesini önerir.

Bu konuyla ilgili daha ayrıntılı bir tartışma için "Adaletin imkansızlığı hakkında" bölümüne bakın.

bireysel adalet

#fairness

Benzer kişilerin benzer şekilde sınıflandırılıp sınıflandırılmadığını kontrol eden adalet metriği. Örneğin, Brobdingnagian Academy, aynı notlara ve standart test puanlarına sahip iki öğrencinin kabul edilme olasılığının eşit olmasını sağlayarak bireysel adaleti sağlamak isteyebilir.

Bireysel adalet tamamen "benzerliği" nasıl tanımladığınıza (bu örnekte, notlar ve test puanları) bağlıdır ve benzerlik metriğinizde önemli bilgiler (ör. öğrencinin müfredatının kalitesi) gözden kaçarsa yeni adalet problemleri ortaya çıkma riskiyle karşı karşıya kalabilirsiniz.

Bireysel adalet hakkında daha ayrıntılı bir tartışma için "Farkındalık Sayesinde Adalet" bölümüne bakın.

grup içi önyargı

#fairness

Bir kişinin kendi grubuna veya kendi özelliklerine kısmen benzetme. Test kullanıcıları veya değerlendiriciler makine öğrenimi geliştiricisinin arkadaşları, ailesi ya da iş arkadaşlarından oluşuyorsa grup içi ağırlıklandırma, ürün testini veya veri kümesini geçersiz kılabilir.

Grup içi ön yargı, bir grup ilişkilendirme ön yargısı biçimidir. Grup dışı homojenlik önyargısı bölümünü de inceleyin.

N

yanıtsızlık yanlılığı

#fairness

Seçim ağırlıklandırması bölümünü inceleyin.

O

grup dışı homojenlik ön yargısı

#fairness

Tutumları, değerleri, kişilik özelliklerini ve diğer özellikleri karşılaştırırken grup dışı üyeleri grup içindekilere kıyasla daha benzer görme eğilimi. Grup içi, düzenli olarak etkileşimde bulunduğunuz kişileri, grup dışı ise düzenli olarak etkileşimde bulunmadığınız kişileri ifade eder. Kullanıcılardan grup dışı özellikler sağlamalarını isteyerek bir veri kümesi oluşturursanız bu özellikler, katılımcıların kendi gruplarındaki kişiler için listeledikleri özelliklerden daha az incelikli ve basmakalıp olabilir.

Örneğin, Lilliputyalılar diğer Lilliputyalıların evlerini çok ayrıntılı bir şekilde açıklayarak mimari tarzlar, pencereler, kapılar ve boyutlardaki küçük farklılıklardan bahsedebilir. Ancak, aynı Lilliputyalılar, Broddingnagi halkının tamamının aynı evlerde yaşadığını söyleyebilir.

Grup dışı homojenlik ön yargısı bir grup ilişkilendirme yanlılığı biçimidir.

Ayrıca grup içi ağırlıklandırma konusuna bakın.

P

katılım yanlılığı

#fairness

Yanıtsızlık önyargısı ile eş anlamlı kelime. Seçim ağırlıklandırması bölümünü inceleyin.

işleme sonrası

#fairness
#fundamentals

Bir modelin çalıştırılmasından sonra modelin çıkışını ayarlama. Son işleme, modellerin kendilerini değiştirmeden adalet kısıtlamalarını uygulamak için kullanılabilir.

Örneğin, gerçek pozitif oranın, söz konusu özelliğin tüm değerleri için aynı olup olmadığı kontrol edilerek fırsat eşitliğinin korunması şeklinde bir sınıflandırma eşiği ayarlayarak ikili bir sınıflandırıcıya son işleme uygulanabilir.

tahmine dayalı parite

#fairness

Belirli bir sınıflandırıcıya ilişkin kesinlik oranlarının, söz konusu alt gruplar için eşdeğer olup olmadığını kontrol eden bir adillik metriği.

Örneğin, üniversiteye kabul edilmeyi tahmin eden bir model, doğruluk oranı Lilliputians ve Brobdingnagianlar için aynıysa, uyruk için tahmine dayalı denkliği karşılar.

Tahmine dayalı parite bazen tahmini hız paritesi olarak da adlandırılır.

Tahmine dayalı parite hakkında daha ayrıntılı bilgi için "Adalet Tanımları Açıklama" (bölüm 3.2.1) bölümüne bakın.

tahmine dayalı hız paritesi

#fairness

Tahmini paritenin diğer adıdır.

ön işleme

#fairness
Verileri bir modeli eğitmek için kullanılmadan önce işleme. Ön işleme, İngilizce sözlükte bulunmayan kelimeleri bir İngilizce metin kitaplığından kaldırmak kadar basit olabileceği gibi, hassas özelliklerle ilişkili olabildiğince çok sayıda özelliği eleyerek veri noktalarını yeniden ifade etmek kadar karmaşık da olabilir. Ön işleme, adillik kısıtlamalarının karşılanmasına yardımcı olabilir.

proxy (hassas özellikler)

#fairness
Hassas bir özellik için yedek olarak kullanılan bir özellik. Örneğin, bir kişinin posta kodu geliri, ırkı veya etnik kökeni için bir temsil olarak kullanılabilir.

R

raporlama önyargısı

#fairness

İnsanların eylemler, sonuçlar veya mülkler hakkında yazma sıklığı, gerçek dünyadaki sıklıklarının veya bir mülkün bir kişi sınıfının ne kadar özelliği olduğunun bir yansıması değildir. Raporlama yanlılığı, makine öğrenimi sistemlerinin öğrendiği verilerin bileşimini etkileyebilir.

Örneğin, kitaplarda güldü kelimesi nefes kelimesinden daha yaygındır. Kitap topluluğundan alınan gülme ve nefes almanın göreli sıklığını tahmin eden bir makine öğrenimi modeli, muhtemelen gülmenin nefes almaktan daha yaygın olduğunu belirleyecektir.

S

örnekleme önyargısı

#fairness

Seçim ağırlıklandırması bölümünü inceleyin.

seçim önyargısı

#fairness

Verilerde gözlemlenen örnekler ile gözlemlenmeyenler arasında sistematik farklılıklar oluşturan bir seçim sürecinden kaynaklanan sonuçlardaki hatalar. Seçim yanlılığının şu biçimleri vardır:

  • Kapsam sapması: Veri kümesinde temsil edilen popülasyon, makine öğrenimi modelinin hakkında tahminde bulunduğu popülasyonla eşleşmez.
  • örnekleme yanlılığı: Veriler hedef gruptan rastgele toplanmaz.
  • Yanıt dışı yanlılık (katılım yanlılığı olarak da adlandırılır): Belirli gruplardaki kullanıcılar, diğer gruplardaki kullanıcılardan farklı oranlarda anketlerin kapsamı dışında kalmayı seçebilir.

Örneğin, insanların bir filmden nasıl keyif alacağını tahmin eden bir makine öğrenimi modeli oluşturduğunuzu varsayalım. Eğitim verilerini toplamak için, filmin gösterildiği bir sinemanın en ön sırasındaki herkese bir anket dağıtıyorsunuz. Bu da veri kümesi toplamak için makul bir yol gibi görünebilir; ancak bu veri toplama biçimi aşağıdaki seçim yanlılığına yol açabilir:

  • kapsam ön yargısı: Filmi izlemeyi seçen bir popülasyondan örnekleme yapıldığında modelinizin tahminleri, filme olan ilgi düzeyini daha önce belirtmemiş olan kişiler için genelleşmeyebilir.
  • Örnekleme yanlılığı: Hedeflenen popülasyondan (filmdeki tüm kişiler) rastgele örnekleme yapmak yerine yalnızca ön sıradaki kişileri örneklendirirsiniz. Ön sıradaki kişilerin filmle, diğer satırlardakilere göre daha fazla ilgilenmiş olması mümkündür.
  • yanıtsızlık yanlılığı: Genel olarak, güçlü fikirleri olan kişiler isteğe bağlı anketlere hafif düşüncelere sahip kişilere göre daha sık yanıt verme eğilimindedir. Film anketi isteğe bağlı olduğundan yanıtların bimodal dağılım oluşturma olasılığı normal (çan şeklinde) bir dağılımdan daha yüksektir.

hassas özellik

#fairness
Yasal, etik, sosyal veya kişisel nedenlerle özel olarak değerlendirilebilecek insani bir özelliktir.

U

farkında olmama (hassas bir özelliğe)

#fairness

Hassas özelliklerin bulunduğu ancak eğitim verilerine dahil edilmediği durum. Hassas özellikler genellikle ilgili verilerin diğer özellikleriyle bağıntılı olduğundan, hassas bir özelliği bilmeyen eğitimlerle eğitilen bir modelin bu özellik ile ilgili ağırlıksız bir etkisi olabilir veya diğer adillik kısıtlamalarını ihlal edebilir.