Bir model değerlendirirken, metrikler bir testin veya doğrulamaya göre hesaplanır modelin ne kadar adil olduğuna dair her zaman net bir fikir vermeyebilir. Örneklerin çoğu için genel olarak yüksek model performansı, kötü performansın küçük bir örnek alt kümesi üzerinde performans göstermesi, yanlılığa neden olabilir. model tahminleridir. Aşağıdakiler gibi toplu performans metriklerini kullanma: hassasiyet, geri çağırma, ve doğruluğun her zaman doğru adım adım açıklayacağım.
Kabul modelimizi gözden geçirebilir ve bazı yeni teknikler keşfedebiliriz ön yargıyla ilgili tahminlerinin adalet çerçevesinde nasıl değerlendirileceğine dair
Kabul sınıflandırma modelinin üniversitesi: 100 adaydan oluşan bir havuzda yer alır. çoğunluk grubu (mavi, 80 öğrenci) ve azınlık grubu (turuncu, 20 öğrenci).
Model, uygun niteliklere sahip öğrencileri yasalara uygun bir şekilde kabul etmelidir. adayı gösterir.
Modelin adalet tahminlerini nasıl değerlendirmeliyiz? Çok çeşitli farklı matematiksel işlemler sunan metrik seçenekleri vardır. tanımıdır. İlerleyen bölümlerde, şu metrikleri derinlemesine inceleyeceğiz: demografik denklik, fırsat eşitliği, ve karşı görüşlere dayalı adalet.