เมื่อประเมินโมเดล เมตริกที่คํานวณเทียบกับการทดสอบหรือการตรวจสอบทั้งหมด ก็ไม่ได้ให้ภาพที่ถูกต้องเสมอไปว่าโมเดลนี้มีความยุติธรรมเพียงใด โมเดลมีประสิทธิภาพโดยรวมดีเยี่ยมสำหรับตัวอย่างส่วนใหญ่ที่อาจมาสก์ได้ไม่ดี ประสิทธิภาพในกลุ่มย่อยของตัวอย่าง ซึ่งอาจทำให้เกิดความลำเอียง การคาดการณ์โมเดล การใช้เมตริกประสิทธิภาพแบบรวม เช่น ความแม่นยำ การเรียกคืน และความแม่นยำ ไม่จำเป็น มาเปิดเผยปัญหาเหล่านี้
เราสามารถกลับไปดูรูปแบบการรับนักศึกษาและสำรวจเทคนิคใหม่ๆ สำหรับวิธีประเมินการคาดคะเนของอคติโดยคำนึงถึงความยุติธรรม
สมมติว่าโมเดลการจัดประเภทการรับนักศึกษาเลือกนักเรียน 20 คนเพื่อยอมรับ มหาวิทยาลัยจากกลุ่มผู้สมัคร 100 คน และจัดอยู่ในกลุ่มประชากร 2 กลุ่ม กลุ่มคนส่วนใหญ่ (สีฟ้า นักเรียน 80 คน) และชนกลุ่มน้อย (สีส้ม นักเรียน 20 คน)
![ตารางกริดแสดงไอคอนบุคคล 100 คน ไอคอน 80 รายการเป็นสีน้ำเงิน
เป็นตัวแทนของกลุ่มคนส่วนใหญ่ ไอคอน 20 รายการเป็นสีส้ม
ที่เป็นตัวแทนของคนกลุ่มน้อย](https://developers.google.cn/static/machine-learning/crash-course/fairness/images/fairness_metrics_candidate_pool.png?authuser=4&hl=th)
โมเดลต้องยอมรับนักเรียนที่มีคุณสมบัติตามเกณฑ์ในลักษณะที่เป็นธรรม ผู้สมัครในกลุ่มประชากรทั้ง 2 กลุ่ม
เราควรประเมินการคาดการณ์ของโมเดลเพื่อความเป็นธรรมอย่างไร มีให้เลือกหลากหลาย ที่เราพิจารณาได้ ซึ่งแต่ละรายการจะให้ผลทางคณิตศาสตร์ ของคำว่า "ความยุติธรรม" ในส่วนต่อไปนี้ เราจะดู 3 ส่วน เมตริกความยุติธรรมเชิงลึกเหล่านี้ ได้แก่ ความเท่าเทียมกันของข้อมูลประชากร ความเท่าเทียมของโอกาส และความยุติธรรมในการโต้แย้ง