निष्पक्षता: भेदभाव की जांच करना

मॉडल का आकलन करते समय, पूरे टेस्ट या पुष्टि के लिए मेट्रिक का हिसाब लगाया जाता है सेट हमेशा इस बात की सटीक जानकारी नहीं देते कि मॉडल कितना निष्पक्ष है. ज़्यादातर उदाहरणों के लिए शानदार मॉडल की परफ़ॉर्मेंस खराब हो सकती है उदाहरणों के एक छोटे सबसेट पर परफ़ॉर्मेंस, जिसकी वजह से पक्षपात हो सकता है मॉडल के अनुमान. कुल परफ़ॉर्मेंस मेट्रिक का इस्तेमाल करना, जैसे कि सटीक, याद रखें, और ऐसा ज़रूरी नहीं है कि सटीक होने का मतलब है कि ताकि इन समस्याओं के बारे में बताया जा सके.

हम अपने एडमिशन मॉडल की फिर से समीक्षा कर सकते हैं और कुछ नई तकनीकें एक्सप्लोर कर सकते हैं पक्षपात को ध्यान में रखते हुए इसके अनुमानों का मूल्यांकन कैसे किया जाए, ताकि निष्पक्षता को ध्यान में रखा जा सके.

मान लीजिए कि एडमिशन क्लासिफ़िकेशन मॉडल में 20 छात्र-छात्राओं को चुना गया है कि 100 उम्मीदवारों के पूल में से, जो दो डेमोग्राफ़िक (उम्र, लिंग, आय, शिक्षा वगैरह) ग्रुप से जुड़े हुए हैं: ज़्यादातर ग्रुप (नीले, 80 छात्र-छात्राएं) और अल्पसंख्यक ग्रुप (नारंगी, 20 छात्र).

100 लोगों के आइकॉन का ग्रिड. 80 आइकॉन नीले रंग से शेड किए गए हैं,
         जो ज़्यादातर ग्रुप का प्रतिनिधित्व कर रही है. 20 आइकॉन, जिनका रंग नारंगी है.
         जो अल्पसंख्यक समूह का प्रतिनिधित्व कर रही हैं.
पहला डायग्राम. कुल 100 छात्र-छात्राओं वाला उम्मीदवारों का पूल: 80 छात्र-छात्राएं सबसे ज़्यादा छात्र-छात्राएं (नीला) और 20 छात्र-छात्राएं अल्पसंख्यक समूह के हैं (नारंगी).

मॉडल में योग्यता पूरी करने वाले छात्र-छात्राओं को शामिल किया जाना चाहिए. दोनों डेमोग्राफ़िक (उम्र, लिंग, आय, शिक्षा वगैरह) ग्रुप के उम्मीदवार शामिल हैं.

निष्पक्षता के लिए इस मॉडल के अनुमानों का आकलन कैसे करना चाहिए? अलग-अलग तरह के जिस पर हम विचार कर सकते हैं. इनमें से हर एक गणितीय सवाल के हिसाब से "निष्पक्षता" की परिभाषा जानें. अगले सेक्शन में, हम इन तीन सुविधाओं के बारे में निष्पक्षता की इन मेट्रिक के बारे में ज़्यादा जानें: डेमोग्राफ़िक (उम्र, लिंग, आय, शिक्षा वगैरह) के बीच समानता, अवसर की समानता, और पक्षपातपूर्ण निष्पक्षता है.