مسرد مصطلحات التعلم الآلي: الإنصاف

تحتوي هذه الصفحة على مصطلحات مسرد العدالة. للاطّلاع على جميع مصطلحات المسرد، انقر على هذا الرابط.

A

سمة

#fairness

مرادف لـ feature.

في ما يتعلّق بإنصاف تعلُّم الآلة، غالبًا ما تشير السمات إلى السمات المتعلّقة بالأفراد.

الانحياز للاقتراحات الآلية

#fairness

عندما يفضّل صانع القرار البشري الاقتراحات التي يقدّمها نظام اتّخاذ قرارات آلي على المعلومات التي يتمّ إنشاؤها بدون اتّباع إجراءات آلية، حتى في حال ارتكاب نظام اتّخاذ القرارات الآلي للأخطاء

اطّلِع على الإنصاف: أنواع الانحياز في الدورة التدريبية المكثّفة حول تعلُّم الآلة للحصول على مزيد من المعلومات.

B

الانحياز (الأخلاق/الإنصاف)

#fairness
#fundamentals

1. الصور النمطية أو التحيز أو التفضيل لبعض الأشياء أو الأشخاص أو المجموعات على حساب آخرين ويمكن أن تؤثّر هذه الانحيازات في جمع البيانات وتفسيرها وتصميم النظام وكيفية تفاعل المستخدمين معه. تشمل أشكال هذا النوع من التحيز ما يلي:

2. خطأ منهجي ناتج عن إجراء أخذ عينات أو إعداد تقارير تشمل أشكال هذا النوع من التحيز ما يلي:

يجب عدم الخلط بين هذا المصطلح ومصطلح الانحياز في نماذج تعلُّم الآلة أو الانحياز في التنبؤ.

اطّلِع على الإنصاف: أنواع الانحياز في دورة التعرّف الآلي التدريبية المختصرة للحصول على مزيد من المعلومات.

C

الانحياز التأكيدي

#fairness

الميل إلى البحث عن المعلومات وتفسيرها وتفضيلها وتذكُّرها بطريقة تؤكد صحة المعتقدات أو الفرضيات الموجودة مسبقًا قد يجمع مطوّرو تعلُّم الآلة بيانات أو يصنّفونها بغير قصد بطرق تؤثّر في نتيجة تدعم اعتقاداتهم الحالية. الانحياز التأكيدي هو شكل من أشكال التحيز الضمني.

تحيز الباحث هو شكل من أشكال التحيز التأكيدي الذي يواصل فيه الباحث تدريب النماذج إلى أن يتم تأكيد فرضية سابقة.

العدالة في الحالات الافتراضية

#fairness

مقياس المساواة الذي يتحقّق مما إذا كان المصنّف يقدّم النتيجة نفسها لفرد ما كما يقدّمها لفرد آخر متطابق معه، باستثناء سمة حسّاسة واحدة أو أكثر إنّ تقييم أحد المصنّفات من أجل قياس عدله البديل هو إحدى الطرق لعرض مصادر التحيز المحتملة في النموذج.

يمكنك الاطّلاع على أيّ من المقالتَين أدناه للحصول على مزيد من المعلومات:

انحياز في التغطية

#fairness

اطّلِع على الانحياز في الاختيار.

D

التكافؤ الديمغرافي

#fairness

مقياس المساواة الذي يتم استيفاؤه إذا كانت نتائج تصنيف النموذج لا تعتمد على سمة حسّاسة معيّنة

على سبيل المثال، إذا قدّم كلّ من سكان جزيرة ليليبوت وسكان جزيرة كبريت طلبات للانضمام إلى جامعة غلادبدبرب، يتمّ تحقيق المساواة الديمغرافية إذا كانت النسبة المئوية لسكان جزيرة ليليبوت المقبولين متساوية مع النسبة المئوية لسكان جزيرة كبريت المقبولين، بغض النظر عمّا إذا كانت إحدى المجموعة أكثر تأهّلاً في المتوسّط من الأخرى.

يختلف ذلك عن المعدّلات المتكافئة و تكافؤ الفرص، اللذان يسمحان باستناد نتائج التصنيف بشكلٍ إجمالي إلى السمات الحسّاسة، ولكنّهما لا يسمحان باستناد نتائج التصنيف إلى سمات حسّاسة في تصنيفات معيّنة محدّدة الحقيقة الأساسية. اطّلِع على مقالة "مكافحة التمييز باستخدام تعلُّم الآلة الذكي" للاطّلاع على رسم بياني يوضّح التوازنات عند تحسين الأداء لتحقيق المساواة الديمغرافية.

اطّلِع على الإنصاف: المساواة demographic في دورة التعلّم الآلي المكثّفة للحصول على مزيد من المعلومات.

التأثير غير المتكافئ

#fairness

اتّخاذ قرارات عن الأشخاص تؤثر بشكل غير متناسب في مجموعات فرعية مختلفة من السكان ويشير ذلك عادةً إلى الحالات التي تضر فيها عملية صنع القرار المستندة إلى الخوارزميات ببعض المجموعات الفرعية أو تعود بالنفع عليها أكثر من غيرها.

على سبيل المثال، لنفترض أنّه من المرجّح أن تصنّف خوارزمية تحدّد أهلية أحد الأشخاص للحصول على قرض لشراء منزل صغير كشخص "غير مؤهّل" إذا كان عنوانه البريدي يحتوي على رمز بريدي معيّن. إذا كان من المرجّح أن يكون لدى سكان "ليبوتو" الذين يستخدمون تنسيق Big-Endian عناوين بريدية تتضمّن هذا الرمز البريدي أكثر من سكان "ليبوتو" الذين يستخدمون تنسيق Little-Endian، قد تؤدي هذه الخوارزمية إلى تأثير متفاوت.

يختلف ذلك عن المعالجة غير المتكافئة، التي تركّز على الاختلافات الناتجة عندما تكون خصائص المجموعة الفرعية مدخلات صريحة لعملية اتخاذ القرار بالاستناد إلى الخوارزميات.

معاملة مختلفة

#fairness

أخذ السمات الحسّاسة للمشاركين في الاعتبار في عملية اتخاذ القرار بالاستناد إلى الخوارزميات، ما يؤدي إلى التعامل مع مجموعات فرعية مختلفة من الأشخاص بشكل مختلف

على سبيل المثال، لنفترض أنّ هناك خوارزمية تحدد أهلية الأقزام للحصول على قرض لشراء منزل صغير بناءً على البيانات التي يقدّمونها في طلب القرض. إذا كانت الخوارزمية تستخدم انتماء Lilliputian كBig-Endian أو Little-Endian كإدخال، فإنّه يتم تطبيق معاملة مختلفة على هذا السمة.

يختلف ذلك عن التأثير غير المتكافئ الذي يركز على الاختلافات في التأثيرات الاجتماعية للقرارات الخوارزمية على المجموعات الفرعية، بغض النظر عمّا إذا كانت هذه المجموعات الفرعية مدخلات للنموذج.

E

تكافؤ الفرص

#fairness

مقياس المساواة لتقييم ما إذا كان النموذج يتنبأ بالنتيجة المطلوبة بشكلٍ جيد بالتساوي لجميع قيم السمة الحسّاسة بعبارة أخرى، إذا كانت النتيجة المطلوبة للنموذج هي الفئة الموجبة، سيكون الهدف هو أن يكون معدل الإيجابية الحقيقية هو نفسه لجميع المجموعات.

ترتبط المساواة في الفرص بالاحتمالات المتكافئة، ويتطلّب ذلك أن تكون كلا معدلَي الموجبَين الصائبَين ومعدلَي الموجبَين الخاطئَين متطابقَين لجميع المجموعات.

لنفترض أنّ جامعة Glubbdubdrib تقبل كلّ من سكان Lilliput وBrobdingnag في برنامج رياضيات صارم. تقدّم المدارس الثانوية في جزيرة Lilliput مناهج قوية لدروس الرياضيات، وتكون الغالبية العظمى من الطلاب مؤهّلين للالتحاق بالبرنامج الجامعي. لا تقدّم المدارس الثانوية في Brobdingnag صفوفًا في الرياضيات على الإطلاق، ونتيجةً لذلك، يكون عدد الطلاب المؤهّلين للدخول إلى هذه الوظائف أقل بكثير. يتمّ تلبية مبدأ المساواة في الفرص للتصنيف المفضّل "تمّ قبوله" حسب الجنسية (Lilliputian أو Brobdingnagian) إذا كان من المحتمل أن يتم قبول الطلاب المؤهّلين بشكلٍ متساوٍ بغض النظر عمّا إذا كانوا من Lilliputian أو Brobdingnagian.

على سبيل المثال، لنفترض أنّ 100 طالب من جزيرة Lilliput و100 طالب من جزيرة Brobdingnag يتقدمون بطلبات إلى جامعة Glubbdubdrib، ويتم اتخاذ قرارات القبول على النحو التالي:

الجدول 1: مقدّمو الطلبات الصغار (90% منهم مؤهّلون)

  مؤهَّل غير معرَّف
تم قبوله 45 3
تم الرفض 45 7
المجموع 90 10
النسبة المئوية للطلاب المؤهَّلين الذين تم قبولهم: 45/90 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 7/10 = 70%
النسبة المئوية الإجمالية للطلاب من جزيرة Lilliput الذين تم قبولهم: (45+3)/100 = 48%

 

الجدول 2: مقدّمو الطلبات من الشركات الكبيرة (10% منهم مؤهّلون):

  مؤهَّل غير معرَّف
تم قبوله 5 9
تم الرفض 5 81
المجموع 10 90
النسبة المئوية للطلاب المؤهَّلين الذين تم قبولهم: 5/10 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 81/90 = 90%
النسبة المئوية الإجمالية للطلاب الذين تم قبولهم في جامعة Brobdingnagian: (5+9)/100 = 14%

تستوفي الأمثلة السابقة مبدأ المساواة في الفرص لقبول الطلاب المؤهّلين لأنّه تتوفر لطلاب "ليبليب" المؤهّلين وطلاب "بروبنديجنان" المؤهّلين فرصة متساوية تبلغ% 50 للقبول.

على الرغم من استيفاء مقياس المساواة في الفرص، فإنّ مقياسَي المساواة التاليَين لا يتم استيفاؤهما:

  • المساواة الديمغرافية: يتم قبول طلاب جزيرة Lilliput و جزيرة Brobdingnag في الجامعة بمعدّلات مختلفة، ويُقبل 48% من طلاب جزيرة Lilliput، ولكن لا يتم قبول سوى 14% من طلاب جزيرة Brobdingnag.
  • الاحتمالات المتساوية: على الرغم من أنّ الطلاب المؤهَّلين من جزيرة Lilliput وطلاب جزيرة Brobdingnag لديهما فرصة متساوية للقبول، لا يتم استيفاء القيود الإضافية التي تقضي بأنّ الطلاب غير المؤهَّلين من جزيرة Lilliput وطلاب جزيرة Brobdingnag لديهما فرصة متساوية للرفض. يُسجّل سكان "ليبليب" غير المؤهَّلين معدّل رفض يبلغ% 70، في حين يُسجّل سكان "بروبنديغنا" غير المؤهَّلين معدّل رفض يبلغ% 90.

اطّلِع على الإنصاف: المساواة في فرص الوصول في الدورة المكثّفة عن تعلُّم الآلة للحصول على مزيد من المعلومات.

الاحتمالات المتكافئة

#fairness

مقياس لعدالة النموذج لتقييم ما إذا كان النموذج يتنبأ بالنتائج بشكلٍ متساوٍ بنفس الجودة لجميع قيم السمة الحسّاسة مع الأخذ في الاعتبار كلّ من الفئة الموجبة و الفئة السالبة، وليس فئة واحدة فقط حصريًا. بعبارة أخرى، يجب أن يكون كل من معدل الموجب الصحيح ومعدل السالب الخاطئ متطابقًا في جميع المجموعات.

ترتبط الاحتمالات المتكافئة بتكافؤ الفرص الذي لا يركز إلا على معدلات الخطأ لفئة واحدة (موجبة أو سالبة).

على سبيل المثال، لنفترض أنّ جامعة Glubbdubdrib تقبل كلّ من سكان Lilliput و Brobdingnag في برنامج رياضيات صارم. تقدّم المدراس الثانوية في جزيرة Lilliput مناهج دراسية قوية لدروس الرياضيات، وتكون الغالبية العظمى من الطلاب مؤهّلة للالتحاق بالبرنامج الجامعي. لا تقدّم المدراس الثانوية في مملكة Brobdingnag صفوفًا في الرياضيات على الإطلاق، ونتيجةً لذلك، يكون عدد الطلاب المؤهّلين أقل بكثير. يتم استيفاء الاحتمالات المتكافئة شرطًا بغض النظر عمّا إذا كان مقدم الطلب من جزيرة Lilliput أو Brobdingnagian، إذا كان مؤهلاً، من المرجّح أن يتم قبوله في البرنامج، وإذا لم يكن مؤهلاً، من المرجّح أن يتم رفضه.

لنفترض أنّ 100 شخص من جزيرة Lilliput و100 شخص من جزيرة Brobdingnag يتقدمون بطلبات إلى جامعة Glubbdubdrib ، ويتم اتخاذ قرارات القبول على النحو التالي:

الجدول 3: مقدّمو الطلبات الصغار (90% منهم مؤهّلون)

  مؤهَّل غير معرَّف
تم قبوله 45 2
تم الرفض 45 8
المجموع 90 10
النسبة المئوية للطلاب المؤهَّلين الذين تم قبولهم: 45/90 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 8/10 = 80%
النسبة المئوية الإجمالية للطلاب من جزيرة Lilliput الذين تم قبولهم: (45+2)/100 = 47%

 

الجدول 4: مقدّمو الطلبات من الشركات الكبيرة (10% منهم مؤهّلون):

  مؤهَّل غير معرَّف
تم قبوله 5 18
تم الرفض 5 72
المجموع 10 90
النسبة المئوية للطلاب المؤهَّلين الذين تم قبولهم: 5/10 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 72/90 = 80%
إجمالي النسبة المئوية للطلاب في جامعة Brobdingnagian الذين تم قبولهم: (5+18)/100 = 23%

يتم استيفاء الاحتمالات المتكافئة لأنّه تتوفّر لكل من الطلاب المؤهّلين من جزيرة Lilliput وطلاب Brobdingnagian فرصة بنسبة% 50 للقبول، بينما تتوفّر لكل من الطلاب غير المؤهّلين من جزيرة Lilliput وطلاب Brobdingnagian فرصة بنسبة% 80 للرفض.

يتم تعريف الاحتمالات المتكافئة رسميًا في مقالة "المساواة في الفرص في التعلّم الخاضع للإشراف" على النحو التالي: "يحقّق المتنبّئ Ŷ احتمالات متكافئة بالنسبة إلى السمة المحمية "أ" والنتيجة "ص" إذا كان Ŷ و"أ" مستقلّين، شريطة أن تكون "ص" مشروطة بـ "ص"."

انحياز المُختبِر

#fairness

اطّلِع على الانحياز التأكيدي.

F

قيد الإنصاف

#fairness
تطبيق قيد على خوارزمية لضمان استيفاء تعريف واحد أو أكثر للإنصاف تشمل أمثلة قيود المساواة ما يلي:

مقياس المساواة

#fairness

تعريف رياضي "للإنصاف" يمكن قياسه تشمل بعض مقاييس المساواة المستخدَمة بشكل شائع ما يلي:

إنّ العديد من مقاييس المساواة متعارضة مع بعضها، راجِع مقالة عدم توافق مقاييس المساواة.

G

الانحياز لتشابه المجموعة

#fairness

بافتراض أنّ ما ينطبق على فرد ينطبق أيضًا على الجميع في تلك المجموعة. يمكن أن تتفاقم تأثيرات التحيز في تحديد المصدر بالاستناد إلى المجموعة إذا تم استخدام تحليل عيّنات يعتمد على مدى التوفّر لجمع البيانات. في عيّنة غير تمثيلية، قد يتم تحديد مصدر لا يعكس الواقع.

اطّلِع أيضًا على الانحياز للتشابه خارج المجموعة والانحياز للمجموعة. يمكنك أيضًا الاطّلاع على الإنصاف: أنواع الانحياز في الدورة التدريبية المكثّفة حول تعلُّم الآلة للحصول على مزيد من المعلومات.

H

الانحياز السابق

#fairness

نوع من التحيز المتوفّر في العالم والذي انتقل إلى مجموعة بيانات. وتميل هذه الانحيازات إلى عكس الأفكار النمطية الثقافية الحالية، والتفاوتات الديمغرافية، والأحكام المسبقة ضد مجموعات اجتماعية معيّنة.

على سبيل المثال، نأخذ نموذج تصنيف يتنبّأ عمّا إذا كان مقدّم طلب القروض سيتخلف عن سداد القروض أم لا، والذي تم تدريبه على بيانات سابقة عن حالات تخلف عن سداد القروض من ثمانينيات القرن الماضي من البنوك المحلية في مجتمعين مختلفين. إذا كان من المرجّح أن يتخلف عن سداد القروض المتقدمون السابقون من "المجتمع أ" بمقدار ستة أضعاف مقارنةً بالمتقدمين من "المجتمع ب"، قد يتعرّف النموذج على تحيز تاريخي يؤدي إلى تقليل احتمالية الموافقة على القروض في "المجتمع أ"، حتى لو لم تعُد الظروف السابقة التي أدّت إلى ارتفاع معدّلات التخلف عن السداد في هذا المجتمع ذات صلة.

اطّلِع على الإنصاف: أنواع الانحياز في الدورة التدريبية المكثّفة حول تعلُّم الآلة للحصول على مزيد من المعلومات.

I

التحيز الضمني

#fairness

إجراء عملية ربط أو افتراض تلقائيًا استنادًا إلى نماذج العقل وذكرياته يمكن أن يؤثر التحيز الضمني في ما يلي:

  • كيفية جمع البيانات وتصنيفها
  • كيفية تصميم أنظمة تعلُّم الآلة وتطويرها

على سبيل المثال، عند إنشاء مصنّف لتحديد صور الزفاف، قد يستخدِم المهندس وجود فستان أبيض في الصورة كسمة. ومع ذلك، لم تكن الفساتين البيضاء رائجة إلا في عصور معيّنة وفي ثقافات معيّنة.

اطّلِع أيضًا على التحيز التأكيدي.

عدم توافق مقاييس الإنصاف

#fairness

فكرة أنّ بعض مفاهيم العدالة غير متوافقة مع بعضها ولا يمكن إشباعها في الوقت نفسه نتيجةً لذلك، لا يتوفّر مقياس واحد عالمي لقياس العدالة يمكن تطبيقه على جميع مشاكل الذكاء الاصطناعي.

قد يبدو هذا الأمر محبطًا، ولكن لا يعني عدم توافق مقاييس المساواة أنّ جهود المساواة غير مجدية. بدلاً من ذلك، يقترح المؤلفان أنّه يجب تحديد العدالة بشكل سياقي لمشكلة محدّدة في الذكاء الاصطناعي، بهدف منع الأضرار المتعلّقة بحالات الاستخدام.

اطّلِع على "On the (im)possibility of fairness" لمناقشة أكثر تفصيلاً لهذا الموضوع.

العدالة الفردية

#fairness

مقياس للعدالة يتحقّق مما إذا كان يتم تصنيف الأفراد المشابهين بشكل مشابه. على سبيل المثال، قد تريد أكاديمية Brobdingnagian Academy مراعاة مبادئ المساواة الفردية من خلال التأكّد من أنّ احتمال قبول طالبَين حاصلَين على درجات متطابقة ودرجات متطابقة في الاختبارات المعيارية متساوٍ.

يُرجى العِلم أنّ المساواة الفردية تعتمد بالكامل على كيفية تعريفك "للتشابه" (في هذه الحالة، الدرجات ونتائج الاختبارات)، ويمكنك المخاطرة بظهور مشاكل جديدة في المساواة إذا لم يرصد مقياس التشابه معلومات مهمة (مثل صرامة المنهج الدراسي للطالب).

راجِع مقالة "تحقيق العدالة من خلال الوعي" للحصول على مناقشة أكثر تفصيلاً حول العدالة الفردية.

الانحياز لأفراد المجموعة

#fairness

إظهار الانحياز إلى المجموعة أو الخصائص الخاصة إذا كان المختبِرون أو المقيّمون يتألفون من أصدقاء مطوّر تعلُّم الآلة أو أفراد عائلته أو زملائه، قد يؤدي التحيز داخل المجموعة إلى إلغاء اختبار المنتج أو مجموعة البيانات.

الانحياز لأفراد المجموعة هو شكل من أشكال الانحياز لتشابه المجموعة. اطّلِع أيضًا على الانحياز للتشابه خارج المجموعة.

اطّلِع على الإنصاف: أنواع الانحياز في دورة التعرّف الآلي التدريبية المختصرة للحصول على مزيد من المعلومات.

لا

انحياز عدم الاستجابة

#fairness

اطّلِع على الانحياز في الاختيار.

O

الانحياز للتشابه خارج المجموعة

#fairness

الميل إلى اعتبار أعضاء المجموعة الخارجية أكثر تشابهًا من أعضاء المجموعة الداخلية عند مقارنة المواقف والقيم وسمات الشخصية وغيرها من السمات يشير مصطلح المجموعة الداخلية إلى الأشخاص الذين تتفاعل معهم بانتظام، ويشير مصطلح المجموعة الخارجية إلى الأشخاص الذين لا تتفاعل معهم بانتظام. إذا أنشأت مجموعة بيانات من خلال مطالبة المشاركين بتقديم سمات عن المجموعات الخارجية، قد تكون هذه السمات أقل دقة وأكثر نمطية مقارنةً بالصفات التي يسردها المشاركون للأشخاص في مجموعتهم.

على سبيل المثال، قد يصف سكان جزيرة Lilliput منازل سكان جزيرة Lilliput الآخرين بتفاصيل كبيرة، مع الإشارة إلى الاختلافات الصغيرة في الأنماط المعمارية والنوافذ والأبواب والأحجام. ومع ذلك، قد يعلن سكان جزيرة ليليبوت نفسها ببساطة أنّه يعيش جميع سكان جزيرة برابينجناج في منازل متطابقة.

الانحياز للتشابه خارج المجموعة هو شكل من أشكال الانحياز لتشابه المجموعة.

اطّلِع أيضًا على الانحياز لأفراد المجموعة.

P

انحياز المشاركة

#fairness

مرادف لاحتكار عدم الاستجابة. اطّلِع على الانحياز في الاختيار.

المعالجة اللاحقة

#fairness
#fundamentals

تعديل ناتج نموذج بعد تشغيله يمكن استخدام مرحلة ما بعد المعالجة لفرض قيود المساواة بدون تعديل النماذج نفسها.

على سبيل المثال، يمكن تطبيق المعالجة اللاحقة على مصنّف ثنائي من خلال ضبط حدّ تصنيف بحيث يتم الحفاظ على تكافؤ الفرص لبعض السمات من خلال التحقّق من أنّ معدّل الموجب الحقيقي هو نفسه لجميع قيم تلك السمة.

التكافؤ التوقّعي

#fairness

مقياس المساواة الذي يتحقّق مما إذا كانت معدّلات الدقة متكافئة للمجموعات الفرعية المعنيّة، وذلك بالنسبة إلى مصنّف معيّن.

على سبيل المثال، سيستوفي النموذج الذي يتوقّع قبول الطلاب في الجامعات قياس التكافؤ التوقّعي للجنسية إذا كان معدّل الدقّة متطابقًا لكل من سكان جزيرة ليليبوت وسكان جزيرة بلوبيديغناج.

يُعرف التكافؤ التوقّعي أحيانًا أيضًا باسم التكافؤ التوقّعي للسعر.

اطّلِع على "تعريفات الإنصاف الموضّحة" (القسم 3.2.1) لمناقشة أكثر تفصيلاً عن المساواة التوقّعية.

التكافؤ في الأسعار القائمة على التوقّعات

#fairness

اسم آخر للتطابق التوقّعي

المعالجة المُسبَقة

#fairness
معالجة البيانات قبل استخدامها لتدريب نموذج يمكن أن تكون المعالجة المُسبَقة بسيطة مثل إزالة الكلمات من مجموعة نصوص باللغة الإنجليزية التي لا تظهر في القاموس الإنجليزي، أو يمكن أن تكون معقدة مثل إعادة التعبير عن نقاط البيانات بطريقة تزيل أكبر عدد ممكن من السمات التي ترتبط بـ السمات الحسّاسة. يمكن أن تساعد المعالجة المُسبَقة في استيفاء قيود الإنصاف.

وكيل (السمات الحسّاسة)

#fairness
سمة تُستخدَم كبديل لسمة حساسة. على سبيل المثال، قد يتم استخدام الرمز البريدي الخاص بفرد ما كعنصر بديل لدخله أو عرقه أو عرقه.

R

الانحياز في إعداد التقارير

#fairness

إنّ معدّل تكرار كتابة المستخدمين عن الإجراءات أو النتائج أو السمات لا يعكس معدّلات تكرار حدوثها في الحياة الواقعية أو درجة تميّز سمة ما عن مجموعة من الأفراد. يمكن أن يؤثّر التحيز في إعداد التقارير في تركيبة البيانات التي تستفيد منها أنظمة تعلُّم الآلة.

على سبيل المثال، في الكتب، تكون كلمة ضحك أكثر شيوعًا من تنفس. من المرجّح أن يحدِّد نموذج تعلُّم الآلة الذي يقدّر معدّل تكرار الضحك والتنفس من مجموعة كتب أنّ الضحك أكثر شيوعًا من التنفس.

S

التحيز في جمع العيّنات

#fairness

اطّلِع على الانحياز في الاختيار.

الانحياز في الاختيار

#fairness

الأخطاء في الاستنتاجات المستخلصة من البيانات المستندة إلى عيّنات بسبب عملية اختيار تؤدي إلى حدوث اختلافات منهجية بين العيّنات المرصودة في البيانات وتلك غير المرصودة في ما يلي أشكال التحيز في الاختيار:

  • الانحياز في التغطية: لا يتطابق المجتمع الإحصائي الممثّل في مجموعة البيانات مع المجتمع الإحصائي الذي يقدّم نموذج تعلُّم الآلة توقعات بشأنه.
  • تحيز أخذ العينات: لا يتم جمع البيانات عشوائيًا من المجموعة المستهدَفة.
  • الانحراف في عدم الردّ (يُعرف أيضًا باسم الانحراف في المشاركة): يوقف المستخدمون من مجموعات معيّنة الاستطلاعات بمعدّلات مختلفة عن المستخدمين من مجموعات أخرى.

على سبيل المثال، لنفترض أنّك تنشئ نموذج تعلُّم آليًا يتنبأ بمدى استمتاع المستخدمين بفيلم معيّن. لجمع بيانات التدريب، يمكنك توزيع استطلاع على جميع المشاهدين في الصف الأول من سينما تعرض الفيلم. قد يبدو هذا الإجراء على الفور طريقة معقولة لجمع مجموعة بيانات، ولكن قد يؤدي هذا الشكل من جمع البيانات إلى ظهور أشكال التحيز في الاختيار التالية:

  • التحيز في التغطية: من خلال أخذ عيّنات من مجموعة من الأشخاص الذين اختاروا مشاهدة الفيلم، قد لا تعمم توقّعات النموذج على الأشخاص الذين لم يُظهروا هذا المستوى من الاهتمام بالفيلم.
  • التحيز في جمع العيّنات: بدلاً من جمع عيّنات عشوائية من المجموعة المستهدَفة (جميع الأشخاص في الفيلم)، جمعت عيّنات من الأشخاص في الصف الأمامي فقط. من المحتمل أنّ الأشخاص الجالسين في الصف الأمامي كانوا أكثر اهتمامًا بالفيلم مقارنةً بأولئك الجالسين في الصفوف الأخرى.
  • التحيز الناتج عن عدم الردّ: بشكل عام، يميل الأشخاص الذين لديهم آراء قوية إلى الردّ على الاستطلاعات الاختيارية بشكلٍ متكرّر أكثر من الأشخاص الذين لديهم آراء معتدلة. بما أنّ استطلاع الأفلام اختياري، من المرجّح أن تشكل الردود توزيعًا ثنائيًا للقيم بدلاً من توزيع طبيعي (على شكل جرس).

سمة حسّاسة

#fairness
سمة بشرية قد تحظى باهتمام خاص لأسباب قانونية أو أخلاقية أو اجتماعية أو شخصية

U

عدم المعرفة (بسمة حسّاسة)

#fairness

حالة تتوفّر فيها السمات الحسّاسة، ولكنّها غير مضمّنة في بيانات التدريب ولأنّ السمات الحسّاسة غالبًا ما تكون مرتبطة بسمات أخرى من بيانات المستخدم، قد يظلّ للنموذج الذي تم تدريبه بدون معرفة بسمة حسّاسة أثره العميق في التأثير غير المتكافئ في ما يتعلّق بهذه السمة، أو قد ينتهك قيود العدالة الأخرى.