مسرد تعلّم الآلة: العدالة

تحتوي هذه الصفحة على مصطلحات مسرد مصطلحات الإنصاف. للاطّلاع على كل عبارات مسرد المصطلحات، انقر هنا.

A

السمة

#fairness

مرادف feature.

غالبًا ما تشير السمات المتعلقة بنزاهة تعلُّم الآلة إلى السمات التي تخص الأفراد.

الانحياز الآلي

#fairness

عندما يفضّل صانع القرار في التنفيذ الاقتراحات المقدّمة بواسطة نظام آلي لاتخاذ القرارات بدلاً من المعلومات التي يتم إجراؤها بدون التشغيل المبرمَج، حتى عندما يخطئ نظام اتخاذ القرار المبرمَج.

ب

الانحياز (الأخلاقيات/النزاهة)

#fairness
#fundamentals

1- التنميط أو الإعدام أو المحاباة مع بعض الأمور أو الأشخاص أو المجموعات مقارنة بالآخرين يمكن أن يؤثّر هذا الانحياز في جمع البيانات وتفسيرها، وتصميم نظام، وطريقة تفاعل المستخدمين مع النظام. في ما يلي أشكال هذا النوع من الانحياز:

2. خطأ نظامي بسبب إجراء أخذ العينات أو الإبلاغ. في ما يلي أشكال هذا النوع من الانحياز:

يجب عدم الخلط بينه وبين عبارة الانحياز في نماذج تعلُّم الآلة أو انحياز التنبؤ.

ج

الانحياز بهدف التأكيد

#fairness

يشير هذا المصطلح إلى الميل إلى البحث عن المعلومات وتفسيرها وتفضيلها وتذكّرها بطريقة تؤكد صحة معتقدات الشخص أو فرضياته. قد يجمع مطوّرو برامج تعلُّم الآلة البيانات أو يصنّفونها عن غير قصد بطرق تؤثر في نتيجة معيّنة معتقداتهم الحالية. التحيّز للتأكيد هو شكل من أشكال الانحياز الضمني.

يُعدّ انحياز المختبِر شكلاً لانحياز التأكيد حيث يواصل المُختبِر نماذج التدريب إلى أن يتم تأكيد فرضية موجودة مسبقًا.

العدالة الواقعية

#fairness
مقياس الإنصاف الذي يتحقّق مما إذا كان المصنِّف يقدّم النتيجة نفسها لفرد معيّن وينتج عنه شخص آخر مطابق للأول، إلا في ما يتعلق بسمة واحدة أو أكثر من السمات الحساسة. إنّ تقييم مصنِّف للعدالة الواقعية هو أحد الأساليب التي يمكن من خلالها عرض مصادر الانحياز المحتمَلة في النموذج.

اطّلِع على "حالات تعاون العوالم: دمج الافتراضات المختلفة في العدالة" لإجراء مناقشة أكثر تفصيلاً للعدالة الواقعية.

انحياز التغطية

#fairness

يُرجى الاطّلاع على الانحياز في الاختيار.

د

تكافؤ الفئة الديمغرافية

#fairness

مقياس الإنصاف الذي يكون راضيًا إذا كانت نتائج تصنيف النموذج لا تعتمد على سمة حسّاسة مُقدَّمة.

على سبيل المثال، إذا كان كل من الليلبوتيين وبرودينغناجيين ينطبقون على "جامعة غلوبدودراب"، يتم تحقيق التكافؤ بين الفئات الديمغرافية إذا كانت النسبة المئوية للطلّاب الذين سمحوا بذلك هي بنسبة مئوية مختلفة، بغض النظر عمّا إذا كانت إحدى المجموعات أكثر تأهلاً من غيرها أم لا.

قارِن بين احتمالات المساواة والمساواة في الفرصة التي تسمح لنتائج التصنيف بشكل مجمَّع بالاعتماد على السمات الحسّاسة، ولكن لا تسمح بنتائج التصنيف لبعض تصنيفات الحقيقة المحدّدة استنادًا إلى سمات حسّاسة. يمكنك الاطّلاع على "الهجوم على التمييز باستخدام تعلُّم الآلة الذكي" للحصول على تمثيل بصري لاستكشاف المفاضلات عند التحسين لتحقيق تكافؤ الفئة الديمغرافية.

تأثير متباين

#fairness

اتّخاذ قرارات بشأن الأشخاص الذين يؤثرون في المجموعات الفرعية المختلفة بشكل غير متناسب يشير هذا عادةً إلى الحالات التي تؤدي فيها عملية اتخاذ القرار الخوارزمية إلى إلحاق الضرر ببعض المجموعات الفرعية أو الاستفادة منها أكثر من غيرها.

على سبيل المثال، لنفترض أن خوارزمية تحدّد أهلية "ليليبوتيان" لقرض منزل مصغّر من المرجّح أن تصنّفه على أنه "غير مؤهّل" إذا كان العنوان البريدي يحتوي على رمز بريدي محدد. إذا كان من المرجّح أن يكون لدى أعضاء مجموعة "الفنانين النهائيين النهائيين" عناوين بريدية تحمل هذا الرمز البريدي، يمكن أن تؤدي هذه الخوارزمية إلى تأثير مختلف.

قارِن مع المعالجة المتباينة التي تركّز على التناقضات التي تنتج عن خصائص المجموعة الفرعية وهي مدخلات صريحة لعملية خوارزمية لاتخاذ القرار.

معاملة متباينة

#fairness

تضمين السمات الحسّاسة التي تتناولها المواضيع في عملية اتّخاذ قرار خوارزميّة بحيث يتم التعامل مع المجموعات الفرعية المختلفة من الأشخاص بشكل مختلف

على سبيل المثال، يجب مراعاة خوارزمية تحدّد أهلية "ليليبوتيان" للحصول على قرض منزل مصغّر استنادًا إلى البيانات التي يقدّمونها في طلب الحصول على قرض. وإذا كانت الخوارزمية تستخدم علاقة "ليليبوت" باعتبارها Big-Endian أو Little-Endian كإدخال، فإنها تُعامِل معاملة متباينة على هذا البُعد.

تباين التأثير المتباين الذي يركّز على الفوارق في التأثيرات الاجتماعية للقرارات الخوارزمية على المجموعات الفرعية، بغض النظر عمّا إذا كانت هذه المجموعات الفرعية مدخلات إلى النموذج أم لا.

E

تساوي الفرص

#fairness
مقياس الإنصاف الذي يحدّد ما إذا كان بالنسبة إلى تصنيف مفضّل (وهو ما يمنح الأفضلية أو يعود بالفائدة على شخص ما) وسمة معيّنة، يتوقّع المصنِّف هذا التصنيف المفضّل بالتساوي في جميع قيم هذه السمة. بمعنى آخر، تقيس المساواة في الفرص ما إذا كان من المفترض أن يحصل الأشخاص المؤهّلون على فرصة متساوية بغض النظر عن عضويتهم في المجموعة.

على سبيل المثال، لنفترض أنّ "جامعة غلوبدودرب" تعترف بكل من Lilliputian وBrobrdingnagiian في برنامج رياضيات صارم. تقدّم مدارس Liliputputs منهجًا دراسيًا قويًا لدروس الرياضيات، وتُعدّ الغالبية العظمى من الطلاب مؤهّلين للانضمام إلى برنامج الجامعات. لا تقدّم مدارس بربجدناجي الثانوية دروسًا في الرياضيات على الإطلاق، وبالتالي، يكون عدد أقل من طلابهم مؤهلين. يتم تحقيق المساواة من الفرص بالنسبة إلى التصنيف المفضّل "مسموح به" مع احترام الجنسية (الليلبوتية أو بربودنجيان)، إذا كان من المرجّح أن يتم قبول الطلاب المؤهّلين بصرف النظر عمّا إذا كانوا متمرّسين أو برودينغناجي.

على سبيل المثال، لنفترض أنّ 100 شخص من جامعة "ليليبوتيان" و100 من عائلة "بربدينجاجين" ينطبقون على جامعة "غلوبدودرب" ويتم اتخاذ قرارات القبول على النحو التالي:

الجدول 1: مقدّمو الطلبات الليلونيين (90% مؤهّلون)

  مؤهَّل غير معرَّف
تم القبول 45 3
تم الرفض 45 7
المجموع 90 10
النسبة المئوية للطلاب المؤهّلين الذين تم قبولهم: 45/90 = 50%
النسبة المئوية للطلاب غير المؤهلين الذين تم رفضهم: 7/10 = 70%
إجمالي النسبة المئوية للطلّاب الذين وافقوا على الدراسة: (45+3)/100 = 48%

 

الجدول 2: المتقدمون لطلب المواد المالية المعترَض عليها (10% مؤهّلون):

  مؤهَّل غير معرَّف
تم القبول 5 9
تم الرفض 5 81
المجموع 10 90
النسبة المئوية للطلاب المؤهّلين الذين تم قبولهم: 5/10 = 50%
النسبة المئوية للطلّاب غير المؤهّلين الذين تم رفضهم: 81/90 = 90%
إجمالي النسبة المئوية للطلّاب الذين تم قبولهم: (5+9)/100 = 14%

وتستوفي الأمثلة السابقة تكافؤ الفرص لقبول الطلاب المؤهّلين، لأنّ الحديثين والمسؤولين القانونيين في شركة Lilliputian يستفيدون من فرصة بنسبة% 50 للانضمام إلى البرنامج.

اطّلِع على القسم "تكافؤ الفرص في التعلُّم الخاضع للإشراف" للحصول على مناقشة أكثر تفصيلاً عن تكافؤ الفرص. راجِع أيضًا "الهجوم على التمييز باستخدام تعلُّم الآلة الذكي" للاطّلاع على تمثيل بصري لاستكشاف المفاضلات عند التحسين من أجل تحقيق المساواة في الفرصة.

احتمالات مساواة

#fairness
مقياس الإنصاف الذي يتحقّق مما إذا كان المصنِّف لأي تصنيف معيّن أو سمة معيّنة يتوقّع أن يكون هذا التصنيف جيدًا ومساويًا لجميع قيم هذه السمة.

على سبيل المثال، لنفترض أنّ "جامعة غلوبدودرب" تقبل كلاً من الليليوتيين و"برابوديناجيين" للانضمام إلى برنامج رياضيات صارم. تُقدّم مدارس Liliputians منهجًا دراسيًا قويًا لدروس الرياضيات، وتُعد الغالبية العظمى من الطلاب المؤهلين لبرنامج البرنامج الجامعي. لا تقدّم مدارس بربجدناجيات الثانوية دروسًا في الرياضيات على الإطلاق، ونتيجةً لذلك، يكون عدد أقل من طلابهم مؤهلين. وفي حال استيفاء شروط الأهلية، يكون من المرجّح أن يتم قبول طلبات الانضمام إلى البرنامج في حال لم يكن مؤهّلاً للّغة الليبراطورية أو البروبديناجي، على غرار ما إذا كان ذلك الشخص مؤهلاً للانضمام إلى البرنامج.

لنفترض أنّ كل من 100 ليليبوتيون و100 بربودجين يعيشون في جامعة غلوبدودرب يتم اتخاذ قرارات القبول على النحو التالي:

الجدول 3. مقدّمو الطلبات الليلونيين (90% مؤهّلون)

  مؤهَّل غير معرَّف
تم القبول 45 2
تم الرفض 45 8
المجموع 90 10
النسبة المئوية للطلاب المؤهّلين الذين تم قبولهم: 45/90 = 50%
النسبة المئوية للطلّاب غير المؤهلين الذين تم رفضهم: 8/10 = 80%
إجمالي النسبة المئوية للطلّاب الذين وافقوا على الدراسة: (45+2)/100 = 47%

 

الجدول 4: المتقدمون لطلب المواد المالية المعترَض عليها (10% مؤهّلون):

  مؤهَّل غير معرَّف
تم القبول 5 18
تم الرفض 5 72
المجموع 10 90
النسبة المئوية للطلاب المؤهّلين الذين تم قبولهم: 5/10 = 50%
النسبة المئوية للطلّاب غير المؤهّلين الذين تم رفضهم: 72/90 = 80%
إجمالي النسبة المئوية للطلّاب الذين تم قبولهم: 5+18//100 = 23%

ويمكن تحقيق ذلك من خلال الاحتمالات المكافئة، لأنّه يتم السماح لطلّاب ليلينبوتيين وبربديناجي المؤهلين بنسبة %50، بالإضافة إلى أنّه يتم

يتم تحديد احتمالات تساوي هاتين النسبتين رسميًا في "المساواة في فرصة التعلّم الخاضع للإشراف" على النحو التالي: "سائر الفرص تساوي نسبة نِسب المعادلة في ما يتعلّق بالصفة المحمية "أ" و"ص" إذا كانت "أ" و"أ" مستقلة، مشروطة على "ص".

انحياز المجرِّب

#fairness

يُرجى الاطّلاع على انحياز الانحياز.

ج

قيود الإنصاف

#fairness
تطبيق قيود على الخوارزمية لضمان استيفاء تعريفات واحدة أو أكثر للعدالة تشمل أمثلة على قيود الإنصاف ما يلي:

مقياس الإنصاف

#fairness

تعريف رياضي "للعدالة" يمكن قياسه في ما يلي بعض مقاييس الاستخدام العادل:

إنّ العديد من مقاييس النزاهة حصرية، يُرجى مراجعة عدم توافق مقاييس النزاهة.

G

انحياز إحالة المجموعة

#fairness

بافتراض أنّ ما هو صحيح للفرد، يكون أيضًا صحيحًا للجميع في تلك المجموعة. ويمكن أن تتفاقم آثار انحياز إحالة المجموعة إذا تم استخدام أخذ عينات لعينات لجمع البيانات. في العينة التي لا تمثل تمثيلاً، قد يتم إجراء إحالات لا تعكس الواقع.

راجِع أيضًا انحياز الانحياز خارج المجموعة والانحياز داخل المجموعة.

I

الانحياز الضمني

#fairness

الربط أو الافتراض استنادًا إلى نماذج عقلية وذكريات. يمكن أن يؤثر الانحياز الضمني في ما يلي:

  • طريقة جمع البيانات وتصنيفها
  • طريقة تصميم أنظمة تعلُّم الآلة وتطويرها

على سبيل المثال، عند إنشاء مصنِّف لتحديد صور زفاف، قد يستخدم المهندس ظهور ثوب أبيض في صورة كميزة. ومع ذلك، لم تكن الفساتين البيضاء معتادة سوى في عصور معيّنة وفي ثقافات معينة.

يُرجى الاطّلاع أيضًا على الانحياز في التأكيد.

عدم توافق مقاييس الإنصاف

#fairness

إنّ فكرة أنّ بعض مفاهيم العدالة لا تتوافق مع بعضها البعض، ولا يمكن تقديم وصف لها في الوقت نفسه. ونتيجة لذلك، ليس هناك مقياس واحد لتحديد العدالة يمكن تطبيقه على جميع مشاكل تعلُّم الآلة.

على الرغم من أنّ هذا الأمر قد يكون مزعجًا، فإنّ عدم توافق مقاييس العدالة لا يشير ضمنًا إلى أنّ مقاييس العدالة لا جدوى. بدلاً من ذلك، يشير ذلك إلى أنّ مبدأ النزاهة يجب تحديد السياق وفقًا لمشكلة معيّنة في تعلُّم الآلة، وذلك بهدف منع إلحاق الضرر بحالات الاستخدام المعنيّة.

يمكنك الاطّلاع على مقالة "حول إمكانية تحقيق العدالة" للحصول على مناقشة أكثر تفصيلاً حول هذا الموضوع.

العدالة الفردية

#fairness

هو مقياس الإنصاف الذي يتحقّق مما إذا كان قد تم تصنيف أفراد مماثلين على سبيل المثال، قد ترغب "أكاديمية Probdingnagian" في تحقيق العدالة الفردية من خلال ضمان حصول طالبَين يحملان درجات متطابقة ونتائج اختبار موحّدة على القدر نفسه من القبول.

يُرجى العِلم أنّ العدالة الفردية تعتمد بشكل كامل على كيفية تحديد "التشابه" (في هذه الحالة، الدرجات ونتائج الاختبارات)، وقد تخاطر بتقديم مشاكل جديدة متعلّقة بالنزاهة إذا لم يستوفِ مقياس التشابه المعلومات المهمة (مثل صرامة منهج الطالب الدراسي).

اطّلِع على مبدأ "العدالة من خلال الوعي" للحصول على مناقشة أكثر تفصيلاً بشأن العدالة الفردية.

الانحياز في المجموعة

#fairness

عرض جزء من الانتماء إلى مجموعة خاصة أو خصائص خاصة بها. إذا كان المصنّفون أو المصنّفون يتكوّنون من الأصدقاء أو مطوّري البرامج أو الأصدقاء أو مطوّر برامج تعلُّم الآلة، قد يؤدي الانحياز في المجموعة إلى إبطال صلاحية اختبار المنتجات أو مجموعة البيانات.

يشكّل الانحياز في المجموعة شكلاً من أشكال انحياز إسناد المجموعات. راجِع أيضًا انحياز الانحياز خارج المجموعة.

N

انحياز عدم الاستجابة

#fairness

يُرجى الاطّلاع على الانحياز في الاختيار.

O

الانحياز خارج المجموعة

#fairness

تميل إلى رؤية الأعضاء في المجموعة أكثر شبهًا من أعضاء المجموعة عند مقارنة المواقف والقيم وسمات الشخصية وغيرها من الخصائص. تشير داخل المجموعة إلى الأشخاص الذين تتفاعل معهم بانتظام، وخارج المجموعة تشير إلى الأشخاص الذين لا تتفاعل معهم بانتظام. إذا أنشأت مجموعة بيانات من خلال الطلب من المستخدمين تقديم سمات حول المجموعات، قد تكون هذه السمات أقل دقة وطُرق نمطي أكثر من السمات التي يدرجها المشاركون في مجموعاتهم.

على سبيل المثال، قد يصف الليوائيون منازل منازل خاصة أخرى خاصة بالليليبوتيين بالتفصيل، مع ذكر الاختلافات البسيطة في الأنماط المعمارية والنوافذ والأبواب والأحجام. ومع ذلك، قد يصرّح المصريون نفسهم بأنّ "برابوديناجيون" يعيشون في منازل متطابقة.

إنّ الانحياز خارج المجموعة هو شكل من أشكال انحياز إحالة المجموعة.

راجِع أيضًا الانحياز داخل المجموعة.

P

الانحياز للمشاركة

#fairness

مرادف لانحياز عدم الاستجابة. يُرجى الاطّلاع على الانحياز في الاختيار.

ما بعد المعالجة

#fairness
#fundamentals

تعديل مخرجات النموذج بعد تشغيل النموذج. يمكن استخدام إجراءات ما بعد المعالجة لفرض قيود الإنصاف بدون تعديل النماذج بحد ذاتها.

على سبيل المثال، يمكن تطبيق معالجة ما بعد المعالجة على مصنِّف ثنائي من خلال ضبط حدّ تصنيف للحفاظ على تساوي الفرص لسمة معيّنة من خلال التحقّق من أنّ معدل الموجب الصحيح هو نفسه لجميع قيم هذه السمة.

التكافؤ القائم على التوقّعات

#fairness

مقياس الإنصاف الذي يتحقّق مما إذا كانت أسعار المصنِّف المعيّن للدقة مكافئة لمجموعات فرعية قيد النظر.

على سبيل المثال، إنّ النموذج الذي يتوقّع قبول الكلية سيفي بتكافؤ التوقعات للمواطنة إذا كان معدل دقتها هو المستوى نفسه بالنسبة إلى الليليبيين وبرودينغناغيين.

ويُعرف التكافؤ القائمة على التوقّعات أحيانًا باسم تعادل الأسعار القائمة على التوقّعات.

اطّلِع على مقالة "تعريفات عادلة" مشرحة (القسم 3.2.1) لمناقشة أكثر تفصيلاً حول التكافؤ القائم على التوقّعات.

تكافؤ معدّل التوقّعات

#fairness

اسم آخر للتساوي القائم على التوقّعات

المعالجة المُسبَقة

#fairness
معالجة البيانات قبل استخدامها لتدريب نموذج ويمكن أن تكون المعالجة المسبقة بسيطة مثل إزالة كلمات من مجموعة نصوص إنجليزية لا تظهر في القاموس الإنجليزي، أو معقّدة مثل إعادة التعبير عن نقاط البيانات بطريقة تزيل أكبر عدد ممكن من السمات المرتبطة بالسمات الحساسة قدر الإمكان. يمكن أن تساعد المعالجة المُسبَقة في استيفاء قيود الإنصاف.

الخادم الوكيل (السمات الحسّاسة)

#fairness
إنها سمة تُستخدم كحامل للسمة الحساسة. على سبيل المثال، يمكن استخدام الرمز البريدي لشخص معيّن كخادم وكيل لدخله أو عِرقه أو عِرقه.

R

الانحياز لإعداد التقارير

#fairness

أنّ معدّل تكرار كتابة المستخدمين بشأن إجراءات أو مخرجات أو خصائص ليس انعكاسًا لمردّاتهم على أرض الواقع أو الدرجة التي يكون فيها الموقع مميّزًا لفئة من الأفراد. يمكن أن يؤثّر انحياز إعداد التقارير في تركيبة البيانات التي تتعلّم أنظمة تعلُّم الآلة منها.

على سبيل المثال، في الكتب، تكون كلمة ضحك أكثر شيوعًا من نفسه. ومن خلال نموذج تعلُّم الآلة الذي يقدّر معدّل الضحك والتنفّس النسبي من مجموعة الكتب، من المرجّح أن يكون الضحك أكثر شيوعًا من التنفّس.

ح

انحياز في جمع العيّنات

#fairness

يُرجى الاطّلاع على الانحياز في الاختيار.

الانحياز للاختيار

#fairness

أخطاء في الاستنتاجات المستنِدة إلى عينات من البيانات بسبب عملية اختيار تنشأ فيها اختلافات نظامية بين العيّنات التي يتم رصدها في البيانات التي لم يتم رصدها هناك ما يلي من أشكال انحياز الاختيار:

  • انحياز التغطية: لا يتطابق الجمهور المُشار إليه في مجموعة البيانات مع الجمهور الذي يتنبأ به نموذج تعلُّم الآلة.
  • انحياز العيّنات: لا يتم جمع البيانات بشكل عشوائي من المجموعة الهدف.
  • انحياز عدم الاستجابة:

على سبيل المثال، لنفترض أنّك تنشئ نموذجًا لتعلُّم الآلة يتوقّع مدى استمتاع المستخدمين بفيلم. لجمع بيانات التدريب، ستُوزع استطلاعًا للجميع في الصف الأول من مسرح الفيلم. باختصار، قد يبدو هذا طريقة معقولة لجمع مجموعة بيانات، إلا أنّ شكل جمع البيانات هذا قد يؤدي إلى استخدام أشكال الانحياز التالية:

  • انحياز التغطية: من خلال أخذ عيّنة من السكان الذين اختاروا مشاهدة الفيلم، قد لا تكون توقّعات نموذجك عامة للمستخدمين الذين لم يعبّروا عن هذا المستوى من الاهتمام بالفيلم.
  • انحياز في جمع العيّنات: بدلاً من أخذ عينات عشوائيًا من الأشخاص المعنيين (كل الأشخاص في الفيلم)، استخدمت عيّنة من الأشخاص في الصف الأوّل فقط. من المحتمل أن يكون الأشخاص الذين يجلسون في الصف الأمامي مهتمين بالفيلم أكثر من غيرهم في الصفوف الأخرى.
  • بشكل عام، يميل الأشخاص الذين لديهم آراء قوية إلى الردّ على الاستطلاعات الاختيارية أكثر من الأشخاص الذين لديهم آراء خفيفة. ونظرًا لأن استطلاع الفيلم اختياري، من المرجّح أن تشكّل الردود توزيعًا ثنائي الاتجاه من التوزيع العادي (على شكل جرس).

سمة حساسة

#fairness
سمة بشرية قد يتم منحها اعتبارًا خاصًّا لأسباب قانونية أو أخلاقية أو اجتماعية أو شخصية.

U

عدم الوعي (بسمة حساسة)

#fairness

موقف يتضمّن سمات حسّاسة ولكنّه لا يتم تضمينه في بيانات التدريب وبما أنّ السمات الحسّاسة ترتبط غالبًا بسمات أخرى لبيانات الشخص، يمكن أن يبقى النموذج الذي تم تدريبه بدون علم عن سمة حسّاسة تأثيرًا متباينًا في ما يتعلق بهذه السمة، أو ينتهك قيود الإنصاف الأخرى.