مسرد مصطلحات التعلم الآلي: الإنصاف

تحتوي هذه الصفحة على مسرد مصطلحات الإنصاف. للاطّلاع على جميع مصطلحات مسرد المصطلحات، انقر هنا.

جيم

تحديد مصدر

#fairness

مرادف feature.

في الإنصاف في التعلم الآلي، غالبًا ما تشير السمات إلى الخصائص المتعلقة بالأفراد.

الانحياز في التشغيل الآلي

#fairness

عندما يفضّل صانع القرار البشري الاقتراحات التي يقدّمها نظام آلي لاتخاذ القرارات على المعلومات التي يتم تقديمها بدون التشغيل الآلي، حتى عندما يرتكب نظام اتخاذ القرارات الآلي أخطاءً.

B

التحيز (الأخلاق/الإنصاف)

#fairness
#fundamentals

1- الصور النمطية أو التحيز أو المحسوبية تجاه بعض الأشياء أو الأشخاص أو المجموعات على الآخرين. يمكن أن تؤثر هذه التحيزات على جمع وتفسير البيانات، وتصميم النظام، وكيفية تفاعل المستخدمين مع النظام. تشمل أشكال هذا النوع من التحيز ما يلي:

2. يشير ذلك المصطلح إلى خطأ تنظيمي ناتج عن أحد إجراءات أخذ العينات أو الإبلاغ. تشمل أشكال هذا النوع من التحيز ما يلي:

يجب عدم الخلط بينه وبين مصطلح التحيز في نماذج تعلُّم الآلة أو انحياز التوقّعات.

C

الانحياز التأكيدي

#fairness

الميل للبحث عن المعلومات وتفسيرها وتفضيلها وتذكرها بطريقة تؤكد صحة المعتقدات أو فرضيات الشخص الموجودة مسبقًا. قد يجمع مطورو التعلم الآلي البيانات أو يصنفونها بدون قصد بطرق تؤثر على نتيجة تدعم معتقداتهم الحالية. الانحياز التأكيدي هو شكل من أشكال الانحياز الضمني.

انحياز المجرّب هو شكل من أشكال الانحياز التأكيدي الذي يستمر فيه المُجرّب في تدريب النماذج حتى يتم تأكيد فرضية موجودة مسبقًا.

العدالة المغايرة

#fairness

مقياس الإنصاف الذي يتحقّق مما إذا كان المصنِّف سينتج عن شخص واحد النتيجة نفسها التي ينتج عنها شخص آخر مطابق للأول، باستثناء ما يتعلّق بواحدة أو أكثر من السمات الحسّاسة. يعد تقييم المصنف من أجل الإنصاف المغاير إحدى طرق إظهار مصادر التحيز المحتملة في النموذج.

يمكنك الاطّلاع على صفحة " When Worlds Collide: Integating Differentivesمقابلات ضِمن الإنصاف" للاطّلاع على مناقشة أكثر تفصيلاً حول مبدأ الإنصاف المغاير.

انحياز في التغطية

#fairness

يُرجى الاطّلاع على الانحياز في الاختيار.

D

التكافؤ الديموغرافي

#fairness

مقياس إنصاف يتم استيفاؤه إذا كانت نتائج تصنيف النموذج غير معتمدة على سمة حساسة محدّدة.

على سبيل المثال، إذا تقدّم كلّ من الليلبوتيين والبروبادنغناجيين بطلب الالتحاق بجامعة غلوبدوبدريب، يتم تحقيق التكافؤ الديموغرافي إذا كانت نسبة الليلبوتيين المقبولين هي نفسها النسبة المئوية للبروبديناجينا، بغض النظر عما إذا كانت إحدى المجموعتين في المتوسط أكثر تأهلاً من الأخرى.

تتباين مع الاحتمالات المتساوية ومساواة الفرص، التي تسمح للتصنيف الناتج بالاعتماد بشكل عام بالاعتماد على السمات الحساسة، ولكنه لا يسمح لنتائج التصنيف بتصنيفات معيّنة محدّدة من تصنيفات الحقيقة الأساسية والتي تعتمد على السمات الحساسة. راجِع القسم "الهجمات على التمييز باستخدام تعلُّم الآلة الأكثر ذكاءً" للاطّلاع على عرض مرئي يستكشف المفاضلات عند التحسين من أجل تحقيق التكافؤ الديموغرافي.

تأثير متباين

#fairness

اتخاذ قرارات بشأن الأشخاص الذين يؤثرون في مجموعات فرعية مختلفة بشكل غير متناسب. يشير هذا عادةً إلى المواقف التي تضر فيها عملية اتخاذ القرار الخوارزمية بعض المجموعات الفرعية أو تستفيد منها أكثر من غيرها.

على سبيل المثال، لنفترض أن الخوارزمية التي تحدد أهلية الأشخاص في "ليليبوت" للحصول على قرض منزلي مصغر، من المرجح أن تصنفه على أنه "غير مؤهل" إذا كان عنوانه البريدي يحتوي على رمز بريدي معين. إذا كان من المرجح أن يكون لدى Big-Endian Lilliputians عناوين بريدية بهذا الرمز البريدي أكثر من Little-Endian Lilliputians، قد تؤدي هذه الخوارزمية إلى تأثير متباين.

على عكس العلاج المتباين الذي يركز على الفروقات التي تنتج عندما تكون خصائص المجموعة الفرعية مدخلات صريحة لعملية اتخاذ القرار الخوارزمية.

العلاج المنفصل

#fairness

تحليل السمات الحساسة للموضوعات في عملية اتخاذ قرار خوارزمية بحيث يتم التعامل مع المجموعات الفرعية المختلفة من الأشخاص بشكل مختلف.

على سبيل المثال، ضع في اعتبارك خوارزمية تحدد أهلية Lilliputians للحصول على قرض منزل مصغّر بناءً على البيانات التي يقدمونها في طلب القروض. إذا استخدمت الخوارزمية ارتباطًا ليليبوتي باعتباره Big-Endian أو Little-Endian كمدخل، فإنها تطبق معاملة متباينة على هذا البعد.

على عكس التأثير المتباين الذي يركز على الفروق في التأثيرات المجتمعية للقرارات الخوارزمية على المجموعات الفرعية، بغض النظر عما إذا كانت هذه المجموعات الفرعية مدخلات للنموذج.

E

تكافؤ الفرص

#fairness

مقياس الإنصاف لتقييم ما إذا كان النموذج يتوقّع النتيجة المرجوة بشكل متساوٍ لجميع قيم السمة الحسّاسة بعبارة أخرى، إذا كانت النتيجة المنشودة للنموذج هي الفئة الإيجابية، يكون الهدف هو أن يكون المعدّل الإيجابي الصحيح هو نفسه لجميع المجموعات.

ترتبط مساواة الفرص بالاحتمالات المتساوية، ما يتطلّب أن يكون كلّ من المعدلات الموجبة الصحيحة والنسب الموجبة الخاطئة متماثلة في جميع المجموعات.

لنفترض أن جامعة غلوبدوبدريب تمنح كل من ليليبوتيبان و بروبدينانغيان برنامجًا صارمًا في الرياضيات. تقدم مدارس Lilliputians منهجًا قويًا لدروس الرياضيات، والغالبية العظمى من الطلاب مؤهلون لبرنامج الجامعة. لا تقدم المدارس الثانوية في Brobdingnagians دروسًا في الرياضيات على الإطلاق، ونتيجةً لذلك، عدد أقل بكثير من الطلاب مؤهلون. تُكتسَب فرص المساواة في الحصول على التصنيف المفضّل "المقبول" في ما يتعلّق بالجنسية (Lilliputian أو Brobdingnagian) إذا كان من المرجّح أن يتم قبول الطلاب المؤهّلين بشكل متساوٍ بغض النظر عمّا إذا كانوا من أبناء ليليبوتي (Lilliputian) أو Brobdingnagian.

على سبيل المثال، لنفترض أنّ 100 من ليليبوت و100 من بروبدينجناجيين قدّموا طلبًا للانضمام إلى جامعة غلوبدوبدريب، وتم اتخاذ قرارات القبول على النحو التالي:

الجدول 1. المتقدمون من Lilliputian (%90 مؤهلون)

  مؤهَّل غير معرَّف
مسموح بالانضمام 45 3
تم الرفض 45 7
المجموع 90 10
النسبة المئوية للطلاب المؤهلين: 45/90 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 7/10 = 70%
النسبة المئوية الإجمالية للطلاب من ليليبوتو الملتحقين: (45+3)/100 = 48%

 

الجدول 2. المتقدمون للانضمام إلى Brobdingnagian (%10 مؤهلون):

  مؤهَّل غير معرَّف
مسموح بالانضمام 5 9
تم الرفض 5 81
المجموع 10 90
النسبة المئوية للطلاب المؤهلين: 5/10 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 81/90 = 90%
النسبة المئوية الإجمالية للطلاب في بروبينغناgian بهواة: (5+9)/100 = 14%

تُرضي الأمثلة السابقة مساواة الفرصة لقبول الطلاب المؤهلين لأن كل من أعضاء الليليبوتيين المؤهلين وبروbdingnagians المؤهلين لديهما فرصة 50% للقبول.

على الرغم من إرضاء تكافؤ الفرص، إلا أن مقياسي الإنصاف التاليين غير راضين:

  • التكافؤ السكاني: يكون الالتحاق للطلاب ليلبوتيون وطلاب بروبديناجينايا المُسجَّلين بمختلف معدّلات الالتحاق، حيث يُسمح للدراسة بنسبة 48% من طلاب ليليبوتيان، لكن يُسمح فقط بنسبة% 14 من طلاب بروبينغناجيا للطلاب.
  • احتمالات متساوية: مع أنّ طلاب ليليبوت وطلاب بروبدينجناجيين المؤهَّلين لديهما الفرصة نفسها للقبول، لا راضي عن القيد الإضافي الذي يقضي برفض الطلاب غير المؤهَّلين من طلاب الليليبيين وغير المؤهَّلين. يبلغ معدّل رفض الأشخاص غير المؤهَّلين% 70، في حين أنّ معدّل رفض أفراد Brobdingnagis غير المؤهَّلين% 90.

يمكنك مراجعة المقالة بعنوان "مساواة الفرص في التعلُّم الخاضع للإشراف" للحصول على مناقشة أكثر تفصيلاً حول تكافؤ الفرص. انظر أيضًا "المهاجمة على التمييز باستخدام تعلُّم الآلة الأكثر ذكاءً" للاطّلاع على عرض مرئي يستكشف المفاضلات عند التحسين من أجل تحقيق تكافؤ الفرص.

احتمالات متساوية

#fairness

يشير ذلك المصطلح إلى مقياس إنصاف يتيح لك تقييم ما إذا كان النموذج يتنبأ بنتائج متساوية في جميع قيم السمة الحسّاسة، مع مراعاة كل من الفئة الإيجابية والفئة السلبية، وليس فئة واحدة فقط أو الأخرى فقط. بعبارة أخرى، يجب أن يكون كلّ من معدّل الموجبة الصحيح ومعدّل السالب غير الصحيح متطابقَين في جميع المجموعات.

ترتبط الاحتمالات المتساوية بمساواة الفرص، التي تركز فقط على معدلات الخطأ لفئة واحدة (إيجابية أو سالبة).

على سبيل المثال، افترض أن جامعة غلوبدوبدريب تمنح كل من ليليبوتيبان وبروبدينغاينز برنامجًا صارمًا في الرياضيات. تقدم مدارس Lilliputians الثانوية منهجًا قويًا لدروس الرياضيات، والغالبية العظمى من الطلاب مؤهلون لبرنامج الجامعة. لا تقدم المدارس الثانوية في مدرسة Brobdingnagians الثانوية دروسًا في الرياضيات على الإطلاق، ونتيجةً لذلك، عدد أقل بكثير من طلابها مؤهلين. تتوفر احتمالات متساوية شريطة أنه لا يهم ما إذا كان مقدم الطلب هو من أقوى المشاركين في الليل أو بروبدينجناجي، وإذا كان مؤهلاً، فمن المرجح أن يتم قبوله في البرنامج بشكل متساوٍ، وإذا لم يكن مؤهلاً، فمن المرجح أن يتم رفضه.

لنفترض أنّ 100 من مواطني ليليبوت و100 من مواطني بربادنغناجي قدّموا طلبًا إلى جامعة غلوبدوبدريب، ويتم اتخاذ قرارات القبول على النحو التالي:

الجدول 3. المتقدمون من Lilliputian (%90 مؤهلون)

  مؤهَّل غير معرَّف
مسموح بالانضمام 45 2
تم الرفض 45 8
المجموع 90 10
النسبة المئوية للطلاب المؤهلين: 45/90 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 8/10 = 80%
إجمالي النسبة المئوية للطلاب من ليليبوتي (2+2)/100 = 47%

 

الجدول 4. المتقدمون للانضمام إلى Brobdingnagian (%10 مؤهلون):

  مؤهَّل غير معرَّف
مسموح بالانضمام 5 18
تم الرفض 5 72
المجموع 10 90
النسبة المئوية للطلاب المؤهلين: 5/10 = 50%
النسبة المئوية للطلاب غير المؤهَّلين الذين تم رفضهم: 72/90 = 80%
النسبة المئوية الإجمالية للطلاب في مدرسة Brobdingnagian المقبولين: (5+18)/100 = 23%

تحظى باحتمالات متساوية لأن طلاب ليليبوت وبروبدينجناجيان المؤهلين لديهما فرصة 50% للقبول، بينما حصل طلاب ليليبوت وبروبدينجناجيان غير المؤهلين على فرصة بنسبة 80% للرفض.

يتم تعريف الاحتمالات المتساوية رسميًا في "تكافؤ الفرص في التعلُّم الخاضع للإشراف" على النحو التالي: "يفي المتنبئ بالفرص المتساوية في ما يتعلق بالسمة المحمية A والنتيجة ص إذا كان كل من الأمام و"أ" مستقلَّين، مشروطين حسب المعيار ص".

انحياز المجرّب

#fairness

يُرجى الاطّلاع على الانحياز التأكيدي.

F

قيد الإنصاف

#fairness
تطبيق قيد على خوارزمية لضمان الرضا عن تعريف واحد أو أكثر للإنصاف. تشمل أمثلة قيود الإنصاف ما يلي:

مقياس الإنصاف

#fairness

تعريف رياضي لمصطلح "الإنصاف" يمكن قياسه. تتضمن بعض مقاييس الإنصاف الشائعة الاستخدام ما يلي:

إنّ العديد من مقاييس الإنصاف تكون متعارضة. يُرجى الاطّلاع على المقالة عدم توافق مقاييس الإنصاف.

G

الانحياز في تحديد المصدر على مستوى المجموعة

#fairness

إذا افترضنا أنّ ما ينطبق على الفرد ينطبق أيضًا على كل شخص في تلك المجموعة. يمكن أن تتفاقم آثار الانحياز لتحديد المصدر على مستوى المجموعة في حال استخدام عيّنة ملائمة لجمع البيانات. في عينة غير تمثيلية، قد يتم ذكر السمات التي لا تعكس الواقع.

اطّلِع أيضًا على الانحياز التشابه خارج المجموعة والانحياز داخل المجموعة.

H

تحيز تاريخي

#fairness

نوع من التحيز موجود حاليًا في العالم وتم تحويله إلى مجموعة بيانات. تميل هذه التحيزات إلى إظهار الصور النمطية الثقافية الموجودة وعدم المساواة الديموغرافية والتحيزات ضد بعض المجموعات الاجتماعية.

على سبيل المثال، انظر إلى نموذج تصنيف يتنبأ بما إذا كان مقدم طلب القروض سيتخلف عن سداد قرضه أم لا، والذي تم تدريبه على البيانات السابقة للتخلف عن القروض من ثمانينيات القرن الماضي من مصارف محلية في مجتمعين مختلفين. إذا كان المتقدّمون السابقون من المنتدى "أ" يزيد احتمال تخلفهم عن سداد قروضهم بست مرات مقارنةً بالمتقدمين من المجتمع "ب"، فقد يتعلم النموذج تحيزًا تاريخيًا يؤدي إلى تقليل احتمالية موافقة النموذج على القروض في المنتدى أ، حتى لو لم تعد الظروف التاريخية التي أدت إلى المعدلات الأعلى لمعدلات التخلف عن ذلك المجتمع ذات صلة بعد الآن.

I

انحياز ضمني

#fairness

القيام تلقائيًا بارتباط أو افتراض بناءً على نماذج عقلية وذكريات الشخص. يمكن أن يؤثر التحيز الضمني على ما يلي:

  • كيفية جمع البيانات وتصنيفها.
  • كيف يتم تصميم وتطوير أنظمة التعلم الآلي.

على سبيل المثال، عند إنشاء مصنِّف لتحديد صور الزفاف، قد يستخدم المهندس وجود فستان أبيض في الصورة كميزة. ومع ذلك، كانت الفساتين البيضاء معتادة فقط خلال عصور معيّنة وفي ثقافات معيّنة.

يمكنك أيضًا الاطّلاع على الانحياز التأكيدي.

عدم توافق مقاييس الإنصاف

#fairness

فكرة أن بعض مفاهيم الإنصاف غير متوافقة مع الآخرين ولا يمكن تلبيتها في وقت واحد. نتيجةً لذلك، لا يتوفّر مقياس عام واحد يمكن تطبيقه على جميع مشاكل تعلُّم الآلة.

على الرغم من أن هذا قد يبدو محبطًا، إلا أن عدم التوافق مع مقاييس الإنصاف لا يعني أن جهود الإنصاف غير مجدية. بدلاً من ذلك، تشير إلى ضرورة تعريف الإنصاف حسب السياق لمشكلة معيّنة في تعلُّم الآلة، بهدف منع الأضرار المتعلّقة بحالات الاستخدام الخاصة بها.

راجِع القسم "حول (im)احتمال الإنصاف" للحصول على مناقشة أكثر تفصيلاً لهذا الموضوع.

العدالة الفردية

#fairness

مقياس إنصاف يتحقق مما إذا كان يتم تصنيف الأفراد المتشابهين بشكل مشابه. على سبيل المثال، قد ترغب أكاديمية Brobdingnagian في تحقيق الإنصاف الفردي من خلال ضمان حصول طالبين ذوي درجات متطابقة ودرجات اختبار موحّدة على احتمال القبول بهما.

تجدر الإشارة إلى أن الإنصاف الفردي يعتمد بالكامل على كيفية تعريفك لمصطلح "التشابه" (في هذه الحالة، الدرجات ونتائج الاختبارات)، وقد تواجه خطر إدخال مشاكل إنصاف جديدة إذا كان مقياس التشابه لديك يفتقد إلى معلومات مهمة (مثل دقة المنهج الدراسي للطالب).

راجع مقالة "الإنصاف من خلال الوعي" للحصول على مناقشة أكثر تفصيلاً حول الإنصاف الفردي.

الانحياز داخل المجموعة

#fairness

إظهار التحيز لمجموعة شخص ما أو سماته الخاصة. إذا كان المختبِرون أو المصنِّفون يتألفون من أصدقاء مطوّر برامج تعلُّم الآلة أو عائلته أو زملائه، قد يؤدي الانحياز داخل المجموعة إلى إبطال صلاحية اختبار المنتج أو مجموعة البيانات.

الانحياز داخل المجموعة هو شكل من أشكال الانحياز في تحديد المصدر للمجموعة. اطّلِع أيضًا على الانحياز للتشابه خارج المجموعة.

N

انحياز عدم الاستجابة

#fairness

يُرجى الاطّلاع على الانحياز في الاختيار.

O

الانحياز للتشابه خارج المجموعة

#fairness

الميل إلى رؤية أعضاء خارج المجموعة على نحو أكثر تشابهًا من الأعضاء داخل المجموعة عند مقارنة المواقف والقيم والسمات الشخصية والخصائص الأخرى. داخل المجموعة: يشير إلى الأشخاص الذين تتفاعل معهم بانتظام، وخارج المجموعة يشير إلى الأشخاص الذين لا تتفاعل معهم بانتظام. إذا أنشأت مجموعة بيانات من خلال مطالبة الأشخاص بتقديم سمات حول خارج المجموعات، فقد تكون هذه السمات أقل دقة وأكثر نمطية من السمات التي يدرجها المشاركون للأشخاص في مجموعتهم.

على سبيل المثال، قد يصف ليلبونيات المياه منازل ليليبوتي الأخرى بتفصيل كبير، مشيرين إلى الاختلافات الطفيفة في الأنماط المعمارية والنوافذ والأبواب والأحجام. ومع ذلك، قد يعلن نفسهم الليلبوتيين ببساطة أن جميع أفراد العائلة يعيشون في منازل متطابقة.

إنّ الانحياز في التجانس خارج المجموعة هو شكل من أشكال الانحياز في تحديد المصدر على مستوى المجموعة.

راجِع أيضًا الانحياز داخل المجموعة.

P

الانحياز في المشاركة

#fairness

مرادف لتحيز عدم الاستجابة. يُرجى الاطّلاع على الانحياز في الاختيار.

مرحلة ما بعد المعالجة

#fairness
#fundamentals

ضبط مخرجات نموذج بعد تشغيل النموذج. يمكن استخدام مرحلة ما بعد المعالجة لفرض قيود الإنصاف بدون تعديل النماذج نفسها.

على سبيل المثال، يمكن تطبيق المعالجة اللاحقة على المصنِّف الثنائي من خلال ضبط حدّ تصنيف ليتم الحفاظ على مساواة الفرص في بعض السمات من خلال التحقّق من أنّ المعدّل الموجبة الصحيح هو نفسه لجميع قيم تلك السمة.

التكافؤ التنبؤي

#fairness

مقياس الإنصاف الذي يتحقّق ممّا إذا كانت معدلات الدقة، بالنسبة لمصنِّف معيّن، مكافئة للمجموعات الفرعية المعنية.

على سبيل المثال، النموذج الذي يتوقع أن يُرضي قبول الجامعة من أجل التكافؤ التنبؤي للجنسية إذا كان معدل دقته هو ذاته بالنسبة إلى لليبوتيان وبروبديناغناغيان.

ويُطلق في بعض الأحيان على التكافؤ التنبؤي أيضًا تكافؤ المعدل التنبؤي.

راجع "شرح تعريفات الإنصاف" (القسم 3.2.1) للحصول على مناقشة أكثر تفصيلاً للتكافؤ التنبؤي.

تكافؤ المعدّل التنبؤي

#fairness

اسم آخر للتكافؤ التنبؤي.

المعالجة المسبقة

#fairness
تتم معالجة البيانات قبل استخدامها في تدريب أحد النماذج. يمكن أن تكون المعالجة المسبقة بسيطة مثل إزالة كلمات من مجموعة نص إنجليزي لا تظهر في القاموس الإنجليزي أو قد تكون معقدة مثل إعادة التعبير عن نقاط البيانات بطريقة تؤدي إلى إزالة أكبر عدد ممكن من السمات المرتبطة بالسمات الحساسة. يمكن أن تساعد المعالجة المسبقة على استيفاء قيود الإنصاف.

الوكيل (سمات حساسة)

#fairness
تمثّل هذه السمة سمة يتم استخدامها كعنصر بديل لسمة حسّاسة. على سبيل المثال، قد يتم استخدام الرمز البريدي للفرد كوكيل لدخله أو عِرقه أو انتمائه الإثني.

R

الانحياز في إعداد التقارير

#fairness

حقيقة أن التكرار الذي يكتب به الأشخاص عن الإجراءات أو النتائج أو الخصائص لا يعكس تردداتهم في العالم الحقيقي أو درجة سمة إحدى الخصائص لفئة من الأفراد. يمكن أن يؤثر التحيز في إعداد التقارير في تكوين البيانات التي تتعلم منها أنظمة التعلم الآلي.

على سبيل المثال، في الكتب، تكون كلمة ضحك أكثر شيوعًا من تنفس. من المحتمل أن يحدد نموذج التعلم الآلي الذي يقدر المعدل النسبي للضحك والتنفس من مجموعة الكتب أن الضحك أكثر شيوعًا من التنفس.

S

تحيز أخذ العينات

#fairness

يُرجى الاطّلاع على الانحياز في الاختيار.

الانحياز في الاختيار

#fairness

يشير ذلك المصطلح إلى الأخطاء في الاستنتاجات المستخلصة من عيّنات من البيانات بسبب عملية اختيار تؤدي إلى إنشاء اختلافات منهجية بين العينات المرصودة في البيانات وتلك التي لم تتم ملاحظتها. توجد الأشكال التالية من تحيز الاختيار:

  • الانحياز في التغطية: لا تتطابق مجموعة السكان الممثَّلة في مجموعة البيانات مع المجتمع الإحصائي الذي يقدّم نموذج تعلُّم الآلة توقّعات بشأنه.
  • الانحياز في أخذ العينات: لا يتم جمع البيانات بشكل عشوائي من المجموعة المستهدفة.
  • الانحياز لعدم الاستجابة (يسمى أيضًا انحياز المشاركة): المستخدمون من مجموعات معيّنة يوقفون الاستطلاعات بمعدلات مختلفة عن المستخدمين من مجموعات أخرى.

على سبيل المثال، لنفترض أنك تقوم بإنشاء نموذج تعلم آلي يتنبأ باستمتاع الأشخاص بفيلم. لجمع بيانات التدريب، يمكنك توزيع استبيان على كل شخص في الصف الأمامي من المسرح الذي يعرض الفيلم. بشكل عرَضي، قد يبدو هذا طريقة معقولة لجمع مجموعة بيانات؛ ومع ذلك، قد يقدم هذا النوع من جمع البيانات الأشكال التالية من تحيز الاختيار:

  • الانحياز في التغطية: من خلال أخذ عيّنات من السكان الذين اختاروا مشاهدة الفيلم، قد لا يتم تعميم توقّعات نموذجك على الأشخاص الذين لم يعبّروا من قبل عن هذا المستوى من الاهتمام بالفيلم.
  • التحيز في أخذ العينات: بدلاً من أخذ عينات عشوائية من المجتمع المقصود (جميع الأشخاص في الفيلم)، قمت بأخذ عينة فقط من الأشخاص في الصف الأمامي. من الممكن أن يكون الأشخاص الذين يجلسون في الصف الأمامي أكثر اهتمامًا بالفيلم من أولئك الموجودين في صفوف أخرى.
  • التحيز لعدم الاستجابة: بشكل عام، يميل الأشخاص ذوو الآراء القوية إلى الرد على الاستبيانات الاختيارية بشكل متكرر أكثر من الأشخاص الذين لديهم آراء معتدلة. بما أنّ الاستطلاع حول الفيلم اختياري، من المرجّح أن تشكل الردود توزيعًا ثنائي الاتجاه مقارنةً بالتوزيع العادي (على شكل جرس).

سمة حساسة

#fairness
سمة بشرية قد تُعطى مراعاة خاصة لأسباب قانونية أو أخلاقية أو اجتماعية أو شخصية.

U

عدم الوعي (بسمة حساسة)

#fairness

يشير ذلك المصطلح إلى حالة تتوفّر فيها سمات حسّاسة، ولكن لا يتم تضمينها في بيانات التدريب. بما أنّ السمات الحساسة غالبًا ما ترتبط بسمات أخرى لبيانات الشخص، قد يكون للنموذج الذي تم تدريبه بدون وعي بسمة حساسة تأثيرًا متباينًا في ما يتعلق بهذه السمة، أو قد ينتهك قيود الإنصاف الأخرى.