الإنصاف: أنواع التحيز

لا تكون نماذج تعلُّم الآلة موضوعية بطبيعتها. يتدرب ممارسو تعلُّم الآلة النماذج من خلال تزويدهم بمجموعة بيانات من أمثلة التدريب، وقد تؤدي مشاركة الإنسان في توفير هذه البيانات وتنظيمها إلى جعل توقّعات النموذج عرضة للانحياز.

عند إنشاء النماذج، من المهم أن تكون على دراية بالتحيّزات البشرية الشائعة التي يمكن أن تظهر في بياناتك، حتى تتمكّن من اتّخاذ خطوات استباقية للحدّ من أثرها.

الانحياز في إعداد التقارير

  • التعريف

    يحدث التحيز في إعداد التقارير عندما لا يعكس عدد مرّات الظهور للأحداث و/أو المواقع و/أو النتائج المسجّلة في مجموعة بيانات بدقة عدد مرّات ظهورها في الواقع. يمكن أن ينشأ هذا الانحياز لأنّ الأشخاص يميلون إلى التركيز على توثيق الظروف التي تتسم بالغرابة أو التي لا يمكن نسيانها، بافتراض أنّه ليس من الضروري تسجيل الأحداث العادية.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يتم تدريب نموذج تحليل المشاعر لتوقّع ما إذا كانت مراجعات الكتب إيجابية أو سلبية استنادًا إلى مجموعة من العينات التي أرسلها المستخدمون إلى موقع إلكتروني شهير. تعكس معظم المراجعات في مجموعة البيانات التدريبية آراء متطرفة (المراجعون الذين إما أحبّوا كتابًا أو كرهوه)، لأنّه من غير المرجّح أن يرسل الأشخاص مراجعة لكتاب إذا لم يتفاعلوا معه بشكل قوي. ونتيجةً لذلك، يقلّ قدرة النموذج على توقّع المشاعر بشكل صحيح في المراجعات التي تستخدم لغة أكثر دقة لوصف الكتاب.

    انقر على chevron_left للحصول على التعريف.

التحيز التاريخي

  • التعريف

    يحدث الانحياز في البيانات السابقة عندما تعكس البيانات السابقة التفاوتات التي كانت موجودة في العالم في ذلك الوقت.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    تحتوي مجموعة بيانات الإسكان في مدينة من ستينيات القرن الماضي على بيانات أسعار المنازل التي تعكس الممارسات التمييزية في الإقراض السارية خلال تلك العقد من الزمن.

    انقر على chevron_left للاطّلاع على التعريف.

تحيز التشغيل الآلي

  • التعريف

    الانحياز إلى التشغيل الآلي هو ميل إلى تفضيل النتائج التي تشكلت من خلال الأنظمة المبرمَجة على تلك التي تشكلت من خلال الأنظمة غير المبرمَجة، بغض النظر عن معدّلات الأخطاء في كلّ منهما.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    كان المتخصّصون في مجال تعلُّم الآلة الذين يعملون لدى إحدى شركات تصنيع الأجهزة المسنّنة حريصين على تطبيق النموذج "الرائد" الجديد الذي درّبوه لتحديد عيوب الأسنان.

    انقر على chevron_left للاطّلاع على التعريف.

الانحياز في الاختيار

يحدث التحيز الاختياري إذا تم اختيار أمثلة مجموعة بيانات بطريقة لا تعكس توزيعها في العالم الحقيقي. يمكن أن يتّخذ تحيز الاختيار أشكالًا مختلفة، بما في ذلك تحيز التغطية وتحيز عدم الاستجابة وتحيز أخذ العيّنات.

انحياز في التغطية

  • التعريف

    يحدث تحيز التغطية إذا لم يتم اختيار البيانات بطريقة تمثيلية.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يتم تدريب نموذج للتنبؤ بمبيعات منتج جديد في المستقبل استنادًا إلى استطلاعات الهاتف التي يتم إجراؤها على عيّنة من المستهلكين الذين اشتروا المنتج. لم يتم استطلاع رأي المستهلكين الذين اختاروا بدلاً من ذلك شراء منتج منافس، وبالتالي لم يتم تمثيل هذه المجموعة من الأشخاص في بيانات التدريب.

    انقر على chevron_left للاطّلاع على التعريف.

انحياز عدم الاستجابة

  • التعريف

    يحدث تحيز عدم الاستجابة (المعروف أيضًا باسم تحيز المشاركة) إذا تبيّن أنّ البيانات غير تمثيلية بسبب الفجوات في المشاركة في عملية جمع البيانات.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يتم تدريب نموذج على توقّع المبيعات المستقبلية لمنتج جديد استنادًا إلى استطلاعات الهاتف التي يتم إجراؤها على عيّنة من المستهلكين الذين اشتروا المنتج وعينة من المستهلكين الذين اشتروا منتجًا مشابهًا له. كان من المرجّح بنسبة ‎80% أن يرفض المستهلكون الذين اشتروا المنتج المنافس إكمال الاستطلاع، ولم يتم تمثيل بياناتهم بشكلٍ جيد في العيّنة.

    انقر على chevron_left للاطّلاع على التعريف.

التحيز في جمع العيّنات

  • التعريف

    يحدث انحياز أخذ العينات في حال عدم استخدام التوزيع العشوائي المناسب أثناء جمع البيانات.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يتم تدريب نموذج على توقّع المبيعات المستقبلية لمنتج جديد استنادًا إلى استطلاعات الهاتف التي يتم إجراؤها على عيّنة من المستهلكين الذين اشتروا المنتج وعينة من المستهلكين الذين اشتروا منتجًا مشابهًا له. وبدلاً من استهداف المستهلكين بشكل عشوائي، اختارت الاستطلاع أول 200 مستهلك ردّوا على رسالة إلكترونية، والذين قد يكونون أكثر حماسًا للمنتج من المشترين العاديين.

    انقر على chevron_left للاطّلاع على التعريف.

تحيز تحديد المصدر للمجموعة

الانحياز في تحديد المصدر إلى المجموعة هو ميل إلى تعميم ما ينطبق على الأفراد على المجموعة بأكملها التي ينتمون إليها. غالبًا ما يظهر تحيز تحديد المصدر بالاستناد إلى المجموعة في الأشكال التالية.

الانحياز لأفراد المجموعة

  • التعريف

    الانحياز للمجموعة هو تفضيل لأعضاء مجموعتك التي تنتمي إليها أيضًا، أو للخصائص التي تشاركها أيضًا.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    اثنان من خبراء تعلُّم الآلة اللذان يُدرِّبان نموذجًا لفحص السيرة الذاتية لأجل المطوّرين البرمجيين يميلان إلى الاعتقاد بأنّ المتقدّمين الذين درسوا في أكاديمية علوم الكمبيوتر نفسها التي درس فيها كلاهما هم أكثر تأهّلاً لهذا الدور.

    انقر على chevron_left للاطّلاع على التعريف.

الانحياز للتشابه خارج المجموعة

  • التعريف

    الانحياز للتشابه خارج المجموعة هو ميل إلى وضع أحكام مسبقة حول أفراد مجموعة لا تنتمي إليها، أو اعتبار خصائصهم أكثر تشابهًا.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يميل اثنان من ممارسي تعلُّم الآلة الذين يدرّبون نموذج فحص السيرة الذاتية لمطوّري البرامج للاعتقاد أنّ جميع المتقدّمين الذين لم يحضروا أي أكاديمية لعلوم الكمبيوتر لا يتمتعون بخبرة كافية لأداء الوظيفة.

    انقر على chevron_left للاطّلاع على التعريف.

التحيز الضمني

  • التعريف

    يحدث الانحياز الضمني عندما يتم وضع الافتراضات استنادًا إلى نموذج تفكير الفرد وتجاربه الشخصية التي لا تنطبق بالضرورة بشكل عام.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يستخدم أحد خبراء تعلُّم الآلة الذي يدرب نموذجًا للتعرّف على الإيماءات هزّة رأس كميزة للإشارة إلى أنّ الشخص يتواصل معك ويستخدم كلمة "لا". ومع ذلك، في بعض مناطق العالم، يشير الهزّ رأسًا إلى cimag

    انقر على chevron_left للحصول على التعريف.

التحيز التأكيدي

  • التعريف

    يحدث التحيز التأكيدي عندما يعالج واضعو النماذج البيانات بشكل غير واعي بطرق تؤكّد المعتقدات والفرضيات المتوفّرة مسبقًا.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يعمل أحد خبراء تعلُّم الآلة على إنشاء نموذج يتنبّأ بالعدوانية لدى الكلاب استنادًا إلى مجموعة متنوعة من السمات (الطول والوزن والسلالة والبيئة). وقد واجه الممارس تعاملًا مزعجًا مع كلب بودل لعبة شديد النشاط عندما كان طفلاً، ومنذ ذلك الحين ربط السلالة بالعدوانية. عند تنظيم بيانات تدريب النموذج، تجاهل الخبير بشكلٍ غير مقصود السمات التي توفّر دليلاً على سهولة تدريب الكلاب الأصغر حجمًا.

    انقر على chevron_left للحصول على التعريف.

تحيز المجرّب

  • التعريف

    يحدث تحيُّز القائم بالتجربة عندما يواصل صانع النموذج تدريب النموذج إلى أن ينتج نتيجة تتوافق مع الفرضية الأصلية.

    انقر على chevron_right للاطّلاع على مثال.

  • مثال

    يبتكر أخصائي تعلُّم الآلة نموذجًا يتوقّع العدوانية في الكلاب بناءً على مجموعة متنوعة من السمات (الطول والوزن والسلالة والبيئة). واجه الخبير تجربة غير سارة مع كلب بودل صغير مفعّل جدًا عندما كان طفلاً، ومنذ ذلك الحين، ربط بين سلالة الكلاب هذه والسلوك العدواني. عندما توقّع النموذج المدّرب أنّ معظم كلاب البودل الصغيرة ستكون مطيعة نسبيًا، أعاد الخبير تدريب النموذج عدة مرات إلى أن أنتج نتيجة تُظهر أنّ الكلاب البودل الأصغر حجمًا أكثر عنفًا.

    انقر على chevron_left للاطّلاع على التعريف.

تمرين: التحقّق من فهمك

أيّ من أنواع التحيز التالية يمكن أن يكون قد ساهم في التوقّعات المنحرفة في نموذج قبول الكلية الموضّح في المقدمة؟
التحيز التاريخي
تم تدريب نموذج القبول على سجلات الطلاب من 20 عامًا الماضية. إذا كان تمثيل الطلاب المنتمين إلى الأقليات غير كافٍ في هذه البيانات، كان من الممكن أن يعيد النموذج إنتاج التفاوتات السابقة نفسها عند إجراء توقّعات بشأن بيانات الطلاب الجديدة.
الانحياز لأفراد المجموعة
تم تدريب نموذج القبول من قِبل طلاب جامعيين حاليين، الذين كان من الممكن أن يكون لديهم تفضيل غير متعمّد لقبول الطلاب الذين ينتمون إلى خلفيات مشابهة لخلفياتهم، ما قد أثّر في طريقة تنظيمهم للبيانات التي تم تدريب النموذج عليها أو هندستها.
الانحياز التأكيدي
تم تدريب نموذج القبول من قِبل طلاب جامعيين حاليين، الذين كان لديهم على الأرجح معتقدات سابقة حول أنواع المؤهّلات المرتبطة بالنجاح في برنامج علوم الكمبيوتر. وكان من الممكن أن ينظّموا البيانات أو يعرضوها عن غير قصد حتى يؤكِّد النموذج هذه المعتقدات الحالية.
الانحياز للاقتراحات الآلية
قد يفسّر التحيز الآلي سبب اختيار لجنة القبول استخدام نموذج تعلُّم آلي لاتخاذ قرارات القبول، إذ قد يكونوا اعتقدوا أنّ النظام الآلي سيحقّق نتائج أفضل من القرارات التي يتّخذها البشر. في المقابل، لا يوفّر انحياز الأساليب أي معلومات مفيدة حول سبب انحراف توقّعات النموذج.
السابق
مقدمة (5 دقائق)
التالي
تحديد التحيز (10 دقائق)