وليست نماذج تعلُّم الآلة موضوعية بطبيعتها. يعمل المهندسون على تدريب النماذج من خلال تزويدهم بمجموعة بيانات أمثلة للتدريب، كما أنّ تفاعل البشر في توفير هذه البيانات وتنظيمها يؤدي إلى جعل توقّعات النموذج عرضة للانحياز.
عند إنشاء نماذج، من المهم أن تكون على دراية بالتحيزات البشرية الشائعة التي يمكن أن تظهر في بياناتك، حتى تتمكن من اتخاذ خطوات استباقية للحد من تأثيراتها.
انحياز إعداد التقارير
يحدث الانحياز في إعداد التقارير عندما لا يعكس معدل تكرار الأحداث و/أو النتائج و/أو النتائج
التي تم التقاطها في مجموعة بيانات بدقة معدل التكرار الفعلي. يمكن أن يحدث هذا الانحياز لأنّ الأشخاص يميلون إلى التركيز على توثيق الظروف غير الاعتيادية أو التي لا تُنسى على وجه الخصوص، بافتراض أنّ الأشخاص العاديين يمكنهم تقليدها بدون قولها.
انحياز التشغيل التلقائي
تميل انحياز التشغيل المبرمَج إلى تفضيل النتائج التي تُنشئها الأنظمة الآلية عن تلك التي تنشئها الأنظمة غير المبرمَجة، بغض النظر عن معدلات الأخطاء لكلٍّ منها.
انحياز الاختيار
يحدث انحياز الاختيار إذا تم اختيار أمثلة لمجموعة بيانات بطريقة لا تعكس التوزيع الفعلي. يمكن أن يتخذ انحياز الاختيار العديد من الأشكال المختلفة:
انحياز التغطية: لا يتم اختيار البيانات بطريقة تمثيلية.
الانحياز بدون ردّ (أو انحياز المشاركة: تؤدي البيانات إلى عدم تمثيلها بسبب فجوات المشاركة في عملية جمع البيانات.
انحياز العينة: لا يُستخدَم التوزيع العشوائي المناسب أثناء جمع البيانات.
انحياز إحالة المجموعة
يميل انحياز إسناد المجموعة إلى تعميم ما هو صحيح للأفراد في مجموعة بأكملها ينتمون إليها. هناك بيانان رئيسيان لهذا الانحياز:
الانحياز في المجموعة: الخيار المفضّل لأعضاء المجموعة التي تنتمي إليها أيضًا أو الخصائص التي تشاركها أيضًا.
الانحياز مع عدم اتّساق في المجموعة: يشير هذا إلى الميل إلى الصور النمطية لفرد من مجموعة لا تنتمي إليها، أو رؤية خصائصها باعتبارها أكثر اتساقًا.
الانحياز الضمني
يحدث الانحياز الضمني عندما يتم تقديم افتراضات استنادًا إلى نماذج عقلية خاصة وتجارب شخصية
لا تنطبق بالضرورة على نطاق أوسع بشكل عام.
يشكّل الانحياز في التأكيد شكلاً شائعًا من الانحياز الضمني، حيث تعالج أدوات إنشاء النماذج البيانات بدون قصد
بشكل يؤكّد المعتقدات والفرضيات الموجودة مسبقًا. في بعض الحالات، قد تستمر أداة إنشاء النماذج في تدريب النموذج حتى تنتج عنه نتيجة تتوافق مع فرضيته الأصلية، وهذا ما يُطلق عليه انحياز المختبِّر.
