انصاف: انواع تعصب

زمان تخمینی: 5 دقیقه

مدل های یادگیری ماشین ذاتاً عینی نیستند. مهندسان مدل‌ها را با تغذیه مجموعه داده‌هایی از نمونه‌های آموزشی به آن‌ها آموزش می‌دهند و مشارکت انسان در تهیه و تنظیم این داده‌ها می‌تواند پیش‌بینی‌های یک مدل را مستعد سوگیری کند.

هنگام ساختن مدل‌ها، مهم است که از سوگیری‌های رایج انسانی که می‌توانند در داده‌های شما آشکار شوند آگاه باشید، بنابراین می‌توانید اقدامات پیشگیرانه‌ای برای کاهش اثرات آنها انجام دهید.

اخطار : فهرست سوگیری‌های زیر فقط مجموعه کوچکی از سوگیری‌ها را ارائه می‌کند که اغلب در مجموعه داده‌های یادگیری ماشین آشکار می‌شوند. در نظر گرفته شده است که این فهرست جامع نباشد . فهرست سوگیری‌های شناختی ویکی‌پدیا بیش از 100 نوع مختلف سوگیری انسانی را برمی‌شمارد که می‌توانند بر قضاوت ما تأثیر بگذارند. هنگام ممیزی داده های خود، باید مراقب همه منابع بالقوه سوگیری باشید که ممکن است پیش بینی های مدل شما را منحرف کند.

سوگیری گزارش

سوگیری گزارش‌دهی زمانی اتفاق می‌افتد که فراوانی رویدادها، ویژگی‌ها و/یا نتایج ثبت‌شده در یک مجموعه داده به‌طور دقیق فرکانس دنیای واقعی آن‌ها را منعکس نمی‌کند. این سوگیری می تواند به این دلیل ایجاد شود که افراد تمایل دارند بر مستندسازی شرایطی تمرکز کنند که غیرعادی یا به خصوص به یاد ماندنی هستند، با این فرض که شرایط عادی می تواند "بی خبر باشد".

مثال : یک مدل تحلیل احساسات برای پیش بینی مثبت یا منفی بودن نقدهای کتاب بر اساس مجموعه ای از ارسالی کاربران به یک وب سایت محبوب آموزش داده شده است. اکثر بررسی‌ها در مجموعه داده‌های آموزشی منعکس‌کننده نظرات افراطی هستند (بازبینی‌کنندگانی که کتابی را دوست داشتند یا از آن متنفر بودند)، زیرا اگر افراد به شدت به آن پاسخ نمی‌دادند، احتمال کمتری داشت که نظری درباره کتاب ارسال کنند. در نتیجه، مدل کمتر قادر به پیش‌بینی درست احساسات نقدهایی است که از زبان ظریف‌تری برای توصیف کتاب استفاده می‌کنند.

تعصب اتوماسیون

سوگیری اتوماسیون تمایل به برتری دادن به نتایج تولید شده توسط سیستم های خودکار نسبت به نتایج تولید شده توسط سیستم های غیر خودکار، صرف نظر از میزان خطای هر کدام است.

مثال : مهندسان نرم‌افزاری که برای یک تولیدکننده چرخ‌دنده کار می‌کردند، مشتاق بودند مدل جدید «پیش‌گامانه» را که برای شناسایی عیوب دندان آموزش داده بودند، به کار گیرند، تا زمانی که سرپرست کارخانه اشاره کرد که دقت مدل و نرخ فراخوان هر دو 15 درصد کمتر از بازرسان انسانی است.

تعصب انتخاب

سوگیری انتخاب زمانی رخ می دهد که نمونه های مجموعه داده به گونه ای انتخاب شوند که منعکس کننده توزیع دنیای واقعی آنها نباشد. سوگیری انتخاب می تواند اشکال مختلفی داشته باشد:

• سوگیری پوشش : داده ها به صورت نماینده انتخاب نشده اند.

مثال : مدلی برای پیش‌بینی فروش آینده یک محصول جدید بر اساس نظرسنجی‌های تلفنی انجام شده با نمونه‌ای از مصرف‌کنندگانی که محصول را خریداری کرده‌اند، آموزش داده می‌شود. مصرف کنندگانی که به جای خرید یک محصول رقیب را انتخاب کردند، مورد بررسی قرار نگرفتند و در نتیجه، این گروه از افراد در داده های آموزشی نشان داده نشدند.

• سوگیری بدون پاسخ (یا سوگیری مشارکت ): داده‌ها به دلیل شکاف‌های مشارکت در فرآیند جمع‌آوری داده‌ها، به‌عنوان غیرنماینده می‌شوند.

مثال : مدلی برای پیش‌بینی فروش آتی یک محصول جدید بر اساس نظرسنجی‌های تلفنی با نمونه‌ای از مصرف‌کنندگانی که محصول را خریده‌اند و با نمونه‌ای از مصرف‌کنندگانی که محصول رقیب را خریداری کرده‌اند، آموزش داده می‌شود. مصرف‌کنندگانی که محصول رقیب را خریداری کرده‌اند، 80 درصد بیشتر از تکمیل نظرسنجی امتناع می‌کنند و داده‌های آن‌ها در نمونه کمتر ارائه شده است.

• سوگیری نمونه گیری : در طول جمع آوری داده ها از تصادفی سازی مناسب استفاده نمی شود.

مثال : مدلی برای پیش‌بینی فروش آتی یک محصول جدید بر اساس نظرسنجی‌های تلفنی با نمونه‌ای از مصرف‌کنندگانی که محصول را خریده‌اند و با نمونه‌ای از مصرف‌کنندگانی که محصول رقیب را خریداری کرده‌اند، آموزش داده می‌شود. به جای هدف قرار دادن تصادفی مصرف کنندگان، نظرسنجی 200 مصرف کننده اول را انتخاب کرد که به یک ایمیل پاسخ دادند، که ممکن بود نسبت به خریداران معمولی مشتاق تر از محصول باشند.

سوگیری اسناد گروهی

سوگیری اسناد گروهی تمایل به تعمیم آنچه در مورد افراد صادق است به کل گروهی است که به آن تعلق دارند. دو نشانه اصلی این تعصب عبارتند از:

• تعصب درون گروهی : ترجیحی برای اعضای گروهی که شما نیز به آن تعلق دارید ، یا برای ویژگی هایی که شما نیز به اشتراک می گذارید.

مثال : دو مهندس که یک مدل بررسی رزومه را برای توسعه دهندگان نرم افزار آموزش می دهند، مستعد این هستند که بر این باورند که متقاضیانی که در همان آکادمی علوم کامپیوتر شرکت کرده اند، واجد شرایط بیشتری برای این نقش هستند.

• سوگیری همگنی بیرون گروهی : تمایل به کلیشه سازی اعضای گروهی که به آن تعلق ندارید ، یا اینکه ویژگی های آنها را یکنواخت تر ببینید.

مثال : دو مهندس که یک مدل بررسی رزومه را برای توسعه دهندگان نرم افزار آموزش می دهند، مستعد این هستند که باور کنند همه متقاضیانی که در یک آکادمی علوم کامپیوتر شرکت نکرده اند، تخصص کافی برای این نقش را ندارند.

تعصب ضمنی

سوگیری ضمنی زمانی اتفاق می‌افتد که مفروضاتی بر اساس مدل‌های ذهنی و تجربیات شخصی شخص ساخته می‌شوند که لزوماً کاربرد کلی‌تری ندارند.

مثال : مهندسي كه يك مدل تشخيص حركت را آموزش مي‌دهد، از لرزش سر به عنوان ويژگي براي نشان دادن اينكه فردي در حال برقراري كلمه «نه» است، استفاده مي‌كند. با این حال، در برخی از مناطق جهان، تکان دادن سر در واقع به معنای "بله" است.

یک شکل رایج سوگیری ضمنی، سوگیری تایید است، که در آن سازندگان مدل ناخودآگاه داده‌ها را به روش‌هایی پردازش می‌کنند که باورها و فرضیه‌های از پیش موجود را تایید می‌کنند. در برخی موارد، یک سازنده مدل ممکن است واقعاً به آموزش یک مدل ادامه دهد تا زمانی که نتیجه ای ایجاد کند که با فرضیه اصلی آنها همسو باشد. به این تعصب آزمایشگر می گویند .

مثال : یک مهندس در حال ساخت مدلی است که تهاجمی بودن سگ ها را بر اساس ویژگی های مختلف (قد، وزن، نژاد، محیط) پیش بینی می کند. این مهندس در کودکی با یک سگ پودل اسباب بازی بیش فعال برخورد ناخوشایندی داشت و از آن زمان این نژاد را با پرخاشگری مرتبط دانست. وقتی مدل آموزش‌دیده پیش‌بینی کرد که بیشتر پودل‌های اسباب‌بازی نسبتا مطیع هستند، مهندس مدل را چندین بار دیگر آموزش داد تا نتیجه‌ای که نشان می‌دهد پودل‌های کوچک‌تر خشن‌تر هستند.

شرایط کلیدی

تعصب اتوماسیون	سوگیری تایید
سوگیری پوشش	تعصب آزمایشگر
تعصب درون گروهی	سوگیری اسناد گروهی
سوگیری ضمنی	سوگیری بدون پاسخ
سوگیری همگنی برون گروهی	سوگیری گزارش
سوگیری نمونه گیری	سوگیری انتخاب