ML এর ইতিবাচক বা নেতিবাচকভাবে অনেক অর্থপূর্ণ উপায়ে সমাজকে রূপান্তরিত করার সম্ভাবনা রয়েছে। আপনার মডেলগুলির নৈতিক প্রভাব এবং তারা যে সিস্টেমগুলির একটি অংশ তা বিবেচনা করা গুরুত্বপূর্ণ৷
আপনার এমএল প্রকল্প সমাজের উপকার করা উচিত.তাদের ক্ষতি করা উচিত নয় বা অপব্যবহারের জন্য সংবেদনশীল হওয়া উচিত নয়। তাদের পক্ষপাত বা কুসংস্কারকে স্থায়ী করা, শক্তিশালী করা বা বাড়িয়ে দেওয়া উচিত নয়। তাদের দায়িত্বজ্ঞানহীনভাবে ব্যক্তিগত তথ্য সংগ্রহ বা ব্যবহার করা উচিত নয়।গুগলের এআই নীতি
Google ML এবং AI অ্যাপ্লিকেশনগুলির বিকাশের পক্ষে যেগুলি তার AI নীতিগুলি মেনে চলে৷ Google এর নীতিগুলি নিম্নলিখিত ধারণাগুলিকে কেন্দ্র করে:
- ন্যায্যতা
- গোপনীয়তা
- স্বচ্ছতা
- নিরাপত্তা
ন্যায্যতা
অন্যায্য পক্ষপাত তৈরি বা শক্তিশালী করা এড়িয়ে চলুন। মডেলগুলি পক্ষপাত প্রদর্শন করে যখন তাদের প্রশিক্ষণের ডেটাতে নিম্নলিখিত কিছু বৈশিষ্ট্য থাকে:
তাদের ব্যবহারকারীদের বাস্তব-বিশ্বের জনসংখ্যাকে প্রতিফলিত করে না।
পক্ষপাতমূলক সিদ্ধান্ত বা ফলাফল সংরক্ষণ করে, উদাহরণস্বরূপ, ফৌজদারি বিচারের সিদ্ধান্ত যেমন কারাগারের সময়।
ব্যবহারকারীদের নির্দিষ্ট গ্রুপের জন্য আরও ভবিষ্যদ্বাণী করার ক্ষমতা সহ বৈশিষ্ট্যগুলি ব্যবহার করে।
পূর্ববর্তী উদাহরণগুলি শুধুমাত্র কিছু উপায়ে মডেলগুলি পক্ষপাতদুষ্ট হয়ে ওঠে৷ আপনার ডেটা পুঙ্খানুপুঙ্খভাবে বোঝা এটিতে থাকা যেকোনো সম্ভাব্য পক্ষপাতগুলিকে উন্মোচন এবং সমাধান করার জন্য গুরুত্বপূর্ণ। ন্যায্য মডেল তৈরির প্রথম ধাপ হল প্রশিক্ষণের ডেটা যাচাই করা যা আপনার ব্যবহারকারীদের বিতরণকে সঠিকভাবে প্রতিফলিত করে। ন্যায্য মডেল তৈরি করতে সাহায্য করার জন্য নিম্নলিখিত আরও অনুশীলনগুলি রয়েছে:
মূল্যায়ন ডেটাসেট বা গোষ্ঠীতে নিম্ন-উপস্থিত গোষ্ঠীগুলি সনাক্ত করুন যা অন্যান্য গোষ্ঠীর তুলনায় খারাপ মডেলের গুণমান অনুভব করতে পারে। প্রশিক্ষণ ডেটাতে তাদের উপস্থিতি বাড়ানোর জন্য আপনাকে আপনার ব্যবহারকারীদের একটি সাবগ্রুপকে ওভারস্যাম্পল করতে হতে পারে।
ন্যায্যতার সমস্যাগুলির বিরুদ্ধে মডেলটিকে যাচাই করতে এবং অন্তর্নিহিত পক্ষপাত সনাক্ত করতে সোনালী ডেটাসেট (বেঞ্চমার্ক ডেটাসেট হিসাবেও পরিচিত) ব্যবহার করুন৷
লিঙ্গ বা জাতিগততার মতো ডেটাসেটে সংবেদনশীল বৈশিষ্ট্যগুলি অন্তর্ভুক্ত করা এড়িয়ে চলুন।
সামান্য অভিজ্ঞতামূলক বা ব্যাখ্যামূলক ক্ষমতা সহ বৈশিষ্ট্যগুলি অন্তর্ভুক্ত করা এড়িয়ে চলুন, তবে বিশেষত সংবেদনশীল প্রেক্ষাপটে যেখানে প্রশিক্ষিত মডেলটি স্বাস্থ্যসেবা, অর্থ, শিক্ষা, কর্মসংস্থান এবং আরও অনেক ক্ষেত্রে উচ্চ-প্রভাবিত কাজগুলি সম্পাদন করতে ব্যবহৃত হয়। উদাহরণস্বরূপ, হোম লোন অনুমোদনের মডেলে, প্রশিক্ষণের ডেটাতে নাম অন্তর্ভুক্ত করবেন না। শুধুমাত্র একজন আবেদনকারীর নাম ভবিষ্যদ্বাণী কাজের জন্যই অপ্রাসঙ্গিক নয়, কিন্তু ডেটাসেটে এমন একটি অপ্রাসঙ্গিক বৈশিষ্ট্য রেখে যাওয়ার ফলেও অন্তর্নিহিত পক্ষপাতিত্ব বা বরাদ্দমূলক ক্ষতির সম্ভাবনা রয়েছে। উদাহরণ স্বরূপ, মডেলটি পুরুষের নামের সাথে ঋণ পরিশোধের উচ্চ সম্ভাবনার সাথে সম্পর্কযুক্ত হতে পারে, বা বিপরীতে।
একটি মডেলের ভবিষ্যদ্বাণী নির্দিষ্ট গোষ্ঠীর উপর হতে পারে সম্ভাব্য প্রতিকূল প্রভাব পরিমাপ করুন, এবং যদি আপনি একটি সংবেদনশীল প্রেক্ষাপটে প্রতিকূল প্রভাব খুঁজে পান তবে ইচ্ছাকৃত পক্ষপাত সংশোধনের কৌশলগুলি বিবেচনা করুন।
গোপনীয়তা
প্রথম থেকেই গোপনীয়তা নকশা নীতিগুলি অন্তর্ভুক্ত করুন।
নিম্নলিখিতগুলি গোপনীয়তা সম্পর্কিত আইন এবং নীতিগুলি সম্পর্কে সচেতন এবং মেনে চলতে হবে:
ব্যক্তিগত ডেটা শেয়ার বা ব্যবহার করার সম্মতির জন্য ইউরোপীয় ইউনিয়নের ডিজিটাল মার্কেটস অ্যাক্ট (ডিএমএ) ।
অধিকন্তু, ডেটাসেটগুলি থেকে সমস্ত ব্যক্তিগতভাবে সনাক্তযোগ্য তথ্য (PII) মুছে ফেলার বিষয়ে নিশ্চিত হন এবং নিশ্চিত করুন যে আপনার মডেল এবং ডেটা সংগ্রহস্থলগুলি সঠিক অনুমতির সাথে সেট আপ করা হয়েছে, উদাহরণস্বরূপ, বিশ্ব-পঠনযোগ্য নয়৷
স্বচ্ছতা
মানুষের কাছে জবাবদিহি করতে হবে। উদাহরণস্বরূপ, আপনার মডেল কী করে, এটি কীভাবে করে এবং কেন এটি করে তা বোঝার জন্য এটি সহজ করুন৷মডেল কার্ডআপনার মডেল নথিভুক্ত করার জন্য একটি টেমপ্লেট প্রদান করুন এবং স্বচ্ছতা শিল্পকর্ম তৈরি করুন।
নিরাপত্তা
প্রতিকূল পরিস্থিতিতে নিরাপদে কাজ করার জন্য ডিজাইন মডেল। উদাহরণস্বরূপ, আপনার মডেল সুরক্ষিত তা নিশ্চিত করতে সম্ভাব্য প্রতিকূল ইনপুটগুলির সাথে আপনার মডেল পরীক্ষা করুন। উপরন্তু, সম্ভাব্য ব্যর্থতার অবস্থার জন্য পরীক্ষা করুন. দলগুলি সাধারণত তাদের মডেলগুলিকে ইনপুট বা শর্তগুলির সাথে পরীক্ষা করার জন্য বিশেষভাবে ডিজাইন করা ডেটাসেটগুলি ব্যবহার করে যার কারণে মডেলটি অতীতে ব্যর্থ হয়েছিল৷
আপনার বোঝার পরীক্ষা করুন
সর্বদা আপনার মডেলগুলির মধ্যে কাজ করে এমন বৃহত্তর সামাজিক প্রেক্ষাপটগুলি বিবেচনা করুন৷ আপনার সংবেদনশীল ডেটা হ্যান্ডলিং গোপনীয়তা সমস্যা, চিরতরে পক্ষপাতিত্ব বা অন্য কারো বৌদ্ধিক সম্পত্তি লঙ্ঘন না করে তা নিশ্চিত করার জন্য কাজ করুন।