দায়িত্বশীল AI এর পরিচিতি

আমরা কীভাবে এআই সিস্টেমগুলিকে দায়িত্বের সাথে, স্কেলে তৈরি করব? দায়বদ্ধ AI, প্রাসঙ্গিক ধারণা এবং শর্তাবলী এবং পণ্যগুলিতে এই অনুশীলনগুলি কীভাবে প্রয়োগ করা যায় সে সম্পর্কে জানুন।

ভূমিকা

কৃত্রিম বুদ্ধিমত্তা (AI) অনেক অ্যাপ এবং পরিষেবাকে ক্ষমতা দেয় যা লোকেরা দৈনন্দিন জীবনে ব্যবহার করে। ব্যবসা থেকে শুরু করে স্বাস্থ্যসেবা থেকে শিক্ষা পর্যন্ত ক্ষেত্র জুড়ে AI এর বিলিয়ন ব্যবহারকারীদের সাথে, এটি গুরুত্বপূর্ণ যে নেতৃস্থানীয় AI কোম্পানিগুলি এই প্রযুক্তিগুলির সুবিধাগুলি ক্ষতির চেয়ে বেশি হয় তা নিশ্চিত করার জন্য কাজ করে, যাতে সবার জন্য সবচেয়ে সহায়ক, নিরাপদ এবং বিশ্বস্ত অভিজ্ঞতা তৈরি করা যায়। .

দায়িত্বশীল AI সম্ভাব্য ক্ষতি এবং সুবিধা সহ এই প্রযুক্তিগুলির বিকাশ এবং স্কেলের সামাজিক প্রভাব বিবেচনা করে। AI নীতিগুলি একটি কাঠামো প্রদান করে যার মধ্যে AI অ্যাপ্লিকেশনগুলির উদ্দেশ্য অন্তর্ভুক্ত রয়েছে এবং অ্যাপ্লিকেশনগুলি আমরা AI সিস্টেমের বিকাশে অনুসরণ করব না।

দায়ী এআই মাত্রা

যেহেতু AI ডেভেলপমেন্ট ত্বরান্বিত হয় এবং আরও সর্বব্যাপী হয়ে ওঠে, তাই আইডিয়া থেকে লঞ্চ পর্যন্ত প্রতিটি কর্মপ্রবাহ পর্যায়ে দায়িত্বশীল AI অনুশীলনগুলিকে অন্তর্ভুক্ত করা গুরুত্বপূর্ণ। নিম্নলিখিত মাত্রাগুলি দায়ী এআই-এর মূল উপাদান, এবং পণ্যের জীবনচক্র জুড়ে বিবেচনা করা গুরুত্বপূর্ণ।

ন্যায্যতা

ন্যায্যতা অ্যালগরিদমিক সিদ্ধান্ত গ্রহণের মাধ্যমে জাতি, আয়, যৌন অভিযোজন, বা লিঙ্গের মতো সংবেদনশীল বৈশিষ্ট্যগুলির সাথে সম্পর্কিত হিসাবে শেষ ব্যবহারকারীদের অভিজ্ঞতা হতে পারে এমন সম্ভাব্য ভিন্ন ফলাফলগুলিকে সম্বোধন করে৷ উদাহরণ স্বরূপ, একটি নিয়োগের অ্যালগরিদম কি একটি নির্দিষ্ট লিঙ্গ বা জাতিসত্তার সাথে যুক্ত নাম সহ আবেদনকারীদের পক্ষে বা বিপক্ষে পক্ষপাতী হতে পারে?

এই ভিডিওতে কিভাবে মেশিন লার্নিং সিস্টেম মানব পক্ষপাতের জন্য সংবেদনশীল হতে পারে সে সম্পর্কে আরও জানুন:

কীভাবে অনুসন্ধান এবং ফটোগুলির মতো পণ্যগুলি ত্বকের স্বর উপস্থাপনের বৈচিত্র্যকে উন্নত করেছে সে সম্পর্কে পড়ুন৷

এমএল ফেয়ারনেস সম্পর্কিত আরও পদের জন্য, মেশিন লার্নিং শব্দকোষ দেখুন: ন্যায্যতা | বিকাশকারীদের জন্য Google । আরও জানতে, মেশিন লার্নিং ক্র্যাশ কোর্সের ফেয়ারনেস মডিউলটি এমএল ফেয়ারনেসের একটি ভূমিকা প্রদান করে।

পিপল + এআই রিসার্চ (PAIR) এই ধারণাগুলির মধ্য দিয়ে চলার জন্য মেজারিং ফেয়ারনেস এবং হিডেন বায়াস সহ ইন্টারেক্টিভ এআই এক্সপ্লোরেবল অফার করে।

দায়িত্ব

জবাবদিহিতা মানে AI সিস্টেমের প্রভাবের জন্য দায়ী করা। এর মধ্যে রয়েছে স্বচ্ছতা , বা সিস্টেম আচরণ এবং সাংগঠনিক প্রক্রিয়া সম্পর্কে তথ্য ভাগ করে নেওয়া, যার মধ্যে নথিভুক্ত করা এবং ভাগ করা অন্তর্ভুক্ত থাকতে পারে কীভাবে মডেল এবং ডেটাসেট তৈরি, প্রশিক্ষিত এবং মূল্যায়ন করা হয়েছিল। মডেল কার্ড এবং ডেটা কার্ডগুলি হল স্বচ্ছতার আর্টিফ্যাক্টগুলির উদাহরণ যা এমএল মডেল এবং ডেটাসেটের প্রয়োজনীয় তথ্যগুলিকে একটি কাঠামোগত উপায়ে সংগঠিত করতে সাহায্য করতে পারে।

জবাবদিহিতার আরেকটি মাত্রা হল ব্যাখ্যাযোগ্যতা , যার মধ্যে ML মডেলের সিদ্ধান্তগুলি বোঝার সাথে জড়িত, যেখানে মানুষ এমন বৈশিষ্ট্যগুলি সনাক্ত করতে সক্ষম হয় যা একটি ভবিষ্যদ্বাণীর দিকে নিয়ে যায়। তদুপরি, ব্যাখ্যাযোগ্যতা হল একটি মডেলের স্বয়ংক্রিয় সিদ্ধান্তগুলি মানুষের বোঝার উপায়ে ব্যাখ্যা করার ক্ষমতা।

AI সিস্টেমে ব্যবহারকারীর আস্থা তৈরির বিষয়ে আরও পড়ুন ব্যাখ্যাযোগ্যতা + মানুষের বিশ্বাসের অধ্যায় + এআই গাইডবুক , এবং Google-এর দায়িত্বশীল AI অনুশীলনের ব্যাখ্যাযোগ্যতা বিভাগে।

নিরাপত্তা

AI নিরাপত্তার মধ্যে এমন একটি সেট ডিজাইন এবং অপারেশনাল কৌশল রয়েছে যা ইচ্ছাকৃত বা অনিচ্ছাকৃতভাবে ক্ষতির কারণ হতে পারে এমন ক্রিয়াগুলি এড়াতে এবং থাকতে পারে। উদাহরণস্বরূপ, নিরাপত্তা লঙ্ঘন বা লক্ষ্যবস্তু আক্রমণের মুখেও কি সিস্টেমগুলি উদ্দেশ্য অনুযায়ী আচরণ করে? আপনার এআই সিস্টেম কি যথেষ্ট মজবুত এমনকি বিচলিত হলেও নিরাপদে কাজ করতে পারে? ঝুঁকি প্রতিরোধ বা এড়াতে আপনি কীভাবে আগাম পরিকল্পনা করবেন? আপনার সিস্টেম নির্ভরযোগ্য এবং চাপ অধীনে স্থিতিশীল?

Google-এর দায়বদ্ধ AI অনুশীলনের সুরক্ষা বিভাগে AI সিস্টেমগুলিকে আক্রমণ থেকে রক্ষা করার জন্য প্রস্তাবিত অনুশীলনের রূপরেখা রয়েছে, যার মধ্যে প্রতিপক্ষের পরীক্ষাও রয়েছে৷ এই এলাকায় আমাদের কাজ এবং কীওয়ার্ড ব্লগ পোস্টে শেখা পাঠ সম্পর্কে আরও জানুন, Google এর এআই রেড টিম: এথিক্যাল হ্যাকাররা AI কে নিরাপদ করে ।

গোপনীয়তা

দায়বদ্ধ AI-তে গোপনীয়তা অনুশীলন ( Google Responsible AI Practices- এর গোপনীয়তা বিভাগ দেখুন) সংবেদনশীল ডেটা ব্যবহারে সম্ভাব্য গোপনীয়তার প্রভাব বিবেচনা করা জড়িত। এর মধ্যে শুধুমাত্র আইনি এবং নিয়ন্ত্রক প্রয়োজনীয়তাকে সম্মান করাই নয়, সামাজিক নিয়ম এবং সাধারণ ব্যক্তিগত প্রত্যাশা বিবেচনা করাও অন্তর্ভুক্ত। উদাহরণস্বরূপ, ব্যক্তিদের গোপনীয়তা নিশ্চিত করার জন্য কোন সুরক্ষা ব্যবস্থাগুলি স্থাপন করা প্রয়োজন, এই বিবেচনায় যে এমএল মডেলগুলি তাদের কাছে প্রকাশিত ডেটার দিকগুলি মনে রাখতে বা প্রকাশ করতে পারে? ব্যবহারকারীদের পর্যাপ্ত স্বচ্ছতা এবং তাদের ডেটার নিয়ন্ত্রণ নিশ্চিত করতে কী পদক্ষেপ নেওয়া দরকার?

পেয়ার এক্সপ্লোরেবলের ইন্টারেক্টিভ ওয়াকথ্রুসের মাধ্যমে এমএল গোপনীয়তা সম্পর্কে আরও জানুন:

জেনারেটিভ মডেল/এলএলএম-এ দায়ী এআই

বৃহৎ, জেনারেটিভ মডেলের আবির্ভাব তাদের সম্ভাব্য ওপেন-এন্ডেড আউটপুট ক্ষমতা এবং অনেক সম্ভাব্য ডাউনস্ট্রিম ব্যবহারের কারণে দায়িত্বশীল AI অনুশীলনগুলি বাস্তবায়নের জন্য নতুন চ্যালেঞ্জের সূচনা করে। AI নীতিগুলি ছাড়াও, Google-এর একটি জেনারেটিভ AI নিষিদ্ধ ব্যবহারের নীতি এবং বিকাশকারীদের জন্য জেনারেটিভ AI গাইড রয়েছে৷

Google এর দলগুলি কীভাবে Google Generative AI- তে ব্যবহারকারীদের জন্য নতুন অভিজ্ঞতা তৈরি করতে জেনারেটিভ AI ব্যবহার করে সে সম্পর্কে আরও পড়ুন৷ এই সাইটে, আমরা নিরাপত্তা এবং ন্যায্যতা , প্রম্পট ইঞ্জিনিয়ারিং , এবং জেনারেটিভ মডেলের জন্য প্রতিকূল পরীক্ষা সংক্রান্ত নির্দেশিকাও অফার করি। ভাষার মডেলগুলির একটি ইন্টারেক্টিভ ওয়াকথ্রু-এর জন্য, পেয়ার এক্সপ্লোরেবল দেখুন: ভাষা মডেলগুলি কী শিখেছে?

অতিরিক্ত সম্পদ

কেন আমরা AI - Google AI-তে ফোকাস করি৷

Google AI পর্যালোচনা প্রক্রিয়া

এআই নীতি পর্যালোচনা প্রক্রিয়া | Google AI:

দায়িত্বশীল AI টুলকিট | টেনসরফ্লো