এই নথিটি বর্ণনা করে যে কীভাবে জেমিনি কোড অ্যাসিস্ট তৈরি করা হয়েছে সেই ক্ষমতা, সীমাবদ্ধতা এবং ঝুঁকিগুলি যা জেনারেটিভ এআই-এর সাথে যুক্ত।
বড় ভাষা মডেলের ক্ষমতা এবং ঝুঁকি
বড় ভাষা মডেল (LLMs) অনেক দরকারী কাজ করতে পারে যেমন নিম্নলিখিত:
- ভাষা অনুবাদ করুন।
- টেক্সট সারসংক্ষেপ.
- কোড এবং সৃজনশীল লেখা তৈরি করুন।
- পাওয়ার চ্যাটবট এবং ভার্চুয়াল সহকারী।
- সার্চ ইঞ্জিন এবং সুপারিশ সিস্টেম পরিপূরক.
একই সময়ে, এলএলএম-এর বিকশিত প্রযুক্তিগত ক্ষমতা অপপ্রয়োগ, অপব্যবহার এবং অনিচ্ছাকৃত বা অপ্রত্যাশিত পরিণতির সম্ভাবনা তৈরি করে।
LLMগুলি এমন আউটপুট তৈরি করতে পারে যা আপনি আশা করেন না, এতে আপত্তিকর, সংবেদনশীল বা বাস্তবিকভাবে ভুল পাঠ্য সহ। যেহেতু LLMগুলি অবিশ্বাস্যভাবে বহুমুখী, তাই তারা ঠিক কী ধরনের অনাকাঙ্ক্ষিত বা অপ্রত্যাশিত আউটপুট তৈরি করতে পারে তা অনুমান করা কঠিন।
এই ঝুঁকি এবং জটিলতার পরিপ্রেক্ষিতে, জেমিনি কোড অ্যাসিস্টকে Google-এর AI নীতিগুলি মাথায় রেখে ডিজাইন করা হয়েছে৷ যাইহোক, নিরাপদে এবং দায়িত্বশীলভাবে কাজ করার জন্য ব্যবহারকারীদের জেমিনি কোড অ্যাসিস্টের কিছু সীমাবদ্ধতা বোঝা গুরুত্বপূর্ণ।
মিথুন কোড সহায়তার সীমাবদ্ধতা
জেমিনি কোড অ্যাসিস্ট ব্যবহার করে আপনি যে সীমাবদ্ধতার সম্মুখীন হতে পারেন তার মধ্যে নিম্নলিখিতগুলি অন্তর্ভুক্ত (কিন্তু এতে সীমাবদ্ধ নয়):
প্রান্ত মামলা. এজ কেসগুলি অস্বাভাবিক, বিরল বা ব্যতিক্রমী পরিস্থিতিগুলিকে নির্দেশ করে যা প্রশিক্ষণের ডেটাতে ভালভাবে উপস্থাপন করা হয় না। এই কেসগুলি জেমিনি কোড অ্যাসিস্ট মডেলগুলির আউটপুটে সীমাবদ্ধতার দিকে নিয়ে যেতে পারে, যেমন মডেলের অতিরিক্ত আত্মবিশ্বাস, প্রসঙ্গের ভুল ব্যাখ্যা, বা অনুপযুক্ত আউটপুট।
মডেল হ্যালুসিনেশন, গ্রাউন্ডিং এবং বাস্তবতা। জেমিনি কোড অ্যাসিস্ট মডেলগুলিতে বাস্তব-বিশ্বের জ্ঞান, ভৌত বৈশিষ্ট্য বা সঠিক বোঝার ভিত্তি এবং বাস্তবতার অভাব থাকতে পারে। এই সীমাবদ্ধতা মডেল হ্যালুসিনেশনের দিকে নিয়ে যেতে পারে, যেখানে জেমিনি কোড অ্যাসিস্ট এমন আউটপুট তৈরি করতে পারে যেগুলি প্রশংসনীয়-শব্দযুক্ত কিন্তু বাস্তবে ভুল, অপ্রাসঙ্গিক, অনুপযুক্ত বা অর্থহীন। হ্যালুসিনেশনের মধ্যে এমন ওয়েব পৃষ্ঠাগুলির বানোয়াট লিঙ্কও অন্তর্ভুক্ত থাকতে পারে যা বিদ্যমান নেই এবং কখনও বিদ্যমান ছিল না। আরও তথ্যের জন্য, Google ক্লাউডের জন্য মিথুনের জন্য আরও ভাল প্রম্পট লিখুন দেখুন।
ডেটা গুণমান এবং টিউনিং। জেমিনি কোড অ্যাসিস্ট পণ্যগুলিতে প্রবেশ করা প্রম্পট ডেটার গুণমান, নির্ভুলতা এবং পক্ষপাত এর কার্যকারিতার উপর উল্লেখযোগ্য প্রভাব ফেলতে পারে। ব্যবহারকারীরা ভুল বা ভুল প্রম্পট প্রবেশ করালে, জেমিনি কোড অ্যাসিস্ট সাবঅপ্টিমাল বা মিথ্যা প্রতিক্রিয়া ফিরিয়ে দিতে পারে।
পক্ষপাত পরিবর্ধন। ভাষা মডেলগুলি অসাবধানতাবশত তাদের প্রশিক্ষণের ডেটাতে বিদ্যমান পক্ষপাতগুলিকে প্রসারিত করতে পারে, যার ফলে আউটপুটগুলি আরও শক্তিশালী হতে পারে যা সামাজিক কুসংস্কার এবং নির্দিষ্ট গোষ্ঠীর অসম আচরণকে আরও শক্তিশালী করতে পারে।
ভাষার মান। যদিও জেমিনি কোড অ্যাসিস্ট সেই মানদণ্ডগুলিতে চিত্তাকর্ষক বহুভাষিক ক্ষমতা প্রদান করে যেগুলির বিরুদ্ধে আমরা মূল্যায়ন করেছি, আমাদের বেশিরভাগ বেঞ্চমার্ক (সমস্ত ন্যায্যতা মূল্যায়ন সহ) আমেরিকান ইংরেজিতে রয়েছে৷
ভাষার মডেলগুলি বিভিন্ন ব্যবহারকারীদের জন্য অসামঞ্জস্যপূর্ণ পরিষেবার গুণমান প্রদান করতে পারে। উদাহরণস্বরূপ, কিছু উপভাষা বা ভাষার জাতগুলির জন্য পাঠ্য তৈরি করা ততটা কার্যকর নাও হতে পারে কারণ প্রশিক্ষণের ডেটাতে সেগুলিকে কম উপস্থাপন করা হয়। অ-ইংরেজি ভাষা বা কম প্রতিনিধিত্ব সহ ইংরেজি ভাষার বৈচিত্র্যের জন্য কর্মক্ষমতা খারাপ হতে পারে।
ন্যায্যতা বেঞ্চমার্ক এবং উপগোষ্ঠী। মিথুন মডেলের গুগল রিসার্চের ন্যায্যতা বিশ্লেষণ বিভিন্ন সম্ভাব্য ঝুঁকির একটি সম্পূর্ণ বিবরণ প্রদান করে না। উদাহরণস্বরূপ, আমরা লিঙ্গ, জাতি, জাতিগততা এবং ধর্মের অক্ষ বরাবর পক্ষপাতিত্বের উপর ফোকাস করি, কিন্তু শুধুমাত্র আমেরিকান ইংরেজি ভাষার ডেটা এবং মডেল আউটপুটগুলির উপর বিশ্লেষণ করি।
সীমিত ডোমেন দক্ষতা। মিথুন মডেলগুলিকে Google ক্লাউড প্রযুক্তিতে প্রশিক্ষিত করা হয়েছে, তবে এটিতে জ্ঞানের গভীরতার অভাব থাকতে পারে যা অত্যন্ত বিশেষায়িত বা প্রযুক্তিগত বিষয়গুলিতে সঠিক এবং বিশদ প্রতিক্রিয়া প্রদানের জন্য প্রয়োজনীয়, যার ফলে অতিমাত্রায় বা ভুল তথ্য হতে পারে।
মিথুন নিরাপত্তা এবং বিষাক্ততা ফিল্টারিং
জেমিনি কোড অ্যাসিস্ট প্রম্পট এবং প্রতিক্রিয়াগুলি প্রতিটি ব্যবহারের ক্ষেত্রে প্রযোজ্য সুরক্ষা বৈশিষ্ট্যগুলির একটি বিস্তৃত তালিকার সাথে পরীক্ষা করা হয়। এই নিরাপত্তা বৈশিষ্ট্যগুলি আমাদের গ্রহণযোগ্য ব্যবহারের নীতি লঙ্ঘন করে এমন সামগ্রী ফিল্টার আউট করার লক্ষ্য করে৷ যদি একটি আউটপুট ক্ষতিকারক হিসাবে বিবেচিত হয়, প্রতিক্রিয়া ব্লক করা হবে।