পটভূমি: একটি জেনারেটিভ মডেল কি?

"জেনারেটিভ অ্যাডভারসারিয়াল নেটওয়ার্ক" নামে "জেনারেটিভ" এর অর্থ কী? " জেনারেটিভ " পরিসংখ্যানগত মডেলের একটি শ্রেণীর বর্ণনা করে যা বৈষম্যমূলক মডেলের সাথে বৈপরীত্য করে।

অনানুষ্ঠানিকভাবে:

  • জেনারেটিভ মডেলগুলি নতুন ডেটা দৃষ্টান্ত তৈরি করতে পারে।
  • বৈষম্যমূলক মডেলগুলি বিভিন্ন ধরণের ডেটা উদাহরণের মধ্যে বৈষম্য করে।

একটি জেনারেটিভ মডেল প্রাণীদের নতুন ফটো তৈরি করতে পারে যা দেখতে আসল প্রাণীর মতো, যখন একটি বৈষম্যমূলক মডেল একটি কুকুরকে একটি বিড়াল থেকে বলতে পারে। GAN শুধুমাত্র এক ধরনের জেনারেটিভ মডেল।

আরও আনুষ্ঠানিকভাবে, ডেটা দৃষ্টান্ত X এবং লেবেল Y-এর একটি সেট দেওয়া হয়েছে:

  • জেনারেটিভ মডেল যৌথ সম্ভাব্যতা p(X, Y), অথবা শুধুমাত্র p(X) ক্যাপচার করে যদি কোন লেবেল না থাকে।
  • বৈষম্যমূলক মডেলগুলি শর্তাধীন সম্ভাব্যতা p(Y | X) ক্যাপচার করে।

একটি জেনারেটিভ মডেল ডেটার বন্টনকে অন্তর্ভুক্ত করে এবং আপনাকে বলে যে প্রদত্ত উদাহরণ কতটা সম্ভব। উদাহরণস্বরূপ, যে মডেলগুলি একটি ক্রমানুসারে পরবর্তী শব্দের ভবিষ্যদ্বাণী করে সেগুলি সাধারণত জেনারেটিভ মডেল (সাধারণত GAN-এর তুলনায় অনেক সহজ) কারণ তারা শব্দের অনুক্রমের সম্ভাব্যতা নির্ধারণ করতে পারে।

একটি বৈষম্যমূলক মডেল একটি প্রদত্ত দৃষ্টান্তের সম্ভাবনা কিনা সেই প্রশ্নটিকে উপেক্ষা করে, এবং কেবলমাত্র আপনাকে বলে যে দৃষ্টান্তে একটি লেবেল প্রয়োগ করার সম্ভাবনা কতটা।

মনে রাখবেন যে এটি একটি খুব সাধারণ সংজ্ঞা। জেনারেটিভ মডেল অনেক ধরনের আছে. GAN শুধুমাত্র এক ধরনের জেনারেটিভ মডেল।

মডেলিং সম্ভাবনা

কোন ধরণের মডেলকে সম্ভাব্যতার প্রতিনিধিত্বকারী একটি সংখ্যা ফেরত দিতে হবে না। আপনি সেই বন্টন অনুকরণ করে ডেটা বিতরণের মডেল করতে পারেন।

উদাহরণস্বরূপ, একটি ডিসিশন ট্রির মতো একটি বৈষম্যমূলক শ্রেণিবিন্যাসকারী সেই লেবেলে সম্ভাব্যতা নির্ধারণ না করে একটি উদাহরণকে লেবেল করতে পারে। এই ধরনের একটি শ্রেণীবিভাগকারী এখনও একটি মডেল হবে কারণ সমস্ত ভবিষ্যদ্বাণীকৃত লেবেলের বিতরণ ডেটাতে লেবেলের প্রকৃত বিতরণের মডেল করবে।

একইভাবে, একটি জেনারেটিভ মডেল বিশ্বাসযোগ্য "জাল" ডেটা তৈরি করে একটি বিতরণকে মডেল করতে পারে যা দেখে মনে হয় এটি সেই বিতরণ থেকে আঁকা হয়েছে।

জেনারেটিভ মডেলগুলি কঠিন

জেনারেটিভ মডেলগুলি সাদৃশ্যপূর্ণ বৈষম্যমূলক মডেলগুলির চেয়ে আরও কঠিন কাজকে মোকাবেলা করে। জেনারেটিভ মডেলকে আরও মডেল করতে হবে।

ইমেজগুলির জন্য একটি জেনারেটিভ মডেল পারস্পরিক সম্পর্ক ক্যাপচার করতে পারে যেমন "নৌকাগুলির মতো দেখতে জিনিসগুলি সম্ভবত জলের মতো দেখায় এমন জিনিসগুলির কাছে উপস্থিত হতে চলেছে" এবং "চোখ কপালে উপস্থিত হওয়ার সম্ভাবনা নেই।" এগুলি খুব জটিল বিতরণ।

বিপরীতে, একটি বৈষম্যমূলক মডেল "সেলবোট" বা "নট সেলবোট" এর মধ্যে পার্থক্য শিখতে পারে শুধুমাত্র কয়েকটি গল্পের নিদর্শন খোঁজার মাধ্যমে। এটি অনেক পারস্পরিক সম্পর্ককে উপেক্ষা করতে পারে যে জেনারেটিভ মডেলটি সঠিক হতে হবে।

বৈষম্যমূলক মডেলগুলি ডেটা স্পেসে সীমানা আঁকতে চেষ্টা করে, যখন জেনারেটিভ মডেলগুলি পুরো স্থান জুড়ে ডেটা কীভাবে স্থাপন করা হয় তা মডেল করার চেষ্টা করে। উদাহরণস্বরূপ, নিম্নলিখিত চিত্রটি হস্তলিখিত সংখ্যাগুলির বৈষম্যমূলক এবং উৎপন্ন মডেলগুলি দেখায়:

দুটি গ্রাফ, একটি লেবেলযুক্ত 'বৈষম্যমূলক মডেল' এবং অন্যটি 'জেনারেটিভ মডেল' লেবেলযুক্ত। উভয় গ্রাফ একই চারটি ডেটাপয়েন্ট দেখায়। প্রতিটি বিন্দু হস্তলিখিত অঙ্কের চিত্রের সাথে লেবেল করা হয় যা এটি প্রতিনিধিত্ব করে। বৈষম্যমূলক গ্রাফে একটি বিন্দুযুক্ত রেখা রয়েছে যা বাকি দুটি থেকে দুটি ডেটা পয়েন্টকে আলাদা করে। বিন্দুযুক্ত লাইনের উপরের অঞ্চলটি 'y=0' লেবেলযুক্ত এবং লাইনের নীচের অঞ্চলটি 'y=1' লেবেলযুক্ত। জেনারেটিভ গ্রাফে দুটি বিন্দু-রেখার বৃত্ত দুটি জোড়া বিন্দুর চারপাশে আঁকা হয়। উপরের বৃত্তটি 'y=0' লেবেলযুক্ত এবং নীচের বৃত্তটি 'y=1' লেবেলযুক্ত

চিত্র 1: হস্তলিখিত অঙ্কের বৈষম্যমূলক এবং উৎপন্ন মডেল।

বৈষম্যমূলক মডেলটি ডেটা স্পেসে একটি রেখা অঙ্কন করে হাতে লেখা 0 এবং 1 এর মধ্যে পার্থক্য বলার চেষ্টা করে। যদি এটি লাইনটি সঠিক পায়, তবে এটি লাইনের উভয় পাশে ডেটা স্পেসে যেখানে দৃষ্টান্তগুলি স্থাপন করা হয়েছে তা মডেল না করেই এটি 1 এর থেকে 0 এর পার্থক্য করতে পারে।

বিপরীতে, জেনারেটিভ মডেল ডাটা স্পেসে তাদের আসল প্রতিরূপের কাছাকাছি থাকা ডিজিট তৈরি করে বিশ্বাসযোগ্য 1 এবং 0 তৈরি করার চেষ্টা করে। এটিকে ডেটা স্পেস জুড়ে বিতরণের মডেল করতে হবে।

GANs একটি বাস্তব বন্টন অনুরূপ এই ধরনের সমৃদ্ধ মডেল প্রশিক্ষণ একটি কার্যকর উপায় প্রস্তাব. তারা কীভাবে কাজ করে তা বোঝার জন্য আমাদের একটি GAN এর মৌলিক কাঠামো বুঝতে হবে।

আপনার বোঝাপড়া পরীক্ষা করুন: জেনারেটিভ বনাম বৈষম্যমূলক মডেল

আপনার 1000 জনের আইকিউ স্কোর আছে। আপনি নিম্নলিখিত পদ্ধতির সাথে IQ স্কোর বিতরণের মডেল করেন:
  1. তিনটি ছয় পার্শ্বযুক্ত পাশা রোল করুন।
  2. রোলটিকে একটি ধ্রুবক w দ্বারা গুণ করুন।
  3. 100 বার পুনরাবৃত্তি করুন এবং সমস্ত ফলাফলের গড় নিন।
আপনার পদ্ধতির ফলাফল প্রকৃত আইকিউ স্কোরের গড় সমান না হওয়া পর্যন্ত আপনি w এর জন্য বিভিন্ন মান চেষ্টা করুন। আপনার মডেল একটি জেনারেটিভ মডেল বা একটি বৈষম্যমূলক মডেল?
জেনারেটিভ মডেল
সঠিক: প্রতিটি রোল দিয়ে আপনি কার্যকরভাবে একজন কাল্পনিক ব্যক্তির আইকিউ তৈরি করছেন। অধিকন্তু, আপনার জেনারেটিভ মডেলটি এই সত্যটি ক্যাপচার করে যে আইকিউ স্কোরগুলি সাধারণভাবে বিতরণ করা হয় (অর্থাৎ, একটি বেল কার্ভের উপর)।
বৈষম্যমূলক মডেল
ভুল: একটি অনুরূপ বৈষম্যমূলক মডেল বিভিন্ন ধরণের আইকিউ স্কোরের মধ্যে বৈষম্য করার চেষ্টা করবে। উদাহরণস্বরূপ, একটি বৈষম্যমূলক মডেল একটি আইকিউকে নকল বা আসল হিসাবে শ্রেণীবদ্ধ করার চেষ্টা করতে পারে।
বলার মতো যথেষ্ট তথ্য নেই।
এই মডেলটি সত্যিই আমাদের দুটি ধরণের মডেলের সংজ্ঞার সাথে মানানসই।
একটি মডেল একটি সম্ভাব্যতা প্রদান করে যখন আপনি এটি একটি ডেটা উদাহরণ দেন। এই মডেলটি কি জেনারেটিভ মডেল নাকি বৈষম্যমূলক মডেল?
জেনারেটিভ মডেল
একটি জেনারেটিভ মডেল উদাহরণের সম্ভাব্যতা অনুমান করতে পারে, এবং একটি শ্রেণী লেবেলের সম্ভাবনাও।
বৈষম্যমূলক মডেল
একটি বৈষম্যমূলক মডেল সম্ভাব্যতা অনুমান করতে পারে যে একটি উদাহরণ একটি শ্রেণীর অন্তর্গত।
বলার মতো যথেষ্ট তথ্য নেই।
জেনারেটিভ এবং ডিসক্রিমিনেটিভ মডেল উভয়ই সম্ভাব্যতা অনুমান করতে পারে (কিন্তু তাদের করতে হবে না)।