বৈশিষ্ট্য ক্রস: এনকোডিং অরৈখিকতা

চিত্র 1 এবং 2-এ, নিম্নলিখিতগুলি কল্পনা করুন:

  • নীল বিন্দু অসুস্থ গাছের প্রতিনিধিত্ব করে।
  • কমলা বিন্দু স্বাস্থ্যকর গাছের প্রতিনিধিত্ব করে।

ব্লুজ বিন্দু উত্তর-পূর্ব চতুর্ভুজ দখল করে; কমলা বিন্দু দক্ষিণ-পশ্চিম চতুর্ভুজ দখল করে।

চিত্র 1. এটি কি একটি রৈখিক সমস্যা?

আপনি কি একটি লাইন আঁকতে পারেন যা সুস্থ গাছ থেকে অসুস্থ গাছগুলিকে সুন্দরভাবে আলাদা করে? নিশ্চিত। এটি একটি রৈখিক সমস্যা। লাইন নিখুঁত হবে না. একটি অসুস্থ গাছ বা দুটি "স্বাস্থ্যকর" দিকে থাকতে পারে তবে আপনার লাইনটি একটি ভাল ভবিষ্যদ্বাণীকারী হবে।

এখন নিম্নলিখিত চিত্রটি দেখুন:

ব্লুজ ডট উত্তর-পূর্ব এবং দক্ষিণ-পশ্চিম চতুর্ভুজ দখল করে; কমলা বিন্দু উত্তর-পশ্চিম এবং দক্ষিণ-পূর্ব চতুর্ভুজগুলি দখল করে।

চিত্র 2. এটি কি একটি রৈখিক সমস্যা?

আপনি কি একটি একক সরল রেখা আঁকতে পারেন যা সুস্থ গাছ থেকে অসুস্থ গাছগুলিকে সুন্দরভাবে আলাদা করে? না, তুমি পারবে না। এটি একটি অরৈখিক সমস্যা। আপনি যে লাইন আঁকেন তা গাছের স্বাস্থ্যের দুর্বল ভবিষ্যদ্বাণী হবে।

চিত্র 2 এর মতো একই অঙ্কন, একটি অনুভূমিক রেখা সমতলকে ভেঙে দেয়। নীল এবং কমলা বিন্দু লাইন উপরে; নীল এবং কমলা বিন্দু লাইনের নিচে আছে।

চিত্র 3. একটি একক লাইন দুটি শ্রেণিকে আলাদা করতে পারে না।

চিত্র 2 এ দেখানো অরৈখিক সমস্যা সমাধান করতে, একটি বৈশিষ্ট্য ক্রস তৈরি করুন। ফিচার ক্রস হল একটি সিন্থেটিক ফিচার যা দুই বা ততোধিক ইনপুট ফিচারকে একসাথে গুণ করে ফিচার স্পেসে ননলাইনারিটি এনকোড করে। (ক্রস শব্দটি ক্রস পণ্য থেকে এসেছে।) আসুন \(x_1\)এবং \(x_2\)placeholder3 অতিক্রম করে l10n- \(x_3\) নামে একটি বৈশিষ্ট্য ক্রস তৈরি করি :

$$x_3 = x_1x_2$$

আমরা এই নতুন মিন্টেড \(x_3\) বৈশিষ্ট্য ক্রসকে অন্য যেকোন বৈশিষ্ট্যের মতোই বিবেচনা করি। রৈখিক সূত্রে পরিণত হয়:

$$y = b + w_1x_1 + w_2x_2 + w_3x_3$$

একটি লিনিয়ার অ্যালগরিদম \(w_3\)এর জন্য একটি ওজন শিখতে পারে ঠিক যেমন এটি \(w_1\) এবং \(w_2\)এর জন্য। অন্য কথায়, যদিও \(w_3\) অরৈখিক তথ্য এনকোড করে, \(w_3\)এর মান নির্ণয় করার জন্য লিনিয়ার মডেল কীভাবে ট্রেন করে তা পরিবর্তন করতে হবে না।

বৈশিষ্ট্য ক্রস ধরনের

আমরা বিভিন্ন ধরণের ফিচার ক্রস তৈরি করতে পারি। উদাহরণ স্বরূপ:

  • [AXB] : দুটি বৈশিষ্ট্যের মান গুণ করে একটি বৈশিষ্ট্য ক্রস গঠিত হয়।
  • [A x B x C x D x E] : পাঁচটি বৈশিষ্ট্যের মান গুণ করে একটি বৈশিষ্ট্য ক্রস গঠিত হয়।
  • [A x A] : একটি বৈশিষ্ট্য ক্রস একটি একক বৈশিষ্ট্যকে বর্গ করে গঠিত।

স্টোকাস্টিক গ্রেডিয়েন্ট ডিসেন্টের জন্য ধন্যবাদ, লিনিয়ার মডেলগুলি দক্ষতার সাথে প্রশিক্ষিত হতে পারে। ফলস্বরূপ, ফিচার ক্রস সহ স্কেল করা রৈখিক মডেলগুলির পরিপূরক ঐতিহ্যগতভাবে বিশাল-স্কেল ডেটা সেটগুলিতে প্রশিক্ষণের একটি কার্যকর উপায়।