লিনিয়ার রিগ্রেশন: গ্রেডিয়েন্ট ডিসেন্ট ব্যায়াম

এই অনুশীলনে, আপনি পরামিতি অনুশীলন থেকে জ্বালানী-দক্ষতা ডেটার গ্রাফটি পুনরায় দেখতে পাবেন। কিন্তু এইবার, আপনি একটি লিনিয়ার মডেলের জন্য সর্বোত্তম ওজন এবং পক্ষপাতের মানগুলি শিখতে গ্রেডিয়েন্ট ডিসেন্ট ব্যবহার করবেন যা ক্ষতি কম করে।

গ্রাফের নিচের তিনটি কাজ সম্পূর্ণ করুন।

টাস্ক #1: শেখার হার 0.03 সেট করতে গ্রাফের নীচে শেখার হার স্লাইডার সামঞ্জস্য করুন। গ্রেডিয়েন্ট ডিসেন্ট চালানোর জন্য স্টার্ট বোতামে ক্লিক করুন।

মডেল প্রশিক্ষণ একত্রিত হতে কতক্ষণ সময় নেয় (একটি স্থিতিশীল সর্বনিম্ন ক্ষতির মান পৌঁছাতে)? মডেল কনভারজেন্সে MSE মান কত? কি ওজন এবং পক্ষপাত মান এই মান উত্পাদন?

যখন আমরা 0.03 এর একটি শেখার হার সেট করি, মডেলটি প্রায় 30 সেকেন্ড পরে রূপান্তরিত হয়, যথাক্রমে –2.08 এবং 23.098 এর ওজন এবং পক্ষপাতের মান সহ মাত্র 3 এর নিচে একটি MSE অর্জন করে। এটি নির্দেশ করে যে আমরা একটি ভাল শেখার হার মান বেছে নিয়েছি।

টাস্ক #2: গ্রাফে ওজন এবং বায়াস মান পুনরায় সেট করতে গ্রাফের নীচে রিসেট বোতামে ক্লিক করুন। শেখার হার স্লাইডারকে 1.10e –5 এর কাছাকাছি একটি মানতে সামঞ্জস্য করুন। গ্রেডিয়েন্ট ডিসেন্ট চালানোর জন্য স্টার্ট বোতামে ক্লিক করুন।

এই সময় একত্রিত হতে মডেল প্রশিক্ষণ কত সময় নেয় সে সম্পর্কে আপনি কী লক্ষ্য করেছেন?

কয়েক মিনিটের পরে, মডেল প্রশিক্ষণ এখনও একত্রিত হয়নি। ওজন এবং বায়াস মানগুলির ছোট আপডেটের ফলে মান কিছুটা কম হয়। এটি পরামর্শ দেয় যে উচ্চতর শিক্ষার হার বাছাই করা গ্রেডিয়েন্ট ডিসেন্টকে অনুকূল ওজন এবং পক্ষপাতের মানগুলি আরও দ্রুত খুঁজে পেতে সক্ষম করবে।

টাস্ক #3: গ্রাফের ওজন এবং বায়াস মান পুনরায় সেট করতে গ্রাফের নীচে রিসেট বোতামে ক্লিক করুন। লার্নিং রেট স্লাইডারকে 1 পর্যন্ত সামঞ্জস্য করুন। গ্রেডিয়েন্ট ডিসেন্ট চালানোর জন্য স্টার্ট বোতামে ক্লিক করুন।

গ্রেডিয়েন্ট ডিসেন্ট রান হিসাবে ক্ষতি মান কি হবে? এই সময় একত্রিত হতে মডেল প্রশিক্ষণ কতক্ষণ লাগবে?

ক্ষতির মানগুলি উচ্চ মানের (300-এর বেশি MSE) এ বন্যভাবে ওঠানামা করে। এটি ইঙ্গিত দেয় যে শেখার হার খুব বেশি, এবং মডেল প্রশিক্ষণ কখনই অভিন্নতায় পৌঁছাবে না।