استنتاج فرآیند پیش‌بینی با استفاده از یک مدل آموزش‌دیده برای نمونه‌های بدون برچسب است. به طور کلی، یک مدل می تواند پیش بینی ها را به یکی از دو روش استنباط کند:
استنتاج ایستا (همچنین استنتاج آفلاین یا استنتاج دسته ای نیز نامیده می شود) به این معنی است که مدل پیش بینی هایی را روی دسته ای از نمونه های معمولی بدون برچسب انجام می دهد و سپس آن پیش بینی ها را در جایی ذخیره می کند.
استنتاج پویا (که استنتاج آنلاین یا استنتاج بلادرنگ نیز نامیده می شود) به این معنی است که مدل فقط در صورت تقاضا پیش بینی می کند، به عنوان مثال، زمانی که مشتری درخواست پیش بینی می کند.
برای استفاده از یک مثال افراطی، یک مدل بسیار پیچیده را تصور کنید که یک ساعت طول می کشد تا یک پیش بینی استنتاج شود. این احتمالاً یک موقعیت عالی برای استنتاج ایستا خواهد بود:
شکل 4. در استنتاج ایستا، یک مدل پیش‌بینی‌هایی را تولید می‌کند که سپس روی یک سرور ذخیره می‌شوند.
فرض کنید همین مدل پیچیده به اشتباه از استنتاج پویا به جای استنتاج استاتیک استفاده می کند. اگر بسیاری از مشتریان در همان زمان درخواست پیش‌بینی کنند، بسیاری از آنها برای ساعت‌ها یا روزها آن پیش‌بینی را دریافت نمی‌کنند.
اکنون مدلی را در نظر بگیرید که به سرعت، شاید در 2 میلی ثانیه و با استفاده از حداقل نسبی منابع محاسباتی، استنباط می کند. در این شرایط، مشتریان می توانند پیش بینی ها را به سرعت و کارآمد از طریق استنتاج پویا دریافت کنند، همانطور که در شکل 5 پیشنهاد شده است.
شکل 5. در استنتاج پویا، یک مدل پیش بینی های تقاضا را استنباط می کند.
استنتاج ایستا
استنتاج استاتیک مزایا و معایب خاصی را ارائه می دهد.
مزایا
لازم نیست زیاد نگران هزینه استنتاج باشید.
می‌تواند پیش‌بینی‌ها را قبل از فشار دادن پس از تأیید انجام دهد.
معایب
فقط می‌تواند پیش‌بینی‌های حافظه پنهان را ارائه کند، بنابراین سیستم ممکن است نتواند پیش‌بینی‌هایی را برای نمونه‌های ورودی غیرمعمول ارائه دهد.
تأخیر به‌روزرسانی احتمالاً بر حسب ساعت یا روز اندازه‌گیری می‌شود.
استنتاج پویا
استنتاج پویا مزایا و معایب خاصی را ارائه می دهد.
مزایا
می تواند یک پیش بینی در مورد هر آیتم جدیدی که وارد می شود استنباط کند، که برای پیش بینی های طولانی (کمتر رایج) عالی است.
معایب
محاسبات فشرده و حساس به تأخیر. این ترکیب ممکن است پیچیدگی مدل را محدود کند. یعنی ممکن است مجبور شوید یک مدل ساده‌تر بسازید که بتواند پیش‌بینی‌ها را سریعتر از یک مدل پیچیده استنتاج کند.
نیازهای نظارتی شدیدتر است.
عملکرد استنتاج
تمرینات: درک خود را بررسی کنید
کدام سه از چهار عبارت زیر در مورد استنتاج ایستا صادق است؟
مدل باید برای همه ورودی های ممکن پیش بینی ایجاد کند.
بله، مدل باید برای همه ورودی های ممکن پیش بینی کند و آنها را در یک کش یا جدول جستجو ذخیره کند. اگر مجموعه چیزهایی که مدل پیش‌بینی می‌کند محدود باشد، استنتاج استاتیک ممکن است انتخاب خوبی باشد. با این حال، برای ورودی‌های آزاد مانند درخواست‌های کاربر که دنباله‌ای طولانی از موارد غیرمعمول یا کمیاب دارند، استنتاج ثابت نمی‌تواند پوشش کاملی ارائه دهد.
این سیستم می تواند پیش بینی های استنباط شده را قبل از ارائه آنها تأیید کند.
بله، این یک جنبه مفید از استنتاج ایستا است.
برای یک ورودی داده شده، مدل می‌تواند سریعتر از استنتاج دینامیکی پیش‌بینی کند.
بله، استنتاج استاتیک تقریباً همیشه می تواند سریعتر از استنتاج پویا به پیش بینی ها کمک کند.
شما می توانید به سرعت به تغییرات در جهان واکنش نشان دهید.
نه، این یک نقطه ضعف استنتاج ایستا است.
کدام یک از عبارات زیر در مورد استنتاج پویا صادق است؟
شما می توانید برای همه موارد ممکن پیش بینی ارائه دهید.
بله، این نقطه قوت استنتاج پویا است. به هر درخواستی که وارد شود امتیاز داده می شود. استنتاج پویا توزیع‌های دم بلند (آنهایی که موارد کمیاب زیادی دارند)، مانند فضای تمام جملات ممکن که در نقدهای فیلم نوشته شده است را مدیریت می‌کند.
می‌توانید پیش‌بینی‌ها را قبل از استفاده، پس از تأیید انجام دهید.
به طور کلی، نمی‌توان تمام پیش‌بینی‌ها را قبل از استفاده پس از تأیید انجام داد، زیرا پیش‌بینی‌ها براساس تقاضا انجام می‌شوند. با این حال، می‌توانید کیفیت‌های پیش‌بینی کل را برای ارائه سطحی از بررسی کیفیت نظارت کنید، اما اینها فقط پس از گسترش آتش، هشدارهای آتش را نشان می‌دهند.
هنگام انجام استنتاج پویا، نیازی نیست نگران تأخیر پیش‌بینی (زمان تأخیر برای بازگشت پیش‌بینی‌ها) به اندازه هنگام اجرای استنتاج استاتیک باشید.
تأخیر پیش بینی اغلب یک نگرانی واقعی در استنتاج پویا است. متأسفانه، لزوماً نمی‌توانید مشکلات تأخیر پیش‌بینی را با افزودن سرورهای استنتاج بیشتر برطرف کنید.
