سیستم‌های ML تولید: استنتاج استاتیک در مقابل پویا

استنتاج فرآیند پیش‌بینی با استفاده از یک مدل آموزش‌دیده برای نمونه‌های بدون برچسب است. به طور کلی، یک مدل می تواند پیش بینی ها را به یکی از دو روش استنباط کند:

  • استنتاج ایستا (همچنین استنتاج آفلاین یا استنتاج دسته ای نیز نامیده می شود) به این معنی است که مدل پیش بینی هایی را روی دسته ای از نمونه های معمولی بدون برچسب انجام می دهد و سپس آن پیش بینی ها را در جایی ذخیره می کند.
  • استنتاج پویا ( که استنتاج آنلاین یا استنتاج بلادرنگ نیز نامیده می شود) به این معنی است که مدل فقط در صورت تقاضا پیش بینی می کند، به عنوان مثال، زمانی که مشتری درخواست پیش بینی می کند.

برای استفاده از یک مثال افراطی، یک مدل بسیار پیچیده را تصور کنید که یک ساعت طول می کشد تا یک پیش بینی استنتاج شود. این احتمالاً یک موقعیت عالی برای استنتاج ایستا خواهد بود:

شکل 4. در استنتاج ایستا، یک مدل پیش‌بینی‌هایی را تولید می‌کند که سپس روی یک سرور ذخیره می‌شوند.
شکل 4. در استنتاج ایستا، یک مدل پیش‌بینی‌هایی را تولید می‌کند که سپس روی یک سرور ذخیره می‌شوند.

فرض کنید همین مدل پیچیده به اشتباه از استنتاج پویا به جای استنتاج استاتیک استفاده می کند. اگر بسیاری از مشتریان در همان زمان درخواست پیش‌بینی کنند، بسیاری از آنها برای ساعت‌ها یا روزها آن پیش‌بینی را دریافت نمی‌کنند.

اکنون مدلی را در نظر بگیرید که به سرعت، شاید در 2 میلی ثانیه و با استفاده از حداقل نسبی منابع محاسباتی، استنباط می کند. در این شرایط، مشتریان می توانند پیش بینی ها را به سرعت و کارآمد از طریق استنتاج پویا دریافت کنند، همانطور که در شکل 5 پیشنهاد شده است.

شکل 5. در استنتاج پویا، یک مدل پیش بینی های تقاضا را استنباط می کند.
شکل 5. در استنتاج پویا، یک مدل پیش بینی های تقاضا را استنباط می کند.

استنتاج ایستا

استنتاج استاتیک مزایا و معایب خاصی را ارائه می دهد.

مزایا

  • لازم نیست زیاد نگران هزینه استنتاج باشید.
  • می‌تواند پیش‌بینی‌ها را قبل از فشار دادن پس از تأیید انجام دهد.

معایب

  • فقط می‌تواند پیش‌بینی‌های حافظه پنهان را ارائه کند، بنابراین سیستم ممکن است نتواند پیش‌بینی‌هایی را برای نمونه‌های ورودی غیرمعمول ارائه دهد.
  • تأخیر به‌روزرسانی احتمالاً بر حسب ساعت یا روز اندازه‌گیری می‌شود.

استنتاج پویا

استنتاج پویا مزایا و معایب خاصی را ارائه می دهد.

مزایا

  • می تواند یک پیش بینی در مورد هر آیتم جدیدی که وارد می شود استنباط کند، که برای پیش بینی های طولانی (کمتر رایج) عالی است.

معایب

  • محاسبات فشرده و حساس به تأخیر. این ترکیب ممکن است پیچیدگی مدل را محدود کند. یعنی ممکن است مجبور شوید یک مدل ساده‌تر بسازید که بتواند پیش‌بینی‌ها را سریع‌تر از یک مدل پیچیده استنتاج کند.
  • نیازهای نظارتی شدیدتر است.

تمرینات: درک خود را بررسی کنید

کدام سه از چهار عبارت زیر در مورد استنتاج ایستا صادق است؟
برای یک ورودی داده شده، مدل می‌تواند سریع‌تر از استنتاج دینامیکی پیش‌بینی کند.
شما می توانید به سرعت به تغییرات در جهان واکنش نشان دهید.
مدل باید برای همه ورودی های ممکن پیش بینی ایجاد کند.
این سیستم می تواند پیش بینی های استنباط شده را قبل از ارائه آنها تأیید کند.
کدام یک از عبارات زیر در مورد استنتاج پویا صادق است؟
هنگام انجام استنتاج پویا، نیازی نیست نگران تأخیر پیش‌بینی (زمان تأخیر برای بازگشت پیش‌بینی‌ها) به اندازه هنگام اجرای استنتاج استاتیک باشید.
شما می توانید برای همه موارد ممکن پیش بینی ارائه دهید.
می‌توانید پیش‌بینی‌ها را قبل از استفاده، پس از تأیید انجام دهید.