प्रोडक्शन एमएल सिस्टम: स्टैटिक बनाम डाइनैमिक अनुमान
अनुमान एक ऐसी प्रोसेस है
एक प्रशिक्षित मॉडल को लागू करके
बिना लेबल वाले उदाहरण.
मोटे तौर पर, कोई मॉडल इन दो में से किसी एक तरीके से अनुमानों का अनुमान लगा सकता है:
स्टैटिक अनुमान (इसे ऑफ़लाइन अनुमान भी कहा जाता है या
बैच अनुमान) का मतलब है कि मॉडल,
बिना लेबल वाले सामान्य उदाहरण
और फिर उन अनुमानों को कहीं भी कैश मेमोरी में सेव कर देता है.
डाइनैमिक अनुमान (इसे ऑनलाइन अनुमान या रीयल-टाइम भी कहा जाता है
अनुमान) का मतलब है कि मॉडल, मांग पर सिर्फ़ अनुमान लगाता है,
उदाहरण के लिए, जब कोई क्लाइंट किसी सुझाव का अनुरोध करता है.
किसी बेहद मुश्किल मॉडल का इस्तेमाल करने के लिए, एक बेहद मुश्किल मॉडल की कल्पना करें,
किसी अनुमान का अनुमान लगाने में एक घंटा लगता है.
स्टैटिक अनुमान के लिए यह स्थिति सबसे अच्छी हो सकती है:
चौथी इमेज. स्टैटिक अनुमान में, मॉडल अनुमान जनरेट करता है,
जिन्हें इसके बाद सर्वर पर कैश मेमोरी में सेव किया जाता है.
मान लें कि यह जटिल मॉडल गलती से डाइनैमिक अनुमान का इस्तेमाल करता है
स्टैटिक अनुमान. अगर कई क्लाइंट एक ही समय में अनुमानों का अनुरोध करते हैं, तो
उनमें से ज़्यादातर को घंटों या दिनों तक यह सुझाव नहीं मिलेगा.
अब ऐसे मॉडल पर विचार करें जो तेज़ी से अनुमान लगाता है. शायद 2 मिलीसेकंड में
कम से कम कंप्यूटिंग संसाधन. ऐसी स्थिति में, क्लाइंट ये काम कर सकते हैं:
डाइनैमिक अनुमान की मदद से, तेज़ी और आसानी से अनुमान मिलते हैं. जैसे
इमेज 5 में सुझाया गया है.
पांचवीं इमेज. डाइनैमिक अनुमान में, मॉडल ज़रूरत पर अनुमान का अनुमान लगाता है.
स्टैटिक इन्फ़रेंस
स्टैटिक अनुमान के कुछ फ़ायदे और नुकसान हैं.
फ़ायदे
अनुमान की लागत के बारे में ज़्यादा चिंता करने की ज़रूरत नहीं है.
पुश करने से पहले, अनुमानों की पुष्टि के बाद भी कर सकते हैं.
नुकसान
केवल संचित पूर्वानुमान दिखा सकता है, इसलिए हो सकता है कि सिस्टम
असामान्य इनपुट उदाहरणों के लिए पूर्वानुमान दिखा सकते हैं.
अपडेट में लगने वाला समय, आम तौर पर घंटों या दिनों में मापा जाता है.
डाइनैमिक इन्फ़रेंस
डाइनैमिक अनुमान के कुछ फ़ायदे और नुकसान हैं.
फ़ायदे
किसी भी नए आइटम के आने पर उसका अनुमान लगाया जा सकता है,
लॉन्ग टेल (कम सामान्य) के अनुमानों के लिए बहुत अच्छा है.
नुकसान
बहुत ज़्यादा और इंतज़ार के समय की गिनती करें. इस संयोजन से मॉडल सीमित हो सकता है
मुश्किल है; इसका मतलब है कि आपको एक ऐसा आसान मॉडल बनाना होगा जो
किसी जटिल मॉडल की तुलना में ज़्यादा तेज़ी से अनुमानों का अनुमान लगा सकते हैं.
निगरानी की ज़रूरतें बहुत ज़्यादा होती हैं.
व्यायाम: अपनी समझ को परखें
दिए गए चार कथनों में से तीन कौन से हैं
स्टैटिक अनुमान कितना सही है?
मॉडल को सभी संभावित इनपुट के लिए अनुमान बनाने चाहिए.
हां, मॉडल को सभी संभावित इनपुट के लिए अनुमान लगाना चाहिए और
उन्हें कैश मेमोरी या लुक-अप टेबल में स्टोर कर सकते हैं.
अगर यह मॉडल सीमित चीज़ों का अनुमान लगा रहा है, तो
स्टैटिक अनुमान एक अच्छा विकल्प हो सकता है.
हालांकि, उपयोगकर्ता क्वेरी जैसे फ़्री फ़ॉर्म इनपुट के लिए
असामान्य या दुर्लभ आइटम की टेल है, स्टैटिक अनुमान नहीं दिया जा सकता
पूरी खबर.
सिस्टम, नतीजों को दिखाने से पहले, अनुमानित सुझावों की पुष्टि कर सकता है
उन्हें.
हां, यह स्टैटिक अनुमान का एक उपयोगी पहलू है.
दिए गए इनपुट के लिए, यह मॉडल ज़्यादा तेज़ी से सुझाव दे सकता है
की तुलना में डाइनैमिक अनुमान इस्तेमाल करता है.
हां, स्टैटिक अनुमान की मदद से अनुमान हमेशा तेज़ी से दिखाए जा सकते हैं
का इस्तेमाल करता है.
दुनिया में होने वाले बदलावों पर आप तुरंत प्रतिक्रिया दे सकते हैं.
नहीं, यह स्टैटिक अनुमान का नुकसान है.
इनमें से एक स्टेटमेंट
डाइनैमिक अनुमान सही है?
आप सभी संभावित आइटम के लिए पूर्वानुमान दे सकते हैं.
हां, यह डाइनैमिक अनुमान की ताकत है. ऐसा कोई भी अनुरोध जो
उसे एक स्कोर मिलेगा. डाइनैमिक अनुमान लॉन्ग-टेल हैंडल
डिस्ट्रिब्यूशन (जिसमें कई अनोखी चीज़ें होती हैं), जैसे कि सभी
फ़िल्म की समीक्षाओं में लिखे गए संभावित वाक्य.
आपके पास सुझावों की पुष्टि होने के बाद ही
इस्तेमाल किए जाते हैं.
सामान्य रूप से, सभी दस्तावेज़ों की
के सुझाव दिए जाते हैं, क्योंकि
मांग पर उपलब्ध है. हालांकि, संभावित रूप से मॉनिटर करने के बाद,
एग्रीगेट अनुमान की क्वालिटी के बारे में जानकारी
क्वालिटी की जांच की जा रही है, लेकिन इन अलार्म के बाद ही आग लगने वाले अलार्म का सिग्नल मिलेगा
आग पहले ही फैल चुकी है.
डाइनैमिक अनुमान का इस्तेमाल करते समय, आपको चिंता करने की ज़रूरत नहीं है
अनुमान के लिए लगने वाले समय के बारे में जानकारी (लौटाए जाने वाले अनुमानों में लगने वाला समय)
उतना ही है जितना स्टैटिक अनुमान लगाने पर होता है.
डाइनैमिक अनुमान में, अनुमान के लिए इंतज़ार का समय अक्सर चिंता का विषय होता है.
माफ़ करें, यह ज़रूरी नहीं है कि अनुमान में लगने वाले समय से जुड़ी समस्याओं को हल किया जा सके
ज़्यादा अनुमान सर्वर जोड़कर.
