أنظمة تعلُّم الآلة للإنتاج: الاستنتاج الثابت مقابل الاستنتاج الديناميكي
تنظيم صفحاتك في مجموعات
يمكنك حفظ المحتوى وتصنيفه حسب إعداداتك المفضّلة.
الاستنتاج هو عملية
إجراء تنبؤات من خلال تطبيق نموذج مدرَّب على
أمثلة غير مصنّفة.
بشكل عام، يمكن للنموذج استنتاج التوقّعات بإحدى الطريقتَين التاليتَين:
النمذجة الثابتة (المعروفة أيضًا باسم النمذجة بلا إنترنت أو
النمذجة المجمّعة) تعني أنّ النموذج يقدّم توقّعات بشأن مجموعة من
الأمثلة غير المصنّفة
ثم يخزّن هذه التوقّعات في مكان ما.
الاستنتاج الديناميكي (يُعرف أيضًا باسم الاستنتاج على الإنترنت أو
الاستنتاج في الوقت الفعلي) يعني أنّ النموذج لا يضع توقّعات إلا عند الطلب،
مثلاً عندما يطلب العميل توقّعات.
ولنوضّح ذلك، لنفترض أنّ هناك نموذجًا معقّدًا للغاية يحتاج إلى ساعة واحدة لاستنتاج توقّع.
قد يكون هذا مثالاً ممتازًا للاستنتاج الثابت:
الشكل 4. في الاستنتاج الثابت، ينشئ النموذج توقّعات،
ويتم تخزينها مؤقتًا على خادم.
لنفترض أنّ هذا النموذج المعقّد نفسه يستخدم عن طريق الخطأ الاستنتاج الديناميكي بدلاً من
الاستنتاج الثابت. إذا طلب العديد من العملاء توقّعات في الوقت نفسه تقريبًا، لن يتلقّى معظمهم هذه التوقّعات لعدّة ساعات أو أيام.
لنفترض الآن أنّ هناك نموذجًا يستنتج المعلومات بسرعة، ربما في مليсекتَين باستخدام
الحد الأدنى النسبي للموارد الحسابية. في هذه الحالة، يمكن للعملاء
تلقّي التوقّعات بسرعة وكفاءة من خلال الاستنتاج الديناميكي، كما هو موضح في الشكل 5.
الشكل 5. في الاستنتاج الديناميكي، يستنتج النموذج التوقّعات عند الطلب.
الاستنتاج الثابت
توفّر الاستنتاج الثابت مزايا وعيوبًا معيّنة.
المزايا
لا داعي للقلق كثيرًا بشأن تكلفة الاستنتاج.
يمكن إجراء عملية التحقّق من التوقّعات بعد إرسالها.
السلبيات
يمكن عرض التوقّعات المخزّنة مؤقتًا فقط، لذا قد لا يكون النظام قادرًا على
عرض توقّعات لأمثلة الإدخال غير الشائعة.
من المرجّح أن يتم قياس وقت استجابة التعديل بالساعات أو الأيام.
الاستنتاج الديناميكي
توفّر الاستنتاج الديناميكي مزايا وعيوبًا معيّنة.
المزايا
يمكنه استنتاج توقّع بشأن أي عنصر جديد عند وصوله، ما
يُعدّ أمرًا رائعًا للتوقّعات المتعلقة بالعناصر الأقل شيوعًا.
السلبيات
تتطلّب معالجة مكثفة وتستجيب ببطء للطلبات. قد يحدّ هذا المزيج من
تعقيد النموذج، أي أنّه قد يكون عليك إنشاء نموذج أبسط يمكنه
استنتاج التوقّعات بشكل أسرع من النموذج المعقّد.
احتياجات المراقبة أكثر كثافة.
تمارين: التحقّق من فهمك
أي ثلاثة من العبارات الأربعة التالية هي
صحيحة بشأن الاستنتاج الثابت؟
يجب أن يُنشئ النموذج توقّعات لجميع المدخلات المحتمَلة.
نعم، يجب أن يقدّم النموذج توقّعات لجميع المدخلات المحتملة ويحفظها في ذاكرة تخزين مؤقت أو جدول بحث.
إذا كانت مجموعة الأشياء التي يتوقّع النموذج حدوثها محدودة، قد يكون
الاستنتاج الثابت خيارًا جيدًا.
ومع ذلك، بالنسبة إلى الإدخالات الحرة الشكل، مثل طلبات بحث المستخدمين التي تحتوي على
قائمة طويلة من العناصر غير المعتادة أو النادرة، لا يمكن للاستنتاج الثابت أن يوفّر coverage
كاملة.
يمكن للنظام التحقّق من التوقّعات المستنتَجة قبل عرضها.
نعم، هذا جانب مفيد من الاستنتاج الثابت.
بالنسبة إلى إدخال معيّن، يمكن للنموذج تقديم توقّع بشكل أسرع
من الاستنتاج الديناميكي.
نعم، يمكن أن تقدّم الاستنتاجات الثابتة في معظم الأحيان توقّعات بشكل أسرع
من الاستنتاجات الديناميكية.
يمكنك الاستجابة بسرعة للتغييرات في العالم.
لا، هذا عيب في الاستنتاج الثابت.
أي عبارة من العبارات التالية هي
صحيحة بشأن الاستنتاج الديناميكي؟
يمكنك تقديم توقّعات لجميع العناصر المحتمَلة.
نعم، هذه هي إحدى نقاط قوة الاستنتاج الديناميكي. سيتم منح أي طلب
يصل إلى حسابك نتيجة. تعالج الاستنتاجات الديناميكية توزيعات
الذيل الطويل (تلك التي تحتوي على العديد من العناصر النادرة)، مثل مساحة كل
الجمل المحتمَلة المكتوبة في مراجعات الأفلام.
يمكنك التحقّق من التنبؤات بعد إنشائها قبل
استخدامها.
بشكل عام، لا يمكن إجراء عملية التحقّق من كل التوقعات بعد إجرائها قبل استخدامها لأنّه يتم إجراء التوقعات عند الطلب. ومع ذلك، يمكنك مراقبة القيم الإجمالية للتوقّعات من أجل توفير مستوى معيّن من التحقّق من الجودة، ولكنّ هذه القيم لن تُرسل إنذارات الحريق إلا بعد أن ينتشر الحريق.
عند إجراء الاستنتاج الديناميكي، لا داعي للقلق
بشأن وقت استجابة التوقّعات (وقت التأخير لعرض التوقّعات)
بقدر ما هو عليه الحال عند إجراء الاستنتاج الثابت.
غالبًا ما يكون وقت استجابة التوقّعات مصدر قلق حقيقي في الاستنتاج الديناميكي.
لا يمكنك بالضرورة حلّ مشاكل وقت استجابة التوقّعات
من خلال إضافة المزيد من خوادم الاستنتاج.
تاريخ التعديل الأخير: 2025-07-27 (حسب التوقيت العالمي المتفَّق عليه)
[null,null,["تاريخ التعديل الأخير: 2025-07-27 (حسب التوقيت العالمي المتفَّق عليه)"],[[["\u003cp\u003eInference involves using a trained model to make predictions on unlabeled examples, and it can be done statically or dynamically.\u003c/p\u003e\n"],["\u003cp\u003eStatic inference generates predictions in advance and caches them, making it suitable for scenarios where prediction speed is critical but limiting its ability to handle uncommon inputs.\u003c/p\u003e\n"],["\u003cp\u003eDynamic inference generates predictions on demand, offering flexibility for diverse inputs but potentially increasing latency and computational demands.\u003c/p\u003e\n"],["\u003cp\u003eChoosing between static and dynamic inference depends on factors like model complexity, desired prediction speed, and the nature of the input data.\u003c/p\u003e\n"],["\u003cp\u003eStatic inference is advantageous when cost and prediction verification are prioritized, while dynamic inference excels in handling diverse, real-time predictions.\u003c/p\u003e\n"]]],[],null,["# Production ML systems: Static versus dynamic inference\n\n[**Inference**](/machine-learning/glossary#inference) is the process of\nmaking predictions by applying a trained model to\n[**unlabeled examples**](/machine-learning/glossary#unlabeled_example).\nBroadly speaking, a model can infer predictions in one of two ways:\n\n- **Static inference** (also called **offline inference** or **batch inference** ) means the model makes predictions on a bunch of common [**unlabeled examples**](/machine-learning/glossary#unlabeled_example) and then caches those predictions somewhere.\n- **Dynamic inference** (also called **online inference** or real-time inference) means that the model only makes predictions on demand, for example, when a client requests a prediction.\n\nTo use an extreme example, imagine a very complex model that\ntakes one hour to infer a prediction.\nThis would probably be an excellent situation for static inference:\n**Figure 4.** In static inference, a model generates predictions, which are then cached on a server.\n\nSuppose this same complex model mistakenly uses dynamic inference instead of\nstatic inference. If many clients request predictions around the same time,\nmost of them won't receive that prediction for hours or days.\n\nNow consider a model that infers quickly, perhaps in 2 milliseconds using a\nrelative minimum of computational resources. In this situation, clients can\nreceive predictions quickly and efficiently through dynamic inference, as\nsuggested in Figure 5.\n**Figure 5.** In dynamic inference, a model infers predictions on demand.\n\nStatic inference\n----------------\n\nStatic inference offers certain advantages and disadvantages.\n\nAdvantages\n\n- Don't need to worry much about cost of inference.\n- Can do post-verification of predictions before pushing.\n\nDisadvantages\n\n- Can only serve cached predictions, so the system might not be able to serve predictions for uncommon input examples.\n- Update latency is likely measured in hours or days.\n\nDynamic inference\n-----------------\n\nDynamic inference offers certain advantages and disadvantages.\n\nAdvantages\n\n- Can infer a prediction on *any* new item as it comes in, which is great for long tail (less common) predictions.\n\nDisadvantages\n\n- Compute intensive and latency sensitive. This combination may limit model complexity; that is, you might have to build a simpler model that can infer predictions more quickly than a complex model could.\n- Monitoring needs are more intensive.\n\nExercises: Check your understanding\n-----------------------------------\n\nWhich **three** of the following four statements are true of static inference? \nThe model must create predictions for all possible inputs. \nYes, the model must make predictions for all possible inputs and store them in a cache or lookup table. If the set of things that the model is predicting is limited, then static inference might be a good choice. However, for free-form inputs like user queries that have a long tail of unusual or rare items, static inference can't provide full coverage. \nThe system can verify inferred predictions before serving them. \nYes, this is a useful aspect of static inference. \nFor a given input, the model can serve a prediction more quickly than *dynamic* inference. \nYes, static inference can almost always serve predictions faster than dynamic inference. \nYou can react quickly to changes in the world. \nNo, this is a disadvantage of static inference. \nWhich **one** of the following statements is true of dynamic inference? \nYou can provide predictions for all possible items. \nYes, this is a strength of dynamic inference. Any request that comes in will be given a score. Dynamic inference handles long-tail distributions (those with many rare items), like the space of all possible sentences written in movie reviews. \nYou can do post-verification of predictions before they are used. \nIn general, it's not possible to do a post-verification of all predictions before they get used because predictions are being made on demand. You can, however, potentially monitor *aggregate* prediction qualities to provide some level of quality checking, but these will signal fire alarms only after the fire has already spread. \nWhen performing dynamic inference, you don't need to worry about prediction latency (the lag time for returning predictions) as much as when performing static inference. \nPrediction latency is often a real concern in dynamic inference. Unfortunately, you can't necessarily fix prediction latency issues by adding more inference servers.\n| **Key terms:**\n|\n| - [Example](/machine-learning/glossary#example)\n| - [Inference](/machine-learning/glossary#inference)\n- [Unlabeled example](/machine-learning/glossary#unlabeled_example) \n[Help Center](https://support.google.com/machinelearningeducation)"]]
