Üretim makine öğrenimi sistemleri: Statik ve dinamik çıkarım

Çıkarım, süreç boyunca eğitilmiş bir modeli uygulayarak etiketsiz örnekler. Genel olarak, bir model tahminleri iki şekilde tahmin edebilir:

  • Statik çıkarım (çevrimdışı çıkarım veya toplu çıkarım) tahminde bulunmak anlamına gelir. yaygın etiketsiz örnekler sonra da bu tahminleri bir yerde önbelleğe alır.
  • Dinamik çıkarım (online çıkarım veya gerçek zamanlı olarak da adlandırılır) çıkarım), modelin yalnızca talep üzerine tahminde bulunduğu anlamına gelir. Örneğin, istemci tahmin istediğinde

Uç bir örnek kullanmak için, çok karmaşık bir model hayal edin. yaklaşık 1 saat sürer. Bu muhtemelen statik çıkarım için mükemmel bir durum olur:

Şekil 4. Statik çıkarımda model, tahmin üretir.
            Bunlar daha sonra bir sunucuda önbelleğe alınır.
Şekil 4. Statik çıkarımda model, tahmin üretir. Bunlar daha sonra bir sunucuda önbelleğe alınır.

 

Aynı karmaşık modelin statik çıkarım. Çok sayıda müşteri yaklaşık olarak aynı zamanda tahmin isterse çoğu kullanıcı o tahmini saatlerce veya günlerce almaz.

Şimdi basit bir değişken kullanarak, belki de 2 milisaniye içinde hızlı bir şekilde çıkarım yapan sayısal kaynakların göreceli minimumunu oluşturur. Bu durumda müşteriler Dinamik çıkarım yoluyla hızlı ve verimli bir şekilde tahminler almak için, Şekil 5'te gösterilmiştir.

Şekil 5. Dinamik çıkarımda, bir model tarafından yapılan tahminlere göre
            gösteriyoruz.
Şekil 5. Dinamik çıkarımda, bir model talep üzerine tahminde bulunur.

 

Statik çıkarım

Statik çıkarım, belirli avantajlar ve dezavantajlar sunar.

Avantajları

  • Çıkarım maliyeti konusunda çok fazla endişelenmenize gerek yoktur.
  • Tahminleri aktarmadan önce doğrulama sonrası doğrulama yapabilir.

Dezavantajları

  • Yalnızca önbelleğe alınmış tahminleri sunabilir. Bu nedenle, sistem benzersiz giriş örnekleri için tahmin sunabiliriz.
  • Güncelleme gecikmesi büyük olasılıkla saat veya gün cinsinden ölçülür.

Dinamik çıkarım

Dinamik çıkarım, bazı avantajlar ve dezavantajlar sunar.

Avantajları

  • Yeni öğe geldikçe herhangi bir öğe hakkında tahminde bulunabilir. uzun kuyruk (daha az yaygın) tahminler için idealdir.

Dezavantajları

  • Yoğun ve gecikmeli işlem yapın. Bu kombinasyon, modeli sınırlandırabilir karmaşıklık; diğer bir deyişle, bu eğitimi tamamlamak için Tahminler, karmaşık bir modelin yapabileceğinden daha hızlı çıkarımda bulunur.
  • İzleme ihtiyaçları daha yoğundur.

Alıştırmalar: Öğrendiklerinizi sınayın

Aşağıdaki dört ifadeden hangi üçü doğrudur doğru mu?
Model, olası tüm girişler için tahmin oluşturmalıdır.
Evet, modelin olası tüm girişler için tahminde bulunması ve bunları bir önbellek veya arama tablosunda saklayabilirsiniz. Modelin tahmin ettiği şeyler kümesi sınırlıysa statik çıkarım iyi bir seçim olabilir. Ancak uzun bir sorguya sahip kullanıcı sorguları gibi serbest biçimli girişler için sıra dışı veya nadir öğelerin kuyruğu, statik çıkarım ilgili haberlere de yer verdik.
Sistem, reklam sunmadan önce, tahmin edilen tahminleri doğrulayabilir gerekir.
Evet, bu statik çıkarımda kullanılan yararlı bir özelliktir.
Belirli bir giriş için model, tahmini daha hızlı sunabilir dinamik çıkarımdan daha iyidir.
Evet, statik çıkarım neredeyse her zaman tahminleri daha hızlı sunabilir daha yüksek değer sağlar.
Dünyadaki değişikliklere hızlı tepki verebilirsiniz.
Hayır, bu statik çıkarımın dezavantajıdır.
Aşağıdaki ifadelerden biri doğru mu?
Olası tüm öğelerle ilgili tahmin sağlayabilirsiniz.
Evet, bu dinamik çıkarımın gücüdür. Projenin gidişatına dair puan verilecek. Dinamik çıkarım uzun kuyruk işlemleri (çok nadir bulunan öğeler içerenler), olası cümleleri belirlemeye çalışın.
Tahminlerin, son haline gelmeden önce bu düzenlemelerin nedenlerinden biri.
Genel olarak, tüm web sitelerinin onaylanması için çünkü bu tahminler hakkında daha fazla bilgi talep üzerine sunulur. Bununla birlikte, olası satışlarınızı sağlamak için toplu tahmin kaliteleri ancak bunlar, yangın alarmlarını ancak ateş çoktan sıçrama.
Dinamik çıkarım yaparken, tahmin gecikmesi (geri gelen tahminler için gecikme süresi) hakkında statik çıkarımda bulunur.
Tahmin gecikmesi, dinamik çıkarımda genellikle gerçek bir endişe kaynağıdır. Maalesef, tahmin gecikmesiyle ilgili sorunları daha fazla çıkarım sunucusu ekleyerek.
.