Üretim makine öğrenimi sistemleri: Statik ve dinamik çıkarım

Tahmin, eğitilmiş bir modeli etiketlenmemiş örneklere uygulayarak tahmin yapma işlemidir. Genel olarak bir model, tahminleri iki şekilde çıkarabilir:

  • Statik çıkarım (çevrimdışı çıkarım veya toplu çıkarım olarak da bilinir), modelin bir dizi yaygın etiketlenmemiş örnek hakkında tahminler yapması ve ardından bu tahminleri bir yerde önbelleğe alması anlamına gelir.
  • Dinamik çıkarım (online çıkarım veya gerçek zamanlı çıkarım olarak da bilinir), modelin yalnızca talep üzerine (ör. bir müşteri tahmin istediğinde) tahmin yaptığı anlamına gelir.

Aşırı bir örnek vermek gerekirse, tahminde bulunması bir saat süren çok karmaşık bir model düşünün. Bu durum, statik çıkarım için mükemmel bir örnek olabilir:

Şekil 4. Statik çıkarım işleminde bir model, tahminler oluşturur ve bu tahminler daha sonra bir sunucuda önbelleğe alınır.
Şekil 4. Statik çıkarım işleminde bir model, tahminler oluşturur ve bu tahminler daha sonra bir sunucuda önbelleğe alınır.

 

Aynı karmaşık modelin yanlışlıkla statik çıkarım yerine dinamik çıkarım kullandığını varsayalım. Birçok istemci aynı saatte tahmin isteğinde bulunursa çoğu saatler veya günler boyunca bu tahmini almaz.

Şimdi, nispeten az miktarda hesaplama kaynağı kullanarak hızlıca (ör. 2 milisaniyede) çıkarım yapan bir model düşünün. Bu durumda istemciler, Şekil 5'te önerildiği gibi dinamik çıkarım yoluyla tahminleri hızlı ve verimli bir şekilde alabilir.

Şekil 5. Dinamik çıkarımda, model isteğe bağlı olarak tahminler çıkarır.
Şekil 5. Dinamik çıkarımda, model isteğe bağlı olarak tahminler çıkarır.

 

Statik çıkarım

Statik çıkarım belirli avantaj ve dezavantajlara sahiptir.

Avantajlar

  • Çıkarsama maliyeti konusunda çok fazla endişelenmenize gerek yoktur.
  • Tahminleri yayınlamadan önce tahminlerin doğrulamasını yapabilir.

Dezavantajları

  • Yalnızca önbelleğe alınmış tahminler sunabilir. Bu nedenle sistem, yaygın olmayan giriş örnekleri için tahmin sunamayabilir.
  • Güncelleme gecikmesi muhtemelen saat veya gün olarak ölçülür.

Dinamik çıkarım

Dinamik çıkarım, belirli avantajlar ve dezavantajlar sunar.

Avantajlar

  • Yeni öğeler geldikçe herhangi bir öğeyle ilgili tahminde bulunabilir. Bu, az kullanılan öğelerle ilgili tahminler için mükemmeldir.

Dezavantajları

  • Bilgi işlem yoğun ve gecikmeye duyarlı. Bu kombinasyon, model karmaşıklığını sınırlayabilir. Yani, karmaşık bir modelden daha hızlı tahminler çıkarabilecek daha basit bir model oluşturmanız gerekebilir.
  • İzleme ihtiyaçları daha yoğundur.

Alıştırmalar: Öğrendiklerinizi test edin

Aşağıdaki dört ifadeden hangi üçü statik çıkarım için doğrudur?
Sistem, çıkartılabilecek tahminleri sunmadan önce doğrulayabilir.
Model, tüm olası girişler için tahminler oluşturmalıdır.
Dünyadaki değişikliklere hızlı bir şekilde tepki verebilirsiniz.
Belirli bir giriş için model, dinamik çıkarımdan daha hızlı tahmin sunabilir.
Aşağıdaki ifadelerden hangisi dinamik çıkarım için doğrudur?
Dinamik çıkarım yaparken, statik çıkarım yaparken olduğu kadar tahmin gecikmesi (tahminlerin döndürülmesi için gecikme süresi) hakkında endişelenmenize gerek yoktur.
Olası tüm öğeler için tahminler sağlayabilirsiniz.
Tahminleri kullanılmadan önce doğrulama sonrası işlem yapabilirsiniz.