Üretim makine öğrenimi sistemleri: Statik ve dinamik çıkarım
Tahmin, eğitilmiş bir modeli etiketlenmemiş örneklere uygulayarak tahmin yapma işlemidir.
Genel olarak bir model, tahminleri iki şekilde çıkarabilir:
Statik çıkarım (çevrimdışı çıkarım veya toplu çıkarım olarak da bilinir), modelin bir dizi yaygın etiketlenmemiş örnek hakkında tahminler yapması ve ardından bu tahminleri bir yerde önbelleğe alması anlamına gelir.
Dinamik çıkarım (online çıkarım veya gerçek zamanlı çıkarım olarak da bilinir), modelin yalnızca talep üzerine (ör. bir müşteri tahmin istediğinde) tahmin yaptığı anlamına gelir.
Aşırı bir örnek vermek gerekirse, tahminde bulunması bir saat süren çok karmaşık bir model düşünün.
Bu durum, statik çıkarım için mükemmel bir örnek olabilir:
Şekil 4. Statik çıkarım işleminde bir model, tahminler oluşturur ve bu tahminler daha sonra bir sunucuda önbelleğe alınır.
Aynı karmaşık modelin yanlışlıkla statik çıkarım yerine dinamik çıkarım kullandığını varsayalım. Birçok istemci aynı saatte tahmin isteğinde bulunursa çoğu saatler veya günler boyunca bu tahmini almaz.
Şimdi, nispeten az miktarda hesaplama kaynağı kullanarak hızlıca (ör. 2 milisaniyede) çıkarım yapan bir model düşünün. Bu durumda istemciler, Şekil 5'te önerildiği gibi dinamik çıkarım yoluyla tahminleri hızlı ve verimli bir şekilde alabilir.
Şekil 5. Dinamik çıkarımda, model isteğe bağlı olarak tahminler çıkarır.
Statik çıkarım
Statik çıkarım belirli avantaj ve dezavantajlara sahiptir.
Avantajlar
Çıkarsama maliyeti konusunda çok fazla endişelenmenize gerek yoktur.
Tahminleri yayınlamadan önce tahminlerin doğrulamasını yapabilir.
Dezavantajları
Yalnızca önbelleğe alınmış tahminler sunabilir. Bu nedenle sistem, yaygın olmayan giriş örnekleri için tahmin sunamayabilir.
Güncelleme gecikmesi muhtemelen saat veya gün olarak ölçülür.
Dinamik çıkarım
Dinamik çıkarım, belirli avantajlar ve dezavantajlar sunar.
Avantajlar
Yeni öğeler geldikçe herhangi bir öğeyle ilgili tahminde bulunabilir. Bu, az kullanılan öğelerle ilgili tahminler için mükemmeldir.
Dezavantajları
Bilgi işlem yoğun ve gecikmeye duyarlı. Bu kombinasyon, model karmaşıklığını sınırlayabilir. Yani, karmaşık bir modelden daha hızlı tahminler çıkarabilecek daha basit bir model oluşturmanız gerekebilir.
İzleme ihtiyaçları daha yoğundur.
Alıştırmalar: Öğrendiklerinizi test edin
Aşağıdaki dört ifadeden hangi üçü statik çıkarım için doğrudur?
Model, tüm olası girişler için tahminler oluşturmalıdır.
Evet, model tüm olası girişler için tahminler yapmalı ve bunları bir önbellekte veya arama tablosunda saklamalıdır.
Modelin tahmin ettiği öğe grubu sınırlıysa statik çıkarım iyi bir seçim olabilir.
Ancak, sıra dışı veya nadir öğelerin çok fazla olduğu kullanıcı sorguları gibi serbest biçimli girişler için statik çıkarım tam kapsamlı bir çözüm sunamaz.
Sistem, çıkartılabilecek tahminleri sunmadan önce doğrulayabilir.
Evet, bu sabit çıkarım özelliğinin yararlı bir yönüdür.
Belirli bir giriş için model, dinamik çıkarımdan daha hızlı tahmin sunabilir.
Evet, statik çıkarım neredeyse her zaman tahminleri dinamik çıkarıma kıyasla daha hızlı yayınlayabilir.
Dünyadaki değişikliklere hızlı bir şekilde tepki verebilirsiniz.
Hayır, bu durum statik çıkarımla ilgili bir dezavantajdır.
Aşağıdaki ifadelerden hangisi dinamik çıkarım için doğrudur?
Olası tüm öğeler için tahminler sağlayabilirsiniz.
Evet, bu dinamik çıkarım özelliğinin bir avantajıdır. Gelen her istek bir puan alır. Dinamik çıkarım, film yorumlarında yazılan tüm olası cümlelerin alanı gibi uzun kuyruk dağılımlarını (çok sayıda nadir öğe içerenler) işler.
Tahminleri kullanılmadan önce doğrulama sonrası işlem yapabilirsiniz.
Genel olarak, tahminler isteğe bağlı olarak yapıldığından tüm tahminlerin kullanılmadan önce doğrulanması mümkün değildir. Ancak, belirli bir düzeyde kalite kontrolü sağlamak için toplu tahmin kalitesini izleyebilirsiniz. Ancak bu değerler, yangın alarmını yalnızca yangının yayılmasından sonra verir.
Dinamik çıkarım yaparken, statik çıkarım yaparken olduğu kadar tahmin gecikmesi (tahminlerin döndürülmesi için gecikme süresi) hakkında endişelenmenize gerek yoktur.
Tahmin gecikmesi, dinamik çıkarım için genellikle gerçek bir endişe kaynağıdır.
Maalesef daha fazla çıkarım sunucusu ekleyerek tahmin gecikmesi sorunlarını her zaman düzeltemezsiniz.
