Birçok problem için çıktı olarak olasılık tahmini gerekir. Mantıksal regresyon, olasılıkları hesaplamak için son derece verimli bir mekanizmadır. Pratikte, döndürülen olasılığı aşağıdaki iki yöntemden biriyle kullanabilirsiniz:
"Olduğu gibi" uygulanır. Örneğin, spam tahmin modeli bir e-postayı
0.932girdisi ve çıktısı verir. Bu,93.2%olasılığı olduğu anlamına gelir. spam.İkili kategoriye dönüştürüldü
TrueveyaFalse,SpamveyaNot Spamgibi.
Bu modülde, mantıksal regresyon modeli çıktısının olduğu gibi kullanılmasına odaklanılır. Sınıflandırma modülünde bu çıktıyı nasıl ikili kategoriye dönüştüreceğinizi öğreneceksiniz.
Sigmoid işlevi
Mantıksal regresyon modelinin çıktıyı nasıl elde edeceğini merak ediyor olabilirsiniz. bir olasılığı temsil eder ve her zaman 0 ile 1 arasında bir değer çıkarır. Mantıksal işlevler olarak adlandırılan ve çıkışı bu özelliklere sahip bir işlev ailesi vardır. Standart lojistik fonksiyon, olarak da bilinen sigmoid işlevi (sigmoid "s şekilli" anlamına gelir), formül:
\[f(x) = \frac{1}{1 + e^{-x}}\]
Şekil 1'de sigmoid işlevinin ilgili grafiği gösterilmektedir.
x girdisi arttıkça sigmoid işlevinin çıktısı yaklaştıkça
ancak hiçbir zaman 1 değerine ulaşmaz. Benzer şekilde, giriş azaldıkça sigmoid işlevinin çıkışı 0 değerine yaklaşır ancak hiçbir zaman bu değere ulaşmaz.
Matematikle ilgili daha ayrıntılı bilgi için burayı tıklayın sigmoid işlevinin arkasında
Aşağıdaki tabloda, –7 ile 7 arasındaki girdi değerleri için sigmoid işlevinin çıkış değerleri gösterilmektedir. Sigmoid'in ne kadar hızlı yaklaştığına dikkat edin Negatif giriş değerlerini ve sigmoid'in ne kadar hızlı yaklaştıklarını azaltmak için 0 Pozitif giriş değerlerini artırmak için 1.
Ancak, giriş değeri ne kadar büyük veya küçük olursa olsun, çıktınız her zaman 0'dan büyük ve 1'den küçük olmalıdır.
| Giriş | Sigmoid çıkışı |
|---|---|
| -7 | 0,001 |
| -6 | 0,002 |
| -5 | 0,007 |
| -4 | 0,018 |
| -3 | 0,047 |
| -2 | 0,119 |
| -1 | 0,269 |
| 0 | 0,50 |
| 1 | 0,731 |
| 2 | 0,881 |
| 3 | 0,952 |
| 4 | 0,982 |
| 5 | 0,993 |
| 6 | 0,997 |
| 7 | 0,999 |
Sigmoid işlevini kullanarak doğrusal çıktıyı dönüştürme
Aşağıdaki denklem, bir lojistiğin doğrusal bileşenini regresyon modeli:
\[z = b + w_1x_1 + w_2x_2 + \ldots + w_Nx_N\]
Bu örnekte:
- z, doğrusal denklemin çıktısıdır. günlük olasılıkları.
- b yanlılıktır.
- w değerleri, modelin öğrendiği ağırlıklardır.
- x değerleri, belirli bir örnek için özellik değerleridir.
Mantıksal regresyon tahminini elde etmek için z değeri sigmoid işlevine iletilir ve 0 ile 1 arasında bir değer (olasılık) elde edilir:
\[y' = \frac{1}{1 + e^{-z}}\]
Bu örnekte:
- y', mantıksal regresyon modelinin çıkışıdır.
- z, doğrusal çıkıştır (önceki denklemde hesaplandığı şekilde).
Log olasılıkları hakkında daha fazla bilgi edinmek için burayı tıklayın.
$z = b + w_1x_1 + w_2x_2 + \ldots + w_Nx_N$ denkleminde z, aşağıdaki sigmoid işleviyle başlarsanız log olasılık olarak adlandırılır (burada $y$, olasılığı temsil eden mantıksal regresyon modelinin çıkışıdır):
$$y = \frac{1}{1 + e^{-z}}$$
Ve sonra z'yi çözelim:
$$ z = \log\left(\frac{y}{1-y}\right) $$
Bu durumda z, olasılıkların oranının günlüğü olarak tanımlanır y ve 1 – y şeklinde özetlenebilir.
Şekil 2'de, doğrusal çıktının bu hesaplamalar kullanılarak mantıksal regresyon çıktısına nasıl dönüştürüldüğü gösterilmektedir.
Şekil 2'de doğrusal bir denklem, sigmoid işlevinin girdisi bükülen düz çizgiyi s şeklinde döndürür. Doğrusal denklemin çok büyük veya çok küçük z değerleri döndürebileceğini ancak sigmoid işlevinin çıktısının (y') her zaman 0 ile 1 arasında olduğunu unutmayın. Örneğin, sarı renk sol grafikteki karenin z değeri –10'dur, ancak sağ grafik, -10'un y'ye dönüşmesini sağlar değerine ayarlanır.
Alıştırma: Öğrendiklerinizi sınayın
Üç özelliğe sahip bir mantıksal regresyon modeli aşağıdaki sapmaya ve ağırlıklar:
\[\begin{align} b &= 1 \\ w_1 &= 2 \\ w_2 &= -1 \\ w_3 &= 5 \end{align} \]
Aşağıdaki giriş değerlerine göre:
\[\begin{align} x_1 &= 0 \\ x_2 &= 10 \\ x_3 &= 2 \end{align} \]
Aşağıdaki iki soruyu yanıtlayın.
Yukarıdaki 1. adımda hesaplandığı gibi, giriş değerlerinin günlük olasılıkları 1'dir. Bu z değerini sigmoid işlevine eklemek:
\(y = \frac{1}{1 + e^{-z}} = \frac{1}{1 + e^{-1}} = \frac{1}{1 + 0.367} = \frac{1}{1.367} = 0.731\)