Birçok problem için çıktı olarak olasılık tahmini gerekir. Mantıksal regresyon bir mekanizmadır. Pratik olarak döndürülen olasılığı aşağıdakilerden herhangi birinde kullanabilirsiniz: iki yol vardır:
"Olduğu gibi" uygulanır. Örneğin, spam tahmin modeli bir e-postayı
0.932değerini girdi ve çıktıysa bu,93.2%olasılık anlamına gelir. spam olduğundan emin olun.İkili kategoriye dönüştürüldü
TrueveyaFalse,SpamveyaNot Spamgibi.
Bu modülde mantıksal regresyon modeli çıktısını olduğu gibi kullanmaya odaklanacağız. Sınıflandırma modülünde, bu çıktıyı ikili kategorisine dönüştürür.
Sigmoid işlevi
Mantıksal regresyon modelinin çıktıyı nasıl elde edeceğini merak ediyor olabilirsiniz. bir olasılığı temsil eder ve her zaman 0 ile 1 arasında bir değer çıkarır. İlk olarak mantıksal işlevler adı verilen bir işlev ailesi vardır. ortak bir paydada buluşturur. Standart lojistik fonksiyon, olarak da bilinir sigmoid işlevi (sigmoid "s şekilli" anlamına gelir), formül:
\[f(x) = \frac{1}{1 + e^{-x}}\]
Şekil 1'de, sigmoid işlevinin karşılık gelen grafiği gösterilmektedir.
x girdisi arttıkça sigmoid işlevinin çıktısı yaklaştıkça
ancak hiçbir zaman 1 değerine ulaşmaz. Benzer şekilde, giriş azaldıkça sigmoid de
işlevinin çıktısı yaklaşımlara yaklaşır ancak hiçbir zaman 0 değerine ulaşmaz.
Matematikle ilgili daha ayrıntılı bilgi için burayı tıklayın sigmoid işlevinin arkasında
Aşağıdaki tabloda giriş değerleri olarak kullanabilirsiniz. Sigmoid'in ne kadar hızlı yaklaştığına dikkat edin Negatif giriş değerlerini ve sigmoid'in ne kadar hızlı yaklaştıklarını azaltmak için 0 Pozitif giriş değerlerini artırmak için 1.
Ancak, giriş değeri ne kadar büyük veya küçük olursa olsun, çıktınız her zaman 0'dan büyük ve 1'den küçük olmalıdır.
| Giriş | Sigmoid çıkışı |
|---|---|
| -7 | 0,001 |
| -6 | 0,002 |
| -5 | 0,007 |
| -4 | 0,018 |
| -3 | 0,047 |
| -2 | 0,119 |
| -1 | 0,269 |
| 0 | 0,50 |
| 1 | 0,731 |
| 2 | 0,881 |
| 3 | 0,952 |
| 4 | 0,982 |
| 5 | 0,993 |
| 6 | 0,997 |
| 7 | 0,999 |
Sigmoid işlevini kullanarak doğrusal çıktıyı dönüştürme
Aşağıdaki denklem, bir lojistiğin doğrusal bileşenini regresyon modeli:
\[z = b + w_1x_1 + w_2x_2 + \ldots + w_Nx_N\]
Bu örnekte:
- z, doğrusal denklemin çıktısıdır. günlük olasılıkları.
- b yanlılıktır.
- w değerleri, modelin öğrenilen ağırlıklarıdır.
- x değerleri belirli bir örneğin özellik değerleridir.
Mantıksal regresyon tahminini elde etmek için z değeri, 0 ile 1 arasında bir değer (olasılık) veren sigmoid fonksiyonu:
\[y' = \frac{1}{1 + e^{-z}}\]
Bu örnekte:
- y', mantıksal regresyon modelinin çıktısıdır.
- z, doğrusal çıktıdır (önceki denklemde hesaplandığı gibi).
Daha fazla bilgi edinmek için burayı tıklayın log-odds
$z = b + w_1x_1 + w_2x_2 + \ldots + w_Nx_N$, z denkleminde log-odds olarak adlandırılır çünkü aşağıdaki sigmoid fonksiyonu (burada $y$, lojistik regresyon modeli (bir olasılığı temsil eden):
$$y = \frac{1}{1 + e^{-z}}$$
Ve sonra z'yi çözelim:
$$ z = \log\left(\frac{y}{1-y}\right) $$
Bu durumda z, olasılıkların oranının günlüğü olarak tanımlanır y ve 1 – y şeklinde özetlenebilir.
Şekil 2'de doğrusal çıktının mantıksal regresyona nasıl dönüştürüldüğü gösterilmektedir çıkış elde edersiniz.
Şekil 2'de doğrusal bir denklem, sigmoid işlevinin girdisi bükülen düz çizgiyi s şeklinde döndürür. Doğrusal denklemin çok büyük veya çok küçük z değerleri oluşturabilir, ancak sigmoid çıktısı işlevi, y', her zaman 0 ile 1 arasındadır (bu değerler hariç). Örneğin, turuncu sol grafikteki dikdörtgenin z değeri -10'dur, ancak alttaki sigmoid fonksiyonu -10'un y'ye dönüştüğünü gösteren sağ grafik değerine ayarlanır.
Alıştırma: Öğrendiklerinizi sınayın
Üç özelliğe sahip bir mantıksal regresyon modeli aşağıdaki sapmaya ve ağırlıklar:
\[\begin{align} b &= 1 \\ w_1 &= 2 \\ w_2 &= -1 \\ w_3 &= 5 \end{align} \]
Aşağıdaki giriş değerlerine göre:
\[\begin{align} x_1 &= 0 \\ x_2 &= 10 \\ x_3 &= 2 \end{align} \]
Aşağıdaki iki soruyu yanıtlayın.
Yukarıdaki 1. adımda hesaplandığı gibi, giriş değerlerinin günlük olasılıkları 1'dir. Bu z değerini sigmoid işlevine eklemek:
\(y = \frac{1}{1 + e^{-z}} = \frac{1}{1 + e^{-1}} = \frac{1}{1 + 0.367} = \frac{1}{1.367} = 0.731\)