真陽性、偽陽性和偽陰性會用於計算多項有用的評估模型指標。最有意義的評估指標取決於特定模型和特定工作、不同錯誤分類的成本,以及資料集是否平衡或不平衡。
本節中的所有指標都是以單一固定門檻計算,並在門檻變更時一併變動。使用者通常會調整門檻,以便最佳化其中一個指標。
準確率
準確率是指所有分類 (無論是正確或錯誤) 正確的比例。其數學定義如下:
\[\text{Accuracy} = \frac{\text{correct classifications}}{\text{total classifications}} = \frac{TP+TN}{TP+TN+FP+FN}\]
在垃圾郵件分類範例中,準確率是用來評估所有電子郵件正確分類的比例。
完美的模型不會有偽陽性和偽陰性,因此準確度為 1.0,或 100%。
由於準確度會納入混淆矩陣的所有四種結果 (TP、FP、TN、FN),因此在平衡資料集的情況下,兩個類別的範例數量相近,準確度可做為評估模型品質的粗略指標。因此,這通常是執行一般或未指定工作時,用於一般或未指定模型的預設評估指標。
不過,如果資料集不平衡,或是某種錯誤 (FN 或 FP) 的成本高於另一種錯誤,這在大多數實際應用中都會發生,建議改為針對其他指標進行最佳化。
針對極不平衡的資料集,有一個類別很少出現 (例如 1% 的時間),儘管模型預測到負 100% 的時間,但卻很少用到,但模型仍有 99% 的準確率。
喚回度或真陽率
真陽率 (TPR),或所有實際正類正確歸類為正類的比例,也稱為喚回率。
喚回度在數學上定義如下:
\[\text{Recall (or TPR)} = \frac{\text{correctly classified actual positives}}{\text{all actual positives}} = \frac{TP}{TP+FN}\]
偽陰性是實際的陽性個案,但被誤分類為陰性個案,因此會出現在分母中。在垃圾郵件分類範例中,喚回度會評估遭正確歸類為垃圾郵件的垃圾郵件比例。因此,回憶率的另一個名稱是「偵測機率」:這個名稱會回答「這個模型偵測到的垃圾郵件有多少比例?」
假設完美模型的偽陰性為零,則回朔率 (TPR) 為 1.0,也就是 100% 的偵測率。
在實際正例數量極低 (例如總共只有 1 到 2 個例子) 的不平衡資料集中,召回率作為指標就沒有那麼有意義,也沒有那麼實用。
偽陽率
偽陽率 (FPR) 是指所有實際陰性項目中錯誤歸類為陽性的比例,也稱為誤報機率。其數學定義如下:
\[\text{FPR} = \frac{\text{incorrectly classified actual negatives}} {\text{all actual negatives}} = \frac{FP}{FP+TN}\]
偽陽性是實際的陰性項目,但被錯誤分類,因此會出現在分母中。在垃圾郵件分類範例中,FPR 會評估誤將正常電子郵件歸類為垃圾郵件的一小部分,或模型的誤報率。
一個完美模型不會有偽陽性,因此 FPR 為 0.0,也就是假設誤報率為 0%。
在實際負面例項數量非常少的資料集 (例如總共只有 1 到 2 個例項) 中,FPR 就沒有那麼有意義,也不太適合作為評估指標。
精確度
精確度是指模型所有正向分類中,實際為正向的比例。在數學上,它定義如下:
\[\text{Precision} = \frac{\text{correctly classified actual positives}} {\text{everything classified as positive}} = \frac{TP}{TP+FP}\]
在垃圾郵件分類範例中,精確度是指實際上為垃圾郵件的電子郵件中,歸類為垃圾郵件的郵件比例。
假設完美模型的偽陽性為零,因此精確度為 1.0。
在實際正例數量非常低的資料集 (例如總共只有 1 到 2 個例子) 中,精確度作為指標就沒有那麼有意義和實用。
偽陽性越少,精確度就會提高;偽陰性越少,召回率就會提高。不過,如前文所述,提高分類門檻通常會減少偽陽性數量,並增加偽陰性數量,而降低門檻則會產生相反的效果。因此,精確度和喚回率通常呈現反比關係,也就是說,改善其中一個指標會使另一個指標惡化。
歡迎親自試用:
指標中的 NaN 代表什麼?
除以 0 時會顯示 NaN (「非數字」),而這可能發生在任何指標中。舉例來說,當 TP 和 FP 都為 0 時,精確度的公式分母會是 0,導致 NaN。雖然在某些情況下,NaN 可代表完美成效,且可由 1.0 分數取代,但它也可能來自實際上無用的模型。舉例來說,如果模型從未預測為正面,則 TP 和 FP 會為 0,因此精確度計算結果會為 NaN。
指標與權衡取捨
您在評估模型和選擇閾值時,選擇優先考量的指標,取決於特定問題的成本、效益和風險。在垃圾郵件分類範例中,通常會優先考量喚回率,也就是抓出所有垃圾郵件,或是精確度,也就是盡可能確保標示為垃圾郵件的電子郵件確實為垃圾郵件,或是兩者之間的平衡,也就是在某個最低準確度水準之上。
指標 | 指引 |
---|---|
準確率 | 可用於衡量平衡資料集的模型訓練進度/收斂情形。 請只與其他指標搭配使用,以便提升模型成效。 請避免使用不平衡的資料集。建議您改用其他指標。 |
喚回度 (真陽率) |
用於偽陰性費用比偽陽性更高。 |
偽陽率 | 當偽陽性比偽陰性更昂貴時,請使用此選項。 |
精確度 | 只有在必須重視正向的預測結果才能準確時,才使用此選項。 |
(選用、進階) F1 分數
F1 分數是精確度與喚回度的調和平均數 (一種平均值)。
從數學角度來看,這項值的計算方式如下:
這項指標在平衡精確度與喚回度的重要性時,建議用於資料集不平衡資料集的準確率。當精確度和喚回率都達到滿分 1.0 時,F1 也會達到滿分 1.0。更廣義來說,當精確度和喚回率的值相近時,F1 也會接近這兩個值。當精確度和喚回率相差甚遠時,F1 會與較差的指標相似。