「決策樹」是一種一般字詞,用來描述由多個決策樹建構的模型。決策樹的預測是決策樹狀結構的預測匯總。這項匯總功能的實作方式取決於訓練決策森林時採用的演算法。例如,在多類別分類隨機森林 (一種決策森林) 中,每個樹狀結構都會針對單一類別進行投票,而隨機森林預測則為代表的類別。在二進位分類梯度提升樹狀結構 (GBT) (另一種類型的決策森林) 中,每個樹狀結構都會輸出一個 logit (浮點值),而梯度增強樹狀結構預測值加上這些值之後的總和 (例如 sigmoid)。
下一章將會說明這兩個決策森林演算法。