ディシジョン フォレストとは、複数のディシジョン ツリーで構成されるモデルを表す一般的な用語です。ディシジョン フォレストの予測は、そのディシジョン ツリーの予測の集計です。この集計の実装は、デシジョン フォレストのトレーニングに使用されるアルゴリズムによって異なります。たとえば、マルチクラス分類ランダム フォレスト（ディシジョン フォレストの一種）では、各ツリーが 1 つのクラスに投票し、ランダム フォレスト予測が最も代表的なクラスです。二項分類勾配ブースティング ツリー（GBT）（別のタイプのデシジョン フォレスト）では、各ツリーがロジット（浮動小数点値）を出力します。勾配ブースティング ツリー予測は、それらの値の合計値と有効化関数（sigmoid など）を合わせたものです。
次の 2 つの章では、これら 2 つのデシジョン フォレスト アルゴリズムについて詳しく説明します。