デシジョン フォレスト

デシジョン フォレストは、複数のディシジョン ツリーで構成されるモデルを表す一般的な用語です。デシジョン フォレストの予測は、そのディシジョン ツリーの予測の集計です。この集計の実装は、デシジョン フォレストのトレーニングに使用されるアルゴリズムによって異なります。たとえば、マルチクラス分類ランダム フォレスト(ディシジョン フォレストの一種)では、各ツリーが 1 つのクラスに投票し、ランダム フォレストの予測が最も代表的なクラスになります。二値分類の勾配ブースト ツリー(GBT)(別のタイプのディシジョン フォレスト)では、各ツリーがロジット(浮動小数点値)を出力し、勾配ブースト ツリーの予測は、それらの値の合計に活性化関数(シグモイドなど)が続くものです。

次の 2 章では、これらの 2 つの決定木アルゴリズムについて詳しく説明します。