Karar ormanı, birden fazla karar ağacından yapılmış modelleri açıklamak için kullanılan genel bir terimdir. Karar ormanı, tahmin ağaçlarının tahminlerinin toplamıdır. Bu toplama, karar ormanını eğitmek için kullanılan algoritmaya bağlıdır. Örneğin, çok sınıflı sınıflandırmada rastgele bir ormanda (bir tür karar ormanı) her ağaç tek bir sınıfa karşılık gelir ve rastgele orman tahmini en temsil edilen sınıftır. İkili sınıflandırma gradyanının artırıldığı Ağaç (GBT) (başka bir karar ormanı türü) içinde her ağaç bir logarit (kayan nokta değeri) verir ve gradyan artırılan ağaç tahmini bu değerlerin toplamının ardından bir etkinleştirme işlevinin ardından (ör. sigmoid) elde edilir.
Sonraki iki bölümde bu iki orman algoritmasının ayrıntıları verilmiştir.