Karar Ormanları

Karar ağacı, birden fazla karar ağacından oluşan modelleri tanımlamak için kullanılan genel bir terimdir. Karar ormanının tahmini, karar ağaçlarının tahminlerinin toplamıdır. Bu toplama işleminin uygulanması, karar ormanını eğitmek için kullanılan algoritmaya bağlıdır. Örneğin, çok sınıflı sınıflandırma rastgele ormanında (bir karar ağacı türü) her ağaç tek bir sınıf için oy verir ve rastgele orman tahmini en çok temsil edilen sınıftır. İkili sınıflandırmada gradyan artırılmış ağaç (GBT) (başka bir karar ağacı türü) her ağaç bir mantıksal değer (kayan nokta değeri) döndürür ve gradyan artırılmış ağaç tahmini, bu değerlerin toplamı ve ardından bir etkinleştirme işlevidir (ör. sigmoid).

Sonraki iki bölümde bu iki karar ormanı algoritması ayrıntılı olarak açıklanmıştır.