Rừng quyết định là một thuật ngữ chung để mô tả các mô hình làm từ nhiều cây quyết định. Dự đoán rừng quyết định là tổng hợp các dự đoán của cây quyết định. Việc triển khai cách tổng hợp này phụ thuộc vào thuật toán dùng để đào tạo rừng quyết định. Ví dụ: Trong một rừng ngẫu nhiên phân loại nhiều lớp (một loại rừng quyết định), mỗi cây bầu cử cho một lớp và dự đoán rừng ngẫu nhiên là lớp được biểu thị nhiều nhất. Trong một tính năng tăng cường độ phân loại nhị phân được tăng cường Cây (GBT) (một loại rừng quyết định khác), mỗi cây sẽ xuất ra một nhật ký (giá trị dấu phẩy động) và thông tin dự đoán dạng cây tăng cường độ dốc là tổng của các giá trị đó theo sau là một hàm kích hoạt (ví dụ: sigmoid).
Hai chương tiếp theo trình bày chi tiết hai thuật toán rừng quyết định đó.