Drzewa decyzyjne: sprawdź swoją wiedzę

Na tej stronie musisz odpowiedzieć na serię ćwiczeń jednokrotnego wyboru materiału omawianego w sekcji „Drzewa decyzyjne dotyczące trenowania” .

Pytanie 1

Jakie są skutki zastąpienia funkcji liczbowych ich wartości ujemne (np. zmiana wartości +8 na -8) za pomocą funkcji i dokładny podział liczbowy?

Będą poznane te same warunki; tylko Zostaną zmienione wartości elementów podrzędnych.

Fantastycznie.

Poznają różne warunki, ale ogólna struktura zostanie zapamiętana. drzewa decyzyjnego pozostanie bez zmian.

Jeśli obiekty się zmienią, zmienią się warunki.

Struktura drzewa decyzyjnego będzie całkowicie w inny sposób.

Struktura drzewa decyzyjnego będzie prawie taki sam. Warunki się jednak zmienią.

Pytanie 2

Które 2 odpowiedzi najlepiej opisują efekt testowania tylko połowy (losowo wybranych) kandydujących wartości progowych na osi X?

Zysk informacyjny byłby większy lub równy.

Zysk informacyjny byłby mniejszy lub równy.

Dobra robota!

Ostateczne drzewo decyzyjne mogłoby pogorszyć dokładność testów.

Ostateczne drzewo decyzyjne nie miałoby lepszej dokładności trenowania.

Dobra robota!

Pytanie 3

Co by się stało, gdyby „zysk informacji” a „prog” krzywa masz kilka lokalnych maksima?

Nie można mieć wielu lokalnych wartości maksymalnych.

Możliwych jest kilka lokalnych wartości maxima.

Algorytm wybierze lokalną wartość maksymalną z najmniejszą wartość progową.

Algorytm wybierze globalną wartość maksymalną.

Dobra robota!

Pytanie 4

Oblicz korzyści informacyjne w ramach następującego podziału:

Węzeł	Liczba pozytywnych przykładów	# negatyw Przykłady
węzeł nadrzędny	10	6
pierwsze dziecko	8	2
drugie dziecko	2	4

Kliknij ikonę, aby zobaczyć odpowiedź.

# Positive label distribution
p_parent = 10 / (10+6) # = 0.625
p_child_1 = 8 / (8+2) # = 0.8
p_child_2 = 2 / (2+4) # = 0.3333333

# Entropy
h_parent = -p_parent * log(p_parent) - (1-p_parent) * log(1-p_parent) # = 0.6615632
h_child_1 = ... # = 0.5004024
h_child_2 = ... # = 0.6365142

# Ratio of example in the child 1
s = (8+2)/(10+6)
f_final = s * h_child_1 + (1-s) * h_child_2 # = 0.5514443

information_gain = h_parent - f_final # = 0.1101189

---