Tipos de condiciones

Esta unidad se enfoca en los diferentes tipos de condiciones que se usan para crear árboles de decisión.

Condiciones oblicuas en comparación con las alineadas con el eje

Una condición alineada con el eje solo incluye una sola función. Una condición oblicua implica varias características. Por ejemplo, la siguiente es una condición alineada con el eje:

num_legs ≥ 2

Mientras que la siguiente es una condición oblicua:

num_legs ≥ num_fingers

A menudo, los árboles de decisión se entrenan solo con condiciones alineadas con el eje. Sin embargo, las divisiones oblicuas son más potentes porque pueden expresar patrones más complejos. En ocasiones, las divisiones oblicuas producen mejores resultados a costa de costos de inferencia y entrenamiento más altos.

Código YDF

En YDF, los árboles de decisión se entrenan con la condición alineada con el eje de forma predeterminada. Puedes habilitar los árboles oblicuos de decisión con el parámetro split_axis="SPARSE_OBLIQUE".

Figura 4: Ejemplos de una condición alineada con el eje y una oblicua.

 

Si se grafican las dos condiciones anteriores, se obtiene la siguiente separación del espacio de características:

Figura 5: Separación del espacio de características para las condiciones de la Figura 4.

 

Condiciones binarias y no binarias

Las condiciones con dos resultados posibles (por ejemplo, verdadero o falso) se denominan condiciones binarias. Los árboles de decisión que solo contienen condiciones binarias se llaman árboles de decisión binarios.

Las condiciones no binarias tienen más de dos resultados posibles. Por lo tanto, las condiciones no binarias tienen más poder discriminativo que las condiciones binarias. Las decisiones que contienen una o más condiciones no binarias se denominan árboles de decisión no binarios.

Figura 6: Árboles de decisión binarios y no binarios.

 

Las condiciones con demasiada potencia también tienen más probabilidades de sobreajustar. Por este motivo, los bosques de decisión generalmente usan árboles de decisión binarios, por lo que este curso se enfocará en ellos.

Nota: Una condición no binaria se puede emular con varias condiciones binarias. Por lo tanto, los árboles binarios no son inherentemente menos potentes que los árboles no binarios.

El tipo de condición más común es la condición de umbral, que se expresa de la siguiente manera:

feature ≥ threshold

Por ejemplo:

num_legs ≥ 2

Existen otros tipos de condiciones. A continuación, se muestran otros tipos de condiciones binarias que se usan con frecuencia:

 

Tabla 2. Tipos comunes de condiciones binarias.

Nombre	Afección	Ejemplo
condición de umbral	$\mathrm{feature}_i \geq \mathrm{threshold}$	$\mathrm{num\_legs} \geq 2$
condición de igualdad	$\mathrm{feature}_i = \mathrm{value}$	$\mathrm{especie} = ``gato"$
condición del conjunto	$\mathrm{feature}_i \in \mathrm{collection}$	$\mathrm{species} \in \{``cat", ``dog", ``bird"\}$
condición oblicua	$\sum_{i} \mathrm{weight}_i \mathrm{feature}_i \geq \mathrm{threshold}$	$5 \ \mathrm{num\_legs} + 2 \ \mathrm{num\_eyes} \geq 10$
falta la función	$\mathrm{feature}_i \mathrm{is} \mathrm{Missing}$	$\mathrm{num\_legs} \mathrm{is} \mathrm{Missing}$