Ricordiamo che Esercizi incrociati sulle caratteristiche nel modulo Dati categoriali, che il seguente problema di classificazione non è lineare:
"Non lineare" significa che non puoi prevedere con precisione un'etichetta con un modello del formato \(b + w_1x_1 + w_2x_2\). In altre parole, "superficie decisionale" non è una linea.
Tuttavia, se eseguiamo un incrocio di caratteristiche sulle nostre caratteristiche $x_1$ e $x_2$, possiamo allora rappresenta la relazione non lineare tra le due caratteristiche utilizzando modello lineare: $b + w_1x_1 + w_2x_2 + w_3x_3$ dove $x_3$ è l'incrocio di caratteristiche $x_1$ e $x_2$:
Consideriamo ora il seguente set di dati:
Forse ricorderai anche dagli esercizi incrociati sulle funzionalità che determinare gli incroci di caratteristiche corretti per adattare un modello lineare a questi dati ha richiesto un po' più di impegno e di sperimentazione.
Ma cosa succede se non dovessi fare tutta questa sperimentazione? Le reti neurali sono una famiglia di architetture di modelli progettate per trovare non lineare di pattern nei dati. Durante l'addestramento di una rete neurale, model automaticamente Apprende gli incroci di caratteristiche ottimali da eseguire sui dati di input per ridurre al minimo o una perdita di dati.
Nelle sezioni seguenti, esamineremo più da vicino come funzionano le reti neurali.