Talvez você se lembre da Exercícios de cruzamento de atributos no módulo de dados categóricos, que o seguinte problema de classificação não é linear:
"Não linear" significa que não é possível prever um rótulo com precisão modelo do formulário \(b + w_1x_1 + w_2x_2\). Em outras palavras, o "superfície de decisão" não é uma linha.
No entanto, se realizarmos um cruzamento de atributos em nossos atributos $x_1$ e $x_2$, poderemos depois representam a relação não linear entre os dois atributos usando uma modelo linear: $b + w_1x_1 + w_2x_2 + w_3x_3$, em que $x_3$ é o cruzamento de atributos $x_1$ e $x_2$:
Agora considere o seguinte conjunto de dados:
Talvez você também se lembre dos exercícios de cruzamento de atributos que determinar os cruzamentos de atributos corretos para ajustar um modelo linear a esses dados exigia um pouco mais de esforço e experimentação.
Mas e se você não tivesse que fazer todos os experimentos por conta própria? Redes neurais são uma família de arquiteturas de modelo projetadas para encontrar não linear padrões nos dados. Durante o treinamento de uma rede neural, model automaticamente aprende os cruzamentos de atributos ideais para realizar nos dados de entrada para minimizar e perda de talentos.
Nas seções a seguir, vamos analisar mais de perto como as redes neurais funcionam.