神经网络

您可能还记得 特征交叉练习 请参阅“分类数据”模块 以下分类问题是非线性的:

图 1. 笛卡尔坐标平面,一分为四
      每个象限中都填充了随机的点,形状类似于
      方形。右上象限和左下象限中的点是蓝色的,
      而左上角和右下角象限中的点为橙色。
图 1. 非线性分类问题。线性函数 将所有蓝点与橙点分开。

“非线性”这表示你无法准确预测 格式为 \(b + w_1x_1 + w_2x_2\)。换句话说, “决策界面”不是一条线。

不过,如果我们对特征 $x_1$ 和 $x_2$ 执行特征交叉,就可以得到以下结果: 然后使用 线性模型: $b + w_1x_1 + w_2x_2 + w_3x_3$,其中 $x_3$ 是 $x_1$ 和 $x_2$:

图 2. 蓝色和橙色的同一个笛卡尔坐标平面
      如图 1 所示。不过,这次的白色双曲曲线
      绘制在网格上方,将右上角的蓝点分隔开
      以及左下象限(现在以蓝色背景阴影)
      左上和右下象限中的橙点(现在
      橙色背景阴影)。
图 2. 通过将特征组合添加到 x1x2,线性模型可以学习 将蓝点与橙点分开的双曲形状。

现请参考以下数据集:

图 3. 笛卡尔坐标平面,分为四个象限。
      蓝点位于蓝点原点
      周围环绕着一圈橙点。
图 3. 更困难的非线性分类问题。

您可能还记得在特征交叉练习中提到过 确定正确的特征组合以将线性模型与这些数据拟合 花费更多精力和实验。

但是,如果您并非必须自己进行所有这些实验,该怎么办? 神经网络是一个 多种模型架构, 非线性 数据模式。在神经网络训练期间, model(模型自动修复) 学习对输入数据执行的最佳特征组合,以最大限度减少 损失。

在后续部分中,我们将详细了解神经网络的工作原理。