机器学习实践：图像分类

防止过拟合

与所有机器学习模型一样，训练卷积神经网络时会遇到的一个关键问题是过拟合：模型紧密拟合训练数据的具体特征，以至于无法泛化到新样本。构建 CNN 时，您可以通过以下两种方法来防止出现过拟合：

• 数据增强：通过随机转换现有图像生成一组新的图像，人为地增加训练样本的多样性和数量（参见图 7）。当原始训练数据集相对较小时，数据增强方法尤为有用。
• dropout 正规化：在一个训练梯度步长中随机地从神经网络中移除一些单元。

如需详细了解 dropout 正规化，请参阅机器学习速成课程中的使用反向传播训练神经网络。

图 7. 单张狗狗图像的数据增强（摘自 Kaggle 上的“Dogs vs. Cats”数据集）。左图：训练集中的原始狗狗图像。右图：对原始图像进行随机转换后生成的九张新图。

在处理较小的训练数据集时，过拟合问题尤其值得注意。处理如果使用大型数据集（例如，数百万张图像），则无需应用丢弃，而且数据增强的意义也不大。

关键术语

数据增强	dropout 正规化
过拟合