多类别神经网络:一对多

一对多提供了一种利用二元分类的方法。假设一个分类问题有 N 个可能的解决方案,一对多解决方案由 N 个单独的二元分类器组成,每个可能的结果对应一个二元分类器。在训练期间,该模型会运行一系列二元分类器,并训练每个分类器回答单独的分类问题。例如,假设一张狗狗的图片,可能训练了五个不同的识别器,四个将图片视为负例(非狗狗),将图片视为正例(狗狗)。具体来说:

  1. 这是一张苹果的图片吗?不需要。
  2. 这是一张熊的图片吗?不需要。
  3. 这张图片是糖果吗?不需要。
  4. 这张图片是狗吗?是的。
  5. 这张图片是鸡蛋吗?不需要。

当类总数很少时,此方法非常合理,但随着类数量的增加,该方法变得越来越低效。

我们可以使用一个深度神经网络创建一个明显更高效的一对多模型,其中每个输出节点都代表一个不同的类。下图展示了这种方法:

包含 5 个隐藏层和 5 个输出层的神经网络。

图 1. 一对多神经网络。