В приведенных ниже интерактивных упражнениях вы будете использовать полученные знания для обучения нейронной сети обработке нелинейных данных.
Упражнение
В упражнениях по перекрестным объектам в модуле Категориальные данные вы вручную создавали перекрестные объекты для соответствия нелинейным данным. Теперь вы увидите, сможете ли вы создать нейронную сеть, которая сможет автоматически подбирать нелинейные данные во время обучения.
Ваша задача: настроить нейронную сеть, которая сможет отделить оранжевые точки от синих на диаграмме ниже, добившись потерь менее 0,2 как на обучающих, так и на тестовых данных.
Инструкции:
В интерактивном виджете ниже:
- Измените гиперпараметры нейронной сети, поэкспериментировав с некоторыми из следующих настроек конфигурации:
- Добавляйте или удаляйте скрытые слои, нажимая кнопки + и – слева от заголовка СКРЫТЫЕ СЛОИ на сетевой диаграмме.
- Добавьте или удалите нейроны из скрытого слоя, нажимая кнопки + и – над столбцом скрытого слоя.
- Измените скорость обучения, выбрав новое значение в раскрывающемся списке «Скорость обучения» над диаграммой.
- Измените функцию активации, выбрав новое значение в раскрывающемся списке «Активация» над диаграммой.
- Нажмите кнопку «Воспроизвести» (▶️) над диаграммой, чтобы обучить модель нейронной сети с использованием указанных параметров.
- Наблюдайте за визуализацией модели, соответствующей данным по мере обучения, а также за значениями «Потери при тестировании» и «Потери при обучении» в разделе «Вывод» .
- Если модель не достигает потерь ниже 0,2 на тестовых и обучающих данных, нажмите «Сброс» и повторите шаги 1–3 с другим набором настроек конфигурации. Повторяйте этот процесс, пока не достигнете желаемых результатов.
Нажмите здесь, чтобы увидеть наше решение
Нам удалось добиться потерь при тестировании и обучении ниже 0,2 за счет:
- Добавление 1 скрытого слоя, содержащего 3 нейрона.
- Выбрав скорость обучения 0,01.
- Выбор функции активации ReLU.