Regressão linear: exercício de gradiente descendente

Neste exercício, você vai rever o gráfico de dados de economia de combustível o exercício de parâmetros. Mas, desta vez, você usar gradiente descendente para aprender os valores ideais de peso e viés para uma rede que reduz a perda.

Conclua as três tarefas abaixo do gráfico.

Tarefa 1: ajuste o controle deslizante Taxa de aprendizado abaixo do gráfico para definir uma de 0,03. Clique no botão Start para executar o gradiente descendente.

Quanto tempo o treinamento do modelo leva para convergir (alcançar um mínimo estável valor de perda)? Qual é o valor do EQM na convergência do modelo? Que peso e viés produzem esse valor?

Clique no ícone de adição para conferir a solução

Quando definimos uma taxa de aprendizado de 0,03, o modelo convergiu após aproximadamente 30 segundos, atingindo um EQM de pouco menos de 3 com peso e valores de viés de -2,08 e 23,098, respectivamente. Isso indica que e escolheu um valor bom para a taxa de aprendizado.

Observação:os pontos de dados no gráfico variam um pouco cada vez que a página é carregada. Por isso, suas soluções podem ser um pouco diferente do nosso.

Tarefa 2: clique no botão Redefinir abaixo do gráfico para redefinir o peso e Polarize os valores no gráfico. Ajuste o controle deslizante Taxa de aprendizado para um valor próximo a 1.10e^–5. Clique no botão Start para executar o gradiente descendente.

O que é possível observar sobre quanto tempo leva o treinamento do modelo para convergir desta vez?

Clique no ícone de adição para conferir a solução

Após vários minutos, o treinamento do modelo ainda não convergiu. Pequena as atualizações nos valores de peso e viés continuam resultando em respostas os valores de perda. Isso sugere que escolher uma taxa de aprendizado mais alta ativar o gradiente descendente para encontrar os valores ideais de peso e viés com mais precisão rapidamente.

Tarefa 3:clique no botão Redefinir abaixo do gráfico para redefinir o peso e valores de viés no gráfico. Ajuste o controle deslizante da Taxa de aprendizado em até 1. Clique no botão Start para executar o gradiente descendente.

O que acontece com os valores de perda conforme o gradiente descendente? Por quanto tempo o modelo vai treinamento levará para convergir desta vez?

Clique no ícone de adição para conferir a solução

Os valores de perda variam consideravelmente em valores altos (EQM acima de 300). Isso indica que a taxa de aprendizado é muito alta e que o treinamento do modelo nunca vai chegar a convergência.