Doğrusal regresyon: Gradyan iniş egzersizi

Bu alıştırmada, enerji verimlilik verileri grafiğine, Parametre alıştırması. Ancak bu kez doğrusal bir grafik için optimum ağırlık ve yanlılık değerlerini öğrenmek üzere gradyan azalmayı modeli ile başlayın.

Grafiğin altındaki üç görevi tamamlayın.

1. Görev: Grafiğin altındaki Öğrenme Oranı kaydırma çubuğunu ayarlayarak öğrenme oranı. Gradyan inişi çalıştırmak için Başlat düğmesini tıklayın.

Model eğitiminin yakınlaşması ne kadar sürer (kararlı bir minimuma ulaşma) değer kaybı)? Model yakınsaklığındaki MSE değeri nedir? Hangi ağırlık ve ağırlık değeri nedir?

Çözümümüzü görmek için artı simgesini tıklayın

0,03'e bir öğrenme hızı belirlediğimizde model, ile 3'ün biraz altında bir MSE'ye ulaşmak ve bunu yaparken yanlılık değerleri (-2,08 ve 23,098) olsun. Bu durum, iyi bir öğrenme oranı değeri seçti.

Not: Grafikteki veri noktalarında küçük farklılıklar olabilir Dolayısıyla, buradaki çözümleriniz biraz harcadık.

2. Görev: Kiloyu ve gücü sıfırlamak için grafiğin altındaki Sıfırla düğmesini Grafikteki yanlılık değerleri. Öğrenme Hızı kaydırma çubuğunu 1,10e^-5. Gradyan inişi çalıştırmak için Başlat düğmesini tıklayın.

Model eğitiminin yakınlaşması için gereken süre bu sefer?

Çözümü görmek için artı simgesini tıklayın

Birkaç dakika geçmesine rağmen model eğitimi hâlâ toparlanmadı. Küçük Ağırlık ve Önyargı değerlerinde yapılan güncellemeler biraz daha düşük çıkmaya devam etmektedir değeri için ek araçlar sunar. Bu durum, daha yüksek bir öğrenme hızı seçmenin, optimum ağırlık ve yanlılık değerlerini daha fazla bulmak için gradyan inmeyi etkinleştir pek çok değişiklik yapabilirsiniz.

3. Görev: Kiloyu sıfırlamak için grafiğin altındaki Sıfırla düğmesini tıklayın ve yanlılık değerlerini görebilirsiniz. Öğrenme Hızı kaydırma çubuğunu 1'e kadar ayarlayın. Gradyan inişi çalıştırmak için Başlat düğmesini tıklayın.

Gradyan azalma çalışırken kayıp değerlerine ne olur? Modelleme için uzlaşmaya varmak için ne kadar vaktiniz var?

Çözümü görmek için artı simgesini tıklayın

Kayıp değerleri, yüksek değerlerde (MSE 300'ün üzerinde) bariz şekilde dalgalanır. Bu durum, öğrenme hızının çok yüksek olduğunu ve model eğitiminin uzlaşmaya varmayacak.