손실 줄이기: 학습률 최적화

연습 1

슬라이더에서 학습률을 0.03으로 설정합니다. 경사하강법 알고리즘이 손실 곡선의 최소 지점에 도달할 때까지 단계 버튼을 계속 누릅니다. 몇 걸음이나 걸었어?

연습 2

학습률을 높이면 최저점에 더 빨리 도달할 수 있나요? 학습률을 0.1로 설정하고 경사하강법이 최솟값에 도달할 때까지 계속 단계(STEP)를 누릅니다. 이번에는 몇 걸음이 걸렸나요?

연습 3

학습률을 훨씬 더 높여 보세요. 그래프를 재설정하고 학습률을 1로 설정하고 손실 곡선 최솟값에 도달하도록 시도합니다. 어째서 오류가 발생한 걸까요?

챌린지(선택사항)

이 곡선에서 골디락스 학습률을 확인할 수 있나요? 여기서 최소 단계 수에서 경사하강법이 최소 포인트에 도달합니다. 최솟값에 도달하는 데 필요한 최소 단계 수는 얼마인가요?