学習率とは

学習率は、勾配降下法で重みを1回にどれだけ動かすかを決める係数です。記号ではη（イータ）で表すことが多く、更新式w ← w − η × 勾配に現れます。0.1や0.001のような小さな正の値がよく使われます。

歩幅にたとえると

勾配が「どちらへ進むか」を決めるのに対し、学習率は「1歩の大きさ」を決めます。たとえば勾配が6で学習率が0.1なら、重みは0.6だけ動きます。学習率を0.01にすると、動く量は0.06です。

歩幅が大きすぎると、谷底を飛び越えて反対側の斜面に移ってしまいます。すると損失が上下に振動したり、どんどん大きくなって発散したりします。歩幅が小さすぎると、着実に下るものの、谷底に着くまでに多くの更新が必要です。浅いくぼみや平らな領域から抜け出しにくいという面もあります。

誰がどう決めるのか

学習率は、重みのように訓練データから自動で決まる値ではありません。学習の前に決めておくハイパーパラメータです。性能への影響が特に大きいハイパーパラメータの1つとされ、グリッドサーチやランダムサーチで候補を試し、検証データでの結果を比べて選びます。

学習の途中で学習率を変える工夫もあります。

• 学習率の減衰：学習が進むにつれて学習率を小さくし、解の付近で重みを落ち着かせます。
• ウォームアップ：学習の初めは小さな値から始め、徐々に目標の値まで上げます。
• 適応的な手法：AdaGrad、RMSprop、Adamなどは、パラメータごとに更新の大きさを自動で調整します。

強化学習の学習率

Q学習などの強化学習にも学習率があります。こちらは、新しく得た推定値を、今の行動価値の推定にどれだけ取り入れるかを決めます。将来の報酬をどれだけ割り引くかを決める割引率とは、別の値です。

覚え方

「勾配は向き、学習率は歩幅」と覚えます。