オンライン学習とは

オンライン学習は、データを1件受け取るたびに、そのデータだけで勾配を求めて重みを更新する学習方法です。逐次学習とも呼ばれます。インターネットを通じて授業を受ける学び方（eラーニング）とは別の意味です。

バッチ学習・ミニバッチ学習との違い

1回の更新に使うデータの量で、学習方法は3つに分かれます。

• バッチ学習：訓練データ全件で勾配を求め、1回更新します。
• ミニバッチ学習：数十〜数百件ずつまとめて更新します。
• オンライン学習：1件ずつ更新します。バッチサイズ1のミニバッチ学習ともいえます。

訓練データが2,000件なら、1エポックの更新回数は、オンライン学習で2,000回、バッチ学習で1回です。

なお、1件ずつ使う方法のうち、決まった訓練データを何周も使うものを「確率的」、次々に生まれるデータの流れから学ぶものを「オンライン」と呼び分ける説明もあります。

長所

1件ごとの計算は軽く、全データを一度にメモリに載せる必要がありません。また、新しいデータが届くたびにモデルを更新できます。ECサイトの閲覧履歴や、センサーから届き続けるデータのように、データが次々に生まれる場面に向いています。全データを集め直して学習し直すより、変化に素早く追従できます。

短所と注意点

1件ごとの勾配はばらつきが大きく、更新の向きがぶれます。損失は上下しながら下がっていきます。

運用中のモデルを更新し続ける場合は、別の注意も必要です。誤ったデータや悪意のあるデータが続けて入ると、性能が急に下がるおそれがあります。悪意のあるデータを混ぜて性能を落とす攻撃は、データポイズニングと呼ばれます。新しいデータに合わせるうちに、以前に学んだ傾向を忘れてしまうこともあります。そのため、更新後の性能を監視し、問題があれば前のモデルに戻せる仕組みを用意します。

覚え方

「オンラインは1件ずつ、届いたらすぐ更新」と覚えます。