転移学習とファインチューニングの違い

転移学習

転移学習は、ある課題で学習したモデルの知識を、別の課題に生かす考え方です。日本語の解説では、ファインチューニングと対比するときに狭い意味で使うことが多くあります。その場合は、事前学習済みモデルの重みをすべて固定し、目的のクラス数に合わせて付け替えた出力層だけを学習します。モデルの本体は、入力から特徴を取り出す道具として働きます。

更新するのは新しく加えた部分だけなので、目的のデータが少なくても学習でき、計算も軽く済みます。ただし、元の課題と目的の課題がかけ離れていると、取り出される特徴が目的に合わず、精度が伸びにくくなります。

ファインチューニング

ファインチューニングは、事前学習済みの重みを初期値にして、目的のデータで重みそのものを調整し直す方法です。モデル全体を更新することも、入力に近い層は固定して出力に近い層だけを更新することもあります。後者が成り立つのは、入力に近い層がエッジのような多くの課題に共通する特徴を、出力に近い層が元の課題に固有の特徴をとらえていることが多いためです。

特徴まで目的の課題に合わせて作り直せるので、データがある程度あれば、重みを固定する方法より高い精度を得やすくなります。一方で、大きな学習率で更新しすぎると、事前学習で得た特徴が崩れます。元の課題をこなす力が失われる破滅的忘却も起きやすくなります。そのため、学習率はゼロから学習するときより小さくするのが一般的です。

言葉の範囲

英語の文献では、transfer learningを広い意味で使い、ファインチューニングをその手法の1つとして扱うのが普通です。BERTの論文は、重みを固定したまま中間層の出力を特徴として取り出し、別のモデルに入力する方法と、モデル全体を微調整する方法を比べています。固有表現抽出の実験では、特徴を取り出す方法のうち最もよいものは、モデル全体を微調整した場合よりF1値が0.3ポイント低いだけでした。問題文の転移学習がどちらの意味かは、ファインチューニングと並べて対比しているかどうかで判断します。