破滅的忘却とは

破滅的忘却（catastrophic forgetting）は、ニューラルネットワークが新しいことを学ぶと、以前に学んだことを急激に忘れてしまう現象です。破滅的干渉とも呼ばれます。1989年にMcCloskeyとCohenが、ニューラルネットワークに課題を順番に学習させる実験で報告しました。

なぜ起きるのか

ニューラルネットワークの知識は、多数の重みに分散して蓄えられています。新しいタスクを学ぶと、そのタスクの誤差を小さくするように、同じ重みが書き換えられます。このとき、古いタスクにとって大事だった重みも上書きされるため、古いタスクの性能が大きく下がります。少しずつ薄れるのではなく、新しい学習によって一気に崩れる点が「破滅的」と呼ばれる理由です。

どんな場面で問題になるか

事前学習済みモデルのファインチューニングで起こることがあります。たとえば、汎用の言語モデルを特定分野の文書だけで強く調整すると、分野の外の一般的な質問にうまく答えられなくなることがあります。データが次々と届き、モデルを順番に更新していく継続学習でも、中心的な課題です。

主な対策

• 学習率を小さくする、または一部の層の重みを固定（凍結）して、重みの変化を抑えます。
• 新しいデータに古いデータの一部を混ぜて学習します。リハーサルやリプレイと呼ばれます。
• 古いタスクで重要だった重みほど変わりにくくする罰則を、誤差関数に加えます。Kirkpatrickらが発表したEWC（Elastic Weight Consolidation）が代表例です。

過学習との違い

過学習は、訓練データに合わせすぎて、未知のデータでの性能が下がる現象です。破滅的忘却は、新しい学習によって以前のタスクの性能が失われる現象で、問題にしている対象が異なります。

覚え方

「新しい学びが、古い記憶を上書きする」と覚えます。