ある小売企業が、一般的な物体を認識できる事前学習済みの画像分類モデルを、自社商品の分類にも使うため追加学習した。自社商品は分類できるようになったが、一般的な物体の認識性能が大きく下がった。両方の性能を保つための対応として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 D
この問題の論点：破滅的忘却を抑える工夫
ポイント
破滅的忘却は、新しいデータだけで重みを大きく更新すると起きやすくなります。元のデータを混ぜる、重要な重みを守るなどの方法で抑えます。
選択肢ごとの解説
- A
適切
元のタスクのデータを混ぜて学習する方法は、リハーサル（リプレイ）と呼ばれます。新しいタスクに合わせる間も元のタスクの知識が使われ続けるため、性能の低下を抑えられます。
- B
適切
EWC（Elastic Weight Consolidation）などの方法です。元のタスクにとっての各重みの重要度を見積もり、重要な重みの変化に罰則をかけることで、古い知識を保ちながら新しいタスクを学びます。
- C
適切
共通部分の重みを変えなければ、元の出力層を使う一般物体の認識性能はそのまま保てます。ただし新しいタスクの精度は、全体を調整する場合より伸びにくいことがあります。
- D
不適切 正解
新しいデータだけで重みを大きく長く更新すると、元のタスクに役立っていた重みがさらに書き換わり、破滅的忘却が強まります。元の性能を保つには、元のデータを混ぜる、学習率を小さくするなどの工夫が必要です。
試験での狙われ方
破滅的忘却の意味に加え、どのような学習で起きやすいか、どう抑えるかを業務の場面で問う形が考えられます。