事前学習やファインチューニングに関連する用語の説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 C
この問題の論点:事前学習に関わる学習の枠組み
ポイント
半教師あり学習はラベルなしデータも学習に活用する方法です。正解をデータ自体から作る自己教師あり学習とは区別します。
選択肢ごとの解説
- A
不適切
自己教師あり学習は、データの一部を隠して当てさせるなど、データ自体から正解を自動で作って学習します。BERTが文中の隠した単語を予測する事前学習はその例で、人手のラベルが要らない点が利点です。
- B
不適切
破滅的忘却は、学習済みのモデルを新しいタスクで追加学習したとき、以前のタスクで得た知識が失われ、元のタスクの性能が大きく落ちる現象です。ファインチューニングや継続学習で注意が必要です。
- C
適切 正解
半教師あり学習では、ラベル付きデータで学習したモデルがラベルなしデータに付けた予測(疑似ラベル)を学習に加えるなどして、ラベルなしデータも活用します。ラベル付けの手間を減らせます。
- D
不適切
例を1つも与えずに認識するのはZero-shotです。One-shotは1つの例、Few-shotは数個の例だけから、新しいクラスやタスクに対応することを指します。事前学習で得た汎用的な知識が、少ない例での適応を支えます。
試験での狙われ方
自己教師あり学習と半教師あり学習の取り違えや、Zero-shot・One-shot・Few-shotの例の数の違いを問う形が典型です。