One-shot学習とは

One-shot学習は、新しいクラスを、たった1つの例から見分けられるようにする考え方です。「ショット」は与える例の数を表し、例が0個ならZero-shot、少数ならFew-shotと呼びます。

人は、一度会っただけの人の顔でも、次に会ったときに見分けられることがあります。一方、通常の教師あり学習で、1クラスに1枚の画像だけから分類器を学習しても、ほとんど汎化しません。

類似度を学ぶという発想

そこで、「このクラスは何か」を直接学ぶ代わりに、「2つの入力が同じクラスか」を判定する類似度を学習します。2015年に発表された、シャムネットワーク（Siamese Network）を使う研究では、重みを共有する2つのCNNで2枚の画像をそれぞれベクトルにし、その距離から同じ文字かどうかを判定するように学習しました。新しいクラスを見分けるときは、各クラス1枚ずつの例と入力を比べ、最も似ているクラスを選びます。

2016年のMatching Networksは、少数のラベル付きの例と新しい入力から、直接ラベルを予測するよう学習します。新しいクラスにもファインチューニングなしで対応できます。

さかのぼると2006年には、学習済みのクラスの知識を事前分布として使い、1つか少数の例から新しいクラスを学ぶベイズ的な方法が提案されました。

身近な例

入退室管理などの顔認証では、利用者ごとに少ない枚数の顔写真を登録し、カメラに映った顔と照合します。顔どうしの類似度を測る特徴を、Triplet Lossなどで事前に学習しておくため、利用者を追加しても学習し直さずに済みます。

大規模言語モデルでのOne-shot

GPT-3の論文では、タスクの説明に加えて、入力と答えの例を1組だけプロンプトに示す設定をOne-shotと呼びました。

覚え方

「1枚の見本と見比べて、いちばん似たものを選ぶ」と覚えます。