Triplet Lossとは

Triplet Lossは、3つのデータの組（トリプレット）を使って、「似たものは近く、違うものは遠く」に並ぶ埋め込みを学ばせる損失関数です。2015年にGoogleの研究者が、顔認識のシステムFaceNetで用いたことで広く知られるようになりました。

計算の仕組み

3つ組は、基準となるアンカーa、アンカーと同じ人物などの正例p、別の人物などの負例nからなります。3つを同じネットワークで埋め込みに変換し、アンカーからの距離を比べます。損失は次の式で表します。

L = max(0, d(a, p) − d(a, n) + α)

dは埋め込みの間の距離で、FaceNetではユークリッド距離の2乗を使います。αはマージンです。負例までの距離が正例までの距離よりα以上大きければ損失は0、そうでなければ足りない分が損失になります。

Contrastive Lossとの違い

Contrastive Lossは、組ごとに距離そのものを縮めたり広げたりします。Triplet Lossは「正例は負例より近い」という相対的な関係を学びます。同じ人物の顔を1点に集めなくても、他人より近ければよいので、表現に余裕を残せます。

3つ組の選び方

無作為に3つ組を作ると、多くは初めから条件を満たしていて損失が0になり、学習に役立ちません。そこで、負例がアンカーに近い難しい組を選んで学習します。ただし最も難しい組ばかりを選ぶと、学習がうまく進まないことがあります。FaceNetでは、ミニバッチの中から、正例よりは遠いがマージンの内側にある負例を選ぶ工夫をしました。

使われ方

学習した埋め込みは距離で比べるだけなので、新しい人物を登録してもモデルを学習し直す必要がありません。顔認証や、似た画像の検索などに使われます。

覚え方

「仲間は他人より、マージン分だけ近くに」と覚えます。