GANとVAEの違い

GAN

GAN（敵対的生成ネットワーク）は、2014年にグッドフェローらが提案しました。生成器はノイズを受け取ってデータを作り、識別器は入力が訓練データ（本物）か生成器の出力（偽物）かを見分けます。識別器は見分ける力を高めるように、生成器は識別器をだませるように学習します。この競い合いを繰り返すと、生成器は本物と区別しにくいデータを作れるようになります。

鮮明な画像を作りやすい一方、2つのネットワークの力のバランスが崩れると学習が不安定になります。生成器が識別器をだましやすい一部の種類のデータばかり作るモード崩壊も、代表的な課題です。

VAE

VAE（変分オートエンコーダ）は、2013年にKingmaとWellingが発表しました。エンコーダは入力ごとに正規分布の平均と分散を出力し、潜在変数を点ではなく分布で表します。その分布から取り出した値をデコーダに通し、入力を復元するように学習します。

損失は、入力をどれだけ再現できたかを表す再構成誤差と、エンコーダの分布と標準正規分布とのずれを表すKL情報量の和です。分布から値を取り出す操作は再パラメータ化トリックで書き直し、誤差逆伝播法で学習できるようにします。1つの損失を小さくするだけなので学習は比較的安定していますが、生成画像はぼやけやすいとされます。

共通点と違い

どちらも、学習後はランダムな値を入力するだけで新しいデータを作れる生成モデルです。違いは学習の仕組みにあります。GANは識別器との競い合いで学び、VAEは識別器を持たず、復元の誤差と分布のずれを小さくして学びます。VAEはエンコーダで手元のデータを潜在変数に変換できるので、データの特徴を潜在空間で扱いたい場面にも使われます。