VAEとは

VAE（変分オートエンコーダ）は、オートエンコーダを、新しいデータを作れる生成モデルに発展させたものです。2013年にKingmaとWellingが発表しました。

通常のオートエンコーダとの違い

通常のオートエンコーダは、入力を潜在空間の1つの点に圧縮し、そこから復元します。点の間には意味のない領域が残るため、適当な点をデコーダに通しても、意味のあるデータになるとは限りません。

VAEのエンコーダは、入力ごとに正規分布の平均と分散を出力します。潜在変数を、点ではなく広がりのある分布で表すのです。この分布から値を取り出してデコーダに通し、入力を復元するように学習します。すると潜在空間がなめらかにつながり、近い点からは似たデータが生まれます。

学習のしくみ

損失は2つの項の和です。

• 再構成誤差：出力が入力をどれだけ再現できたか
• KL情報量：エンコーダが出した分布と、標準正規分布とのずれ

KL情報量の項が、潜在空間全体を標準正規分布の形に整えます。この損失は変分推論から導かれ、名前の「変分」はここに由来します。

分布から値を取り出す操作は、そのままでは微分できません。そこで標準正規分布のノイズεを使い、z = μ + σ × εと書き直します。これを再パラメータ化トリックと呼び、誤差逆伝播法で学習できるようになります。

生成時は、標準正規分布から取り出した値をデコーダに通します。GANに比べ、生成画像はぼやけやすいとされます。

派生手法

• β-VAE：KL情報量の項に1より大きい係数βを掛け、潜在変数の各次元が別々の要因を表すように促します。
• VQ-VAE：潜在変数を、コードブックにある有限個のベクトルのどれかに置き換えて、離散的に表します。
• InfoVAE：入力と潜在変数の相互情報量を大きく保つ項を加え、強力なデコーダと組み合わせても潜在変数が無視されにくくします。

覚え方

「点ではなく雲（分布）で表すオートエンコーダ」と覚えます。