GANと拡散モデル（Diffusion Model）の違い

GANと拡散モデルは、どちらも訓練データに似た新しいデータを作る生成モデルです。違いは、学習の仕組みと、生成にかかる手間にあります。

GAN

GAN（敵対的生成ネットワーク）は、2014年にIan Goodfellowらが提案しました。生成器はノイズを受け取ってデータを作り、識別器は入力が訓練データ（本物）か生成器の出力（偽物）かを見分けます。識別器は見分ける力を、生成器はだます力を高めるように学習し、この競い合いを通じて本物らしいデータを作れるようになります。

学習後は、ノイズを生成器に1回通すだけで画像が得られるので、生成は速く進みます。一方、2つのネットワークの力のバランスが崩れると学習が不安定になり、似たデータばかり作るモード崩壊も起こりえます。

拡散モデル

拡散モデルは、2015年にSohl-Dicksteinらが基本の考え方を提案し、2020年にHoらのDDPMが高画質の画像生成を実現して注目を集めました。訓練データに少しずつノイズを加えて、ほぼ完全なノイズにする過程を考え、その逆向きに、ノイズを1段ずつ取り除く処理をネットワークに学習させます。DDPMはネットワークにU-Netを使い、加えられたノイズを推定させて、実際のノイズとの二乗誤差を小さくします。

生成するときは、純粋なノイズから出発してノイズ除去を繰り返します。DDPMでは1,000ステップでした。識別器と競わせる必要がなく、損失も単純な二乗誤差なので、学習は安定しやすくなります。作るデータの多様性も保ちやすいとされます。その代わり、ネットワークを何度も計算するので、生成には時間がかかります。

画像生成での位置づけ

2021年、DhariwalとNicholは、ImageNetの画像生成で、拡散モデルが当時の最高水準の生成モデルを上回る画質を示したと報告しました。その後、Stable Diffusionのもとになった潜在拡散モデルやDALL-E 2など、文章から画像を作る生成AIで拡散モデルが広く使われるようになりました。1回の計算で済む速さが求められる場面では、GANも選択肢に残ります。