GoogLeNetとは

GoogLeNetは、Googleの研究者を中心とするSzegedyらが2014年に発表したCNNです。2014年のILSVRCの画像分類部門で、top-5誤り率6.67%を記録して優勝しました。名前は、CNNの先駆けであるLeNetへの敬意を込めてつけられています。

Inceptionモジュール

画像の特徴には、細かい模様もあれば、広い範囲にまたがる形もあります。どの大きさのフィルタが適しているかは、前もって決めにくいところです。そこでGoogLeNetは、1×1、3×3、5×5の畳み込みと3×3の最大値プーリングを並列に行い、結果をチャネル方向に連結するブロックを使いました。これをInceptionモジュールと呼びます。

ただし、そのまま並列にすると計算量が膨らみます。そこで、3×3や5×5の畳み込みの前に1×1の畳み込みを置き、先にチャネル数を減らします。1×1の畳み込みは、縦横の位置ごとにチャネルの情報を混ぜ合わせ、チャネル数を変える働きをします。

深さと効率を両立する工夫

• 深さ：重みをもつ層だけで22層あり、Inceptionモジュールを9個積み重ねた構成です。
• グローバルアベレージプーリング：最後の特徴マップをチャネルごとに平均し、全結合層は最後の1層だけにしました。パラメータ数はAlexNetの約12分の1です。
• 補助の分類器：途中の2か所に小さな分類器をつなぎ、学習のときだけ損失に加えて、勾配を途中の層まで届きやすくしました。

VGGとの比較

同じ2014年のVGGは、3×3の畳み込みを縦に重ねる単純な構成で、画像分類部門の2位でした。GoogLeNetは、処理を横に並べながら計算効率を高めた点で対照的です。Inceptionの構造は、その後もInception-v3などの改良版に受け継がれました。

覚え方

「Inceptionは横に並べて、1×1で絞る」と覚えます。