グローバルアベレージプーリングとは

グローバルアベレージプーリング（GAP）は、CNNの最後の段階でよく使われるプーリングです。特徴マップの1チャネル分の値をすべて平均し、1つの数値にします。

処理の内容

通常のプーリングは、2×2などの小さな窓ごとに値をまとめます。GAPは、この窓を特徴マップ全体に広げたものです。たとえば縦7×横7×512チャネルの特徴マップなら、チャネルごとに49個の値を平均し、512個の値からなるベクトルにします。チャネル数は変わらず、縦横の広がりだけがなくなります。

全結合層を置き換える理由

以前のCNNでは、特徴マップを1列に並べ直し、大きな全結合層につないで分類していました。この全結合層は重みの数が多く、過学習の原因になりやすい部分でした。

GAPは平均を取るだけで、学習するパラメータを持ちません。2013年にLinらがNetwork In Networkで提案し、全結合層より過学習しにくいと報告しました。その後、GoogLeNetやResNetなど多くのモデルが、GAPの後に分類用の全結合層を1つだけ置く構成をとっています。

その他の利点

縦横をまとめてしまうため、入力画像のサイズが学習時と違っても、同じ長さのベクトルが得られます。また、各チャネルの値は「その特徴が画像全体にどれだけ現れたか」を表すので、特徴と分類結果の対応が読み取りやすくなります。

この性質を利用したのがCAMです。GAPの後ろの重みを使って特徴マップを重み付きで足し合わせると、モデルが画像のどこを根拠に判断したかを可視化できます。

注意点

GAPを通すと、特徴が画像のどこにあったかという位置の情報は失われます。画像全体に対して1つの答えを出す分類のような課題に向いた処理です。

覚え方

「1チャネルを丸ごと平均して、1つの数字にする」と覚えます。