不変性の獲得とは

不変性の獲得とは、入力が少し変わっても出力が変わらないようにすることです。画像認識では、写っている猫が数画素右にずれても「猫」と判断できることが望まれます。CNNでは、主にプーリング層がこの役割を担います。

プーリングで位置ずれを吸収する

最大値プーリングは、特徴マップを2×2などの窓に区切り、窓の中の最大値を取り出します。強い反応が同じ窓の中で少し動くだけなら、最大値は変わりません。そのため出力も変わらず、小さな位置ずれに対する不変性が得られます。プーリングを何段か重ねるほど、より大きなずれも吸収しやすくなります。平均値プーリングも、窓の中の値をならすことで似た効果をもちます。

この発想は、CNNの原型とされるネオコグニトロンにもあります。特徴を取り出すS細胞の層が畳み込み層に、位置ずれを吸収するC細胞の層がプーリング層に相当します。

畳み込み層は「同変」

畳み込み層は、同じフィルタを画像全体にずらしながら当てます。入力の特徴が右にずれると、特徴マップ上の反応も右にずれます。入力の変化に合わせて出力も同じように変わるこの性質を、同変性といいます。不変性とは区別します。CNNは、畳み込み層で特徴を場所ごとに見つけ、プーリング層で場所の小さな違いを吸収します。

限界と補い方

プーリングで得られるのは、主に小さな平行移動への不変性です。回転や拡大・縮小には強くなりません。そこで、回転や反転を加えた画像で学習させるデータ拡張が併用されます。

また、不変性と引きかえに、細かい位置の情報は失われます。「何が写っているか」を答える画像分類には向きますが、画素ごとの位置が重要なセグメンテーションでは、位置の情報を補う工夫が必要です。