ネオコグニトロンとは

ネオコグニトロンは、福島邦彦が提唱した、画像のパターンを認識するための神経回路モデルです。英語の論文は1980年に発表されました。今日の畳み込みニューラルネットワーク(CNN)の原型とされます。

仕組み

手本にしたのは、動物の視覚野についての神経科学の研究です。視覚野には、特定の向きの線などに反応する単純型細胞と、その線の位置が多少ずれても反応する複雑型細胞があることが知られていました。ネオコグニトロンはこれをまね、2種類の層を交互に重ねます。

• S細胞層：入力の狭い範囲から、線の向きや角などの特徴を取り出す。
• C細胞層：近くにあるS細胞の出力をまとめ、位置の小さなずれを吸収する。

層を重ねるほど、単純な特徴から複雑な形へと、段階的に組み立てられます。そのため、文字の位置が少しずれたり、形がゆがんだりしても、同じ文字として認識できます。S細胞層は畳み込み層に、C細胞層はプーリング層に近い役割です。

LeNetとの違い

構造はCNNとよく似ていますが、学習の方法が異なります。1980年のネオコグニトロンは、正解ラベルを使わず、パターンを繰り返し見せるだけで特徴を獲得する自己組織化によって学習しました。一方、ヤン・ルカンらのLeNetは、誤差逆伝播法を使い、正解との誤差が小さくなるように重みを学習します。

「構造は似ているが、学習方法が違う」という点が、両者を見分けるポイントです。この流れの先に、2012年のILSVRCで注目されたAlexNetがあります。

覚え方

S細胞は単純型（Simple）細胞、C細胞は複雑型（Complex）細胞の頭文字と覚えます。