Vision Transformer（ViT）と畳み込みニューラルネットワーク（CNN）を比べた説明として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 C
この問題の論点：ViTとCNNの性質の違い
ポイント
ViTは浅い層から画像全体のパッチどうしの関係を捉えられる一方、局所性の前提が弱いため、大量の事前学習データを必要とします。
選択肢ごとの解説
- A
適切
CNNは小さなフィルタを画像全体で使い回す構造に、局所性という前提（帰納バイアス）をもっています。ViTはこの前提が弱いため、大規模なデータで事前学習したときに高い性能を発揮します。
- B
適切
Self-Attentionは入力の順序を区別しないため、ViTは学習で得る位置埋め込みを各パッチに加えます。CNNでは、畳み込みの計算の仕方そのものに画素の位置関係が反映されています。
- C
不適切 正解
層を重ねて受容野を少しずつ広げるのは、むしろCNNの性質です。ViTのSelf-Attentionはすべてのパッチどうしの関連度を計算するため、浅い層から画像全体の情報を取り込めます。
- D
適切
ViTはBERTにならい、学習可能な分類用トークン（クラストークン）をパッチの系列の先頭に加えます。最終層でのこのトークンの出力を分類器に入力し、画像のクラスを予測します。
試験での狙われ方
ViTはCNNとの対比で、局所性の前提（帰納バイアス）の強さと必要なデータ量の関係を問う形が考えられます。