1998年の論文で詳しく報告されたLeNet(LeNet-5)と、2012年のILSVRCで優勝したAlexNetを比べた説明として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 D
この問題の論点:LeNetとAlexNetの共通点と違い
ポイント
LeNetとAlexNetは同じCNNの基本構造をもちます。2012年の飛躍は、データの規模、GPU、学習の工夫がそろったことによるものです。
選択肢ごとの解説
- A
適切
LeNetは、畳み込みとサブサンプリングを交互に重ね、すべての重みを誤差逆伝播法で学習するCNNです。AlexNetもこの基本構造を受け継ぎ、層を深く、各層を大きくしたモデルです。
- B
適切
LeNet-5の論文では、学習用6万枚・テスト用1万枚のMNISTで手法を比べています。AlexNetは、ImageNetのうちILSVRCで使う1,000クラス・約120万枚で学習しました。写っている物も撮られ方もはるかに多様なデータです。
- C
適切
LeNet-5は重みの共有により、学習するパラメータが約6万個に抑えられていました。AlexNetは約6,000万個のパラメータをもち、2枚のGPUで5〜6日かけて学習しました。計算資源の進歩が大規模化を可能にしました。
- D
不適切 正解
畳み込み層とプーリング層を組み合わせて特徴を自動で学習する構造は、LeNetですでに確立していました。AlexNetの成功を支えたのは、大規模なデータ、GPUによる計算、ReLU関数やドロップアウトなどの学習の工夫です。
試験での狙われ方
LeNetとAlexNetについて、構造の共通点と、性能の差を生んだ背景(データ量・計算資源)を区別させる形が考えられます。
参考
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目6 ディープラーニング)
- LeCun, Bottou, Bengio and Haffner, Gradient-based learning applied to document recognition, Proceedings of the IEEE (1998) (II. Convolutional Neural Networks for Isolated Character Recognition; III.A Database: The Modified NIST Set)
- Krizhevsky, Sutskever and Hinton, ImageNet Classification with Deep Convolutional Neural Networks (NIPS 2012) (Abstract; 1 Introduction; 2 The Dataset)