学習ガイド 第5章
ディープラーニングの要素技術(G検定 技術分野)
畳み込み層・回帰結合層・Attentionなど、ネットワークを組み立てる部品を扱います。
- 中項目9
- キーワード60語
- 練習問題72問
- 出題の目安 約21問
この分野の練習問題は72問です。復習の時期が来た問題と、まだ解いていない問題から順に出題します。
全72問・解いた記録はまだありません
概要
この分野で扱うこと
前の分野で学んだ学習の仕組みの上に、モデルを組み立てる「部品」を学ぶ分野です。中項目が9つあり、扱うデータや目的でまとめると見通しがよくなります。
| まとまり | 中項目 | 主な役割 |
|---|---|---|
| 基本の層 | 全結合層 | 多くのモデルの土台 |
| 画像向けの層 | 畳み込み層、プーリング層 | 画像の特徴を取り出す |
| 深くするための工夫 | 正規化層、スキップ結合 | 学習を安定させる |
| 主に系列データ向け | 回帰結合層、Attention | 文章・音声・時系列を扱う |
| データを生かす工夫 | オートエンコーダ、データ拡張 | 特徴の圧縮と生成、学習データの水増し |
学ぶ順番
まず、全結合層、畳み込み層、プーリング層、正規化層、スキップ結合の順に、画像を扱うCNNを組み立てる流れで読みます。次に、回帰結合層からAttentionへ進み、系列データの処理がRNNからTransformerへ移った流れを追います。オートエンコーダとデータ拡張は最後で構いません。
つまずきやすいところ
畳み込み層では出力サイズやパラメータ数の計算、正規化層では平均と分散をどの範囲でとるかが、理解の分かれ目になります。どちらも、小さな数値の例を自分で1つ計算してみると定着します。Attentionはクエリ・キー・バリューの役割が抽象的なので、辞書を引く操作にたとえて理解します。ここで学ぶ部品は、次の分野「ディープラーニングの応用例」に出てくるモデル名を読み解く手がかりになります。
出題の目安
145問中約21問前後
当サイトの推計です。幅をもたせると約17〜22問(全体の12〜15%)とみています。分野別の出題数は公表されていません。
全体の問題数「145問程度」の出典:JDLAのFAQ 最終確認日:2026年10月30日
中項目一覧
- シラバス 技術17 全結合層 キーワード2語・練習問題3問 未回答
- シラバス 技術18 畳み込み層 キーワード10語・練習問題11問 未回答
- シラバス 技術19 正規化層 キーワード4語・練習問題6問 未回答
- シラバス 技術20 プーリング層 キーワード4語・練習問題5問 未回答
- シラバス 技術21 スキップ結合 キーワード1語・練習問題3問 未回答
- シラバス 技術22 回帰結合層 キーワード12語・練習問題13問 未回答
- シラバス 技術23 Attention キーワード10語・練習問題11問 未回答
- シラバス 技術24 オートエンコーダ キーワード5語・練習問題6問 未回答
- シラバス 技術25 データ拡張 キーワード12語・練習問題14問 未回答
数字はシラバスの項目番号です。右側にはこのブラウザに保存された正答率を表示します。
つまずきやすい点
- 最大値プーリングや平均値プーリングには学習で調整する重みがなく、畳み込み層はフィルタの重みを学習する点
- バッチ正規化はミニバッチ内の複数のデータにまたがってチャンネルごとに、レイヤー正規化は1つのデータの中で、平均と分散を計算する点
- スキップ結合は層を飛ばして入力を出力に足す仕組みで、層を深くしても勾配が伝わりやすくなり、ResNetの中心となる仕組みである点
- Transformerは回帰結合層を使わずAttentionで系列を処理するため、語順の情報を位置エンコーディングで加える必要がある点
この分野を解く
復習の時期が来た問題と、まだ解いていない問題から順に出題します。
この分野の用語
- 重み
- 活性化関数
- 全結合層
- カーネル(畳み込み)
- CNN
- ストライド
- Dilated Convolution
- Depthwise Separable Convolution
- 特徴マップ
- ニューラルネットワーク
- パディング
- インスタンス正規化
- グループ正規化
- バッチ正規化
- レイヤー正規化
- グローバルアベレージプーリング
- 最大値プーリング
- 不変性の獲得
- 平均値プーリング
- ResNet
- RNN
- LSTM
- エルマンネットワーク
- 教師強制
- ゲート機構
- 勾配消失問題
- 勾配爆発問題
- GRU
- 時系列データ
- ジョルダンネットワーク
- 双方向RNN
- BPTT
- Attention
- 位置エンコーディング
- Seq2Seq
- Self-Attention
- Source-Target Attention
- Transformer
- Multi-Head Attention
- オートエンコーダ
- 次元削減
- VAE
- Cutout
- CutMix
- データ拡張
- noising
- paraphrasing
- Mixup
- Random Erasing
- RandAugment
混同しやすい用語の比較
前後の分野
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 ディープラーニングの要素技術(項目17〜25))
- Yann LeCun, Léon Bottou, Yoshua Bengio, Patrick Haffner, Gradient-Based Learning Applied to Document Recognition, Proceedings of the IEEE 86(11), 2278–2324 (1998)
- Sergey Ioffe, Christian Szegedy, Batch Normalization: Accelerating Deep Network Training by Reducing Internal Covariate Shift (2015)
- Kaiming He, Xiangyu Zhang, Shaoqing Ren, Jian Sun, Deep Residual Learning for Image Recognition (2015)
- Ashish Vaswani et al., Attention Is All You Need (2017)