ある製造業の企業で、外観検査に使う画像分類モデルの学習コードを見直している。最適化手法を確率的勾配降下法（SGD）からAdamに切り替える案が出た。この切り替えと誤差逆伝播法の関係に関する説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 B
この問題の論点：誤差逆伝播法と最適化手法の役割
ポイント
誤差逆伝播法は勾配を計算する方法です。その勾配を使って重みを更新するのは、SGDやAdamなどの最適化手法の役割です。
選択肢ごとの解説
- A
不適切
Adamは、勾配とその2乗の移動平均をもとに更新量を決める、勾配にもとづく最適化手法です。勾配そのものは、SGDのときと同じく誤差逆伝播法で計算します。
- B
適切 正解
誤差逆伝播法は連鎖律で勾配を計算する方法で、その勾配を使って重みをどれだけ動かすかを決めるのが最適化手法です。役割が分かれているので、最適化手法だけを入れ替えられます。
- C
不適切
誤差逆伝播法が求めるのは、現在の重みでの損失の勾配だけです。損失を最小にする重みに一度で到達するわけではないため、最適化手法で少しずつ更新を繰り返します。
- D
不適切
誤差逆伝播法は計算の流れを連鎖律でさかのぼって勾配を求める方法で、SGDにもAdamにも同じように使えます。数値微分は計算量が大きく大規模なモデルの学習には向かないため、主に実装した勾配が正しいかの確認に使われます。
試験での狙われ方
誤差逆伝播法を学習アルゴリズム全体と取り違えさせる選択肢で、勾配の計算と重みの更新の役割分担を問う形が考えられます。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目15 誤差逆伝播法）
- Goodfellow, Bengio, Courville, Deep Learning (2016) （6.5 Back-Propagation and Other Differentiation Algorithms）
- Kingma, Ba, Adam: A Method for Stochastic Optimization (2014)