学習する仕組みにおける信用割当問題に関する説明として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 D
この問題の論点:信用割当問題の現れ方
ポイント
信用割当問題は、結果への責任を内部の要素や過去の判断に割り振る問題です。ニューラルネットワークでは隠れ層の重み、強化学習では過去の行動が対象です。
選択肢ごとの解説
- A
適切
出力層の重みは正解との差から直接調整できますが、隠れ層には正解がありません。誤差逆伝播法は、連鎖律で求めた勾配によって、隠れ層の各重みの責任の大きさを定量化します。
- B
適切
成功への貢献を多数の判断にどう配分するかという問題として、ミンスキーが1961年の論文で論じました。勝敗が終局まで分からないゲームなどが典型例です。
- C
適切
誤差逆伝播法で責任を勾配として求められても、深いネットワークでは勾配が層をさかのぼるたびに縮み、入力層に近い重みにほとんど伝わらないことがあります。
- D
不適切 正解
これは線形分離可能性による単純パーセプトロンの限界で、XORが代表例です。隠れ層を加えると、今度は正解のない隠れ層の重みをどう調整するかという信用割当問題が生じ、誤差逆伝播法がその解決策になりました。
試験での狙われ方
信用割当問題と誤差逆伝播法の関係を問う形や、単純パーセプトロンの限界(線形分離可能性)と取り違えさせる形が考えられます。
参考
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目15 誤差逆伝播法)
- Sutton, Barto, Reinforcement Learning: An Introduction, 2nd ed. (2018) (1.7 Early History of Reinforcement Learning(Minsky 1961の信用割当問題))
- Schmidhuber, Deep Learning in Neural Networks: An Overview (2015)