予測誤差は、バイアス(モデルが単純すぎることによる系統的なずれ)と、バリアンス(学習データの違いによる予測のばらつき)に分けて考えることがある。アンサンブル学習に関する説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点:アンサンブルとバイアス・バリアンス
ポイント
バギングは主に不安定なモデルのバリアンスを減らす手法です。効果は、誤り方の異なるモデルを集めたときに生まれます。
選択肢ごとの解説
- A
適切 正解
深い決定木はバイアスが小さい反面、学習データの違いで予測が大きく揺れます。ブートストラップ標本ごとに学習した木を平均すると、この揺れ(バリアンス)が打ち消し合い、精度が上がります。
- B
不適切
同じ傾向のずれをもつモデルを平均しても、ずれ自体は残ります。バギングが主に減らすのはバリアンスで、単純すぎるモデルのバイアスはほとんど減りません。
- C
不適切
ブースティングでも学習器を増やしすぎると訓練データに過剰に適合し、検証データの誤差が上がることがあります。そのため学習率を小さくしたり、検証誤差を見て早期終了したりします。
- D
不適切
誤り方のそろったモデルを平均しても、誤りは打ち消し合わずに残ります。アンサンブルの効果は、個々のモデルの誤り方が互いに異なる(多様性がある)ときに大きくなります。
試験での狙われ方
バギングとブースティングの違いを、学習の順序だけでなく、主に減らす誤差(バリアンスかバイアスか)の観点で比べさせる形が考えられます。
参考
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目7 教師あり学習)
- Breiman, Bagging Predictors, Machine Learning 24 (1996)
- scikit-learn User Guide, Ensembles (Bagging meta-estimator)