G検定 練習問題 #0328・教師あり学習

アンサンブルとバイアス・バリアンス

機械学習の概要 › 教師あり学習 単一選択 難易度 標準

予測誤差は、バイアス(モデルが単純すぎることによる系統的なずれ)と、バリアンス(学習データの違いによる予測のばらつき)に分けて考えることがある。アンサンブル学習に関する説明として、最も適切なものを1つ選べ。

正解と解説を見る

解説

正解 A

この問題の論点:アンサンブルとバイアス・バリアンス

ポイント

バギングは主に不安定なモデルのバリアンスを減らす手法です。効果は、誤り方の異なるモデルを集めたときに生まれます。

選択肢ごとの解説

  1. A

    適切 正解

    深い決定木はバイアスが小さい反面、学習データの違いで予測が大きく揺れます。ブートストラップ標本ごとに学習した木を平均すると、この揺れ(バリアンス)が打ち消し合い、精度が上がります。

  2. B

    不適切

    同じ傾向のずれをもつモデルを平均しても、ずれ自体は残ります。バギングが主に減らすのはバリアンスで、単純すぎるモデルのバイアスはほとんど減りません。

  3. C

    不適切

    ブースティングでも学習器を増やしすぎると訓練データに過剰に適合し、検証データの誤差が上がることがあります。そのため学習率を小さくしたり、検証誤差を見て早期終了したりします。

  4. D

    不適切

    誤り方のそろったモデルを平均しても、誤りは打ち消し合わずに残ります。アンサンブルの効果は、個々のモデルの誤り方が互いに異なる(多様性がある)ときに大きくなります。

試験での狙われ方

バギングとブースティングの違いを、学習の順序だけでなく、主に減らす誤差(バリアンスかバイアスか)の観点で比べさせる形が考えられます。

参考

表示設定

テーマ
文字の大きさ
問題演習