ある通信会社が、契約者の利用データから解約しそうな顧客を予測するため、ランダムフォレストでモデルを作っている。チームの検討で出た意見として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 D
この問題の論点：ランダムフォレストの木の本数とOOB
ポイント
ランダムフォレストでは、木の本数を増やすことが過学習の原因にはなりません。OOBデータによる汎化性能の見積もりや、特徴量の重要度も使えます。
選択肢ごとの解説
- A
適切
ブートストラップサンプリングは重複を許して抽出するため、各木の学習には元データの約3分の1（約37%）が使われません。このOOB（out-of-bag）データで予測を確かめると、汎化性能を見積もれます。
- B
適切
強い特徴量が1つあると、どの木も同じ分岐から始まり、木どうしが似てしまいます。候補の特徴量を分岐ごとに絞ると木の相関が下がり、平均したときにばらつきを減らす効果が高まります。
- C
適切
各特徴量が分岐で不純度をどれだけ減らしたかを、すべての木で平均して重要度を出せます。ただし予測への寄与の目安であり、解約の原因という因果関係を示すものではありません。
- D
不適切 正解
多数の木の予測をまとめるバギングの仕組みにより、本数を増やすと汎化誤差はある値に収束します。本数の増加が原因で過学習が進むことはなく、主な代償は計算時間です。ある本数を超えると精度の改善も止まります。
試験での狙われ方
ランダムフォレストの性質を、ブースティングや1本の決定木の性質とすり替えた選択肢で問う形が考えられます。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目7 教師あり学習）
- Breiman, Random Forests, Machine Learning 45 (2001)
- scikit-learn User Guide, 1.11. Ensembles （1.11.2 Random forests and other randomized tree ensembles）