ある電力会社が、過去3年分のデータを使い、最高気温などから翌日の電力需要を予測するランダムフォレスト（回帰）のモデルを作った。学習データの最高気温は25〜35℃の範囲だった。今年、最高気温39℃が予想された日の予測値を確かめると、35℃の日の予測値とほぼ同じで、気温に応じた需要の増加を反映していなかった。この現象の説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点：回帰木による予測の外挿
ポイント
回帰の決定木やランダムフォレストは訓練データの範囲を超える値を予測できないため、範囲外の入力では予測値が頭打ちになります。
選択肢ごとの解説
- A
適切 正解
決定木の予測は、領域ごとに一定の値をとる階段状の関数です。分岐のしきい値は訓練データの範囲内で決まるため、範囲外の入力は端の領域に入り、その平均が出力されます。決定木は外挿が苦手です。
- B
不適切
本数を増やすと予測のばらつきは減りますが、どの木も訓練データの目的変数の平均しか出力しません。それらを平均しても、訓練データで見た需要の最大値を超える予測値にはなりません。
- C
不適切
決定木は1つの特徴量としきい値の大小比較で分岐するため、標準化しても分岐の結果は変わりません。標準化は大小関係を保つ変換なので、範囲外の入力を扱えない性質も残ります。
- D
不適切
深さを制限すると、階段の段が粗くなるだけです。どの深さでも葉ごとに一定の値を出す仕組みは同じなので、訓練データの範囲外で予測値が伸びることはありません。
補足
対策としては、学習データに極端な気温の日を加える、線形回帰など傾向を延ばせるモデルと組み合わせる、予測時に入力が学習データの範囲内かを監視する、といった方法があります。
試験での狙われ方
決定木系の手法の性質として、外挿が苦手なことと、特徴量の標準化が不要なことを取り違えさせる形が考えられます。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目7 教師あり学習）
- Breiman, Random Forests, Machine Learning 45 (2001)
- scikit-learn User Guide, Decision Trees （Disadvantages（predictions are piecewise constant, not good at extrapolation））