ある小売チェーンが、約80個の説明変数から店舗の月間売上を予測する線形回帰モデルを作る。説明変数には、売場面積と棚の数のように互いに強く相関する組がいくつも含まれる。正則化を加えた回帰の使い方に関する説明として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 C
この問題の論点：相関の強い変数と正則化回帰
ポイント
相関の強い変数の組があると、ラッソ回帰は一部だけを選んで残りを0にしやすくなります。組で残したいときはElastic Netを検討します。
選択肢ごとの解説
- A
適切
Elastic Netは、L1とL2の罰則を重み付きで足して使います。L1の項で不要な変数の係数を0にし、リッジ回帰と同じL2の項で相関の強い変数の係数を近い値に寄せるため、組ごとに扱われやすくなります。
- B
適切
売場面積を㎡で測るか千㎡で測るかで、同じ影響を表す係数の大きさは1000倍変わります。尺度がそろっていないと罰則が変数ごとに不公平に効くため、平均0・分散1などに標準化してから学習します。
- C
不適切 正解
ラッソ回帰は、似た情報をもつ変数の組から一部だけを選び、残りの係数を0にしやすい性質があります。どれが残るかはデータの少しの違いで変わりうるため、0になった変数が売上に無関係とは言えません。
- D
適切
線形回帰の訓練データでの二乗誤差は、正則化をしないλ = 0のときに最も小さくなります。λは、交差検証などで学習に使っていないデータの誤差が最小になる値を選びます。
試験での狙われ方
ラッソ回帰・リッジ回帰・Elastic Netの罰則の違いと、それぞれが係数に与える影響を比べさせる形が考えられます。