モデルの複雑さとモデル選択に関する説明として、最も不適切なものを1つ選べ。
正解と解説を見る
解説
正解 C
この問題の論点：情報量規準とモデルの複雑さ
ポイント
AICとBICはどちらも値が小さいほど良いモデルです。BICはデータ数が多いほど罰則が強くなるため、より単純なモデルを選びやすくなります。
選択肢ごとの解説
- A
適切
必要以上に仮定を増やさないという原則です。機械学習では、性能が同程度なら単純なモデルを選ぶことで、過学習のリスクを下げる指針になります。
- B
適切
AICは「−2×最大対数尤度+2×パラメータ数」で計算します。当てはまりが良いほど第1項が小さく、パラメータが多いほど第2項が大きくなるため、値が小さいモデルを選びます。
- C
不適切 正解
BICの罰則項は「パラメータ数×データ数の自然対数」です。データ数が8以上ならAICの罰則項（パラメータ数×2）より大きくなるため、AICより単純なモデルを選びやすくなります。
- D
適切
訓練データに過剰に適合すると、ノイズまで覚えてしまい、未知のデータへの汎化性能が下がります。訓練誤差と検証誤差の差が広がることが、過学習の目安になります。
試験での狙われ方
AICとBICの罰則の違いや、オッカムの剃刀と過学習の関係を、正誤の判断で問う形が典型的です。