サポートベクターマシン(SVM)とロジスティック回帰は、どちらも2クラス分類に使える。両者の違いに関する説明として、最も適切なものを1つ選べ。
正解と解説を見る
解説
正解 A
この問題の論点：SVMとロジスティック回帰の違い
ポイント
SVMの境界はサポートベクターだけで決まり、ロジスティック回帰の係数はすべての訓練データの尤度から決まります。
選択肢ごとの解説
- A
適切 正解
SVMの境界は、マージン上やマージンの内側にあるデータ（サポートベクター）だけで決まります。マージンの外側で正しく分類されたデータは境界の計算に寄与しないため、取り除いても境界は変わりません。
- B
不適切
ロジスティック回帰は、すべての訓練データの尤度をもとに係数を推定します。境界から離れて正しく分類されたデータの影響は小さいものの、ゼロにはならない点がSVMとの違いです。
- C
不適切
SVMの出力は境界からの符号付きの距離に応じたスコアで、確率ではありません。確率が必要なときは、スコアをロジスティック関数で変換するPlattスケーリングなどで別途求めます。
- D
不適切
マージン最大化はSVMの考え方です。ロジスティック回帰は、手元のデータが得られる確からしさ（尤度）を最大にする最尤推定で係数を求め、各クラスの確率を出力します。
試験での狙われ方
SVMとロジスティック回帰を、境界の決め方（マージン最大化か最尤推定か）、境界に効くデータ、出力（スコアか確率か）で見分けさせる形が考えられます。
参考
- G検定 試験出題範囲（シラバス2024）第1.4版 （技術分野 項目7 教師あり学習）
- Cortes, Vapnik, Support-Vector Networks, Machine Learning 20 (1995)
- scikit-learn User Guide, Support Vector Machines （Scores and probabilities）
- James, Witten, Hastie, Tibshirani, An Introduction to Statistical Learning （Chapter 9 Support Vector Machines（9.2 Support Vector Classifiers, 9.5 Relationship to Logistic Regression））