分類問題とは

分類問題は、データを決められた箱のどれかに振り分ける問題です。迷惑メールかどうかの判定、画像に写った動物の種類の判別、顧客が解約するかどうかの予測などが当たります。教師あり学習は、出力の種類によって分類問題と回帰問題に大きく分かれます。

回帰問題との違い

回帰問題は、売上金額や気温のような連続した数値を予測します。分類問題は、「迷惑メール」「通常のメール」のようなカテゴリを予測します。

見分けるときは、手法の名前ではなく出力の形を見ます。ロジスティック回帰は名前に「回帰」とありますが、クラスに属する確率を出し、分類に使います。決定木は、分類と回帰のどちらにも使えます。

2クラス分類と多クラス分類

クラスの数で、2クラス分類（二値分類）と、3つ以上のクラスを扱う多クラス分類に分けます。ニューラルネットワークでは、2クラス分類の出力層にシグモイド関数、多クラス分類の出力層にソフトマックス関数を使うのが一般的です。1つのデータに複数のクラスを同時に付けるマルチラベル分類では、クラスごとにシグモイド関数を使います。誤差関数には交差エントロピーを使います。

代表的な手法には、ロジスティック回帰、サポートベクターマシン（SVM）、決定木、ランダムフォレスト、ニューラルネットワークなどがあります。多くのモデルは各クラスに属する確率や点数を出し、しきい値などでクラスを決めます。

評価の仕方

正解率だけでは不十分なことがあります。不良品が1%しかないデータでは、すべてを「良品」と答えても正解率は99%になります。混同行列をもとに、適合率、再現率、F値、ROC曲線・AUCなどを目的に合わせて使い分けます。

クラスタリングとの違い

クラスタリングも、データをグループに分けます。ただし正解のラベルを使わない教師なし学習で、各グループの意味は後から人が解釈します。

覚え方

「数を当てるのが回帰、箱を当てるのが分類」と覚えます。