条件付き確率とは

条件付き確率は、「ある出来事が起きたとわかっている」という情報を使って、確率を計算し直す考え方です。P(A|B)と書き、「Bのもとでの、Aの確率」と読みます。

定義と例

定義はP(A|B) = P(A∩B) / P(B)です。P(A∩B)は、AとBが同時に起きる確率です。考える範囲を「Bが起きた場合」だけに絞り、その中でAも起きる割合を求めています。

たとえばサイコロを1回振り、「偶数が出た」とわかったとします。偶数は2・4・6の3通りです。このうち「4以上」は4と6の2通りなので、P(4以上|偶数) = 2/3です。条件がないときのP(4以上) = 1/2とは値が変わります。

Bが起きてもAの確率が変わらない場合は、P(A|B) = P(A)です。このとき、AとBは独立であるといいます。

向きを取り違えない

P(A|B)とP(B|A)は、一般に別の値です。病気の検査なら、「病気の人が陽性になる確率」と「陽性の人が本当に病気である確率」は違います。病気の人がまれだと、検査の精度が高くても、陽性の人の多くが実は健康ということが起こります。

この2つを結びつけるのが、ベイズの定理P(A|B) = P(B|A) × P(A) / P(B)です。分類モデルの評価指標でも、再現率は「実際に陽性のものが陽性と判定される確率」、適合率は「陽性と判定されたものが実際に陽性である確率」で、条件の向きが逆になっています。

機械学習での使われ方

分類モデルの多くは、入力xが与えられたときのクラスyの条件付き確率P(y|x)を出力します。ナイーブベイズ分類器は、ベイズの定理を直接使う手法です。言語モデルも、それまでの単語列を条件として、次の単語の確率を予測しています。

覚え方

「縦棒の右が前提、左が知りたいこと」と覚えます。