1行定義
正規分布とは、平均を中心に左右対称な釣鐘型をした連続型の確率分布で、平均と標準偏差の2つの値で形が決まるもののことです。
くわしく
正規分布は、平均の位置に山の頂点があり、左右になだらかに裾が広がる釣鐘型の確率分布です。ガウス分布とも呼ばれます。身長や測定誤差のように、連続した値をとるデータのモデルとしてよく使われます。
形を決める2つの値
正規分布の形は、平均μと標準偏差σの2つだけで決まります。平均は山の位置を、標準偏差は山の広がりを表します。標準偏差が大きいほど、山は低く横に広がります。式はf(x) = 1 / √(2πσ²) × exp(−(x − μ)² / (2σ²))で、N(μ, σ²)と書きます。
左右対称なので、平均・中央値・最頻値は一致します。
68-95-99.7の目安
正規分布では、平均から±1σの範囲に約68%、±2σに約95%、±3σに約99.7%のデータが入ります。たとえば平均170cm、標準偏差6cmの身長が正規分布に従うなら、164〜176cmに約68%の人が入ります。±3σの外側はごくまれなので、品質管理や異常検知で外れ値の目安に使われます。
値から平均を引いて標準偏差で割る(z = (x − μ) / σ)と、平均0・標準偏差1の標準正規分布に変換できます。これを標準化といいます。
よく使われる理由
同じ分布に従う独立な値をたくさん足し合わせると、その和や平均の分布は、もとの分布の形によらず正規分布に近づきます。これを中心極限定理といいます。機械学習でも、回帰の誤差が正規分布に従うと仮定すると、最尤法の結果が最小二乗法と一致します。重みの初期値を乱数で決めるときや、VAEの潜在変数の事前分布にも使われます。
一方、件数のような0以上の整数をとるデータには、二項分布やポアソン分布のほうが適しています。
覚え方
「1σで約7割、2σで約95%、3σでほぼ全部」と覚えます。
G検定での出題
出題のされ方
平均・中央値・最頻値が一致する左右対称の形、平均±1σ・±2σの範囲に入るデータの割合、標準正規分布への標準化、二項分布やポアソン分布との使い分けが問われます。
混同しやすい用語
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
正規分布では、平均・中央値・最頻値がすべて同じ値になる。
答えを見る
答え ◯ 正しい
左右対称で、山の頂点がちょうど平均の位置にあるためです。3つの代表値が一致します。
-
正規分布に従うデータでは、平均から±1標準偏差の範囲に、全体の約95%が含まれる。
答えを見る
答え × 誤り
±1標準偏差の範囲に入るのは約68%です。約95%が入るのは、±2標準偏差(正確には約1.96標準偏差)の範囲です。
-
標準正規分布とは、平均0、標準偏差1の正規分布のことである。
答えを見る
答え ◯ 正しい
値から平均を引いて標準偏差で割る標準化(z = (x − μ) / σ)で、どの正規分布も標準正規分布に変換できます。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目37 AIに必要な数理・統計知識)
- NIST/SEMATECH e-Handbook of Statistical Methods (1.3.6.6.1 Normal Distribution)
- Ian Goodfellow, Yoshua Bengio, Aaron Courville, Deep Learning, MIT Press (2016) (3.9.3 Gaussian Distribution)