1行定義
単回帰分析とは、1つの説明変数から目的変数を予測するため、2つの変数の関係を1本の直線(回帰直線)で表す線形回帰のことです。
くわしく
単回帰分析は、2つの量の関係を1本の直線で表す、最も単純な回帰の方法です。「気温が1度上がると、飲み物の販売数がどれだけ増えるか」のような問いに答えます。
式の形
予測したい変数を目的変数y、手がかりにする変数を説明変数xとして、y = ax + bの形の回帰直線を求めます。aは傾き(回帰係数)で、xが1増えたときのyの予測値の変化量です。bは切片で、x = 0のときの予測値です。
aとbは最小二乗法で求めます。各値と平均との差を偏差と呼ぶと、傾きは「xとyの偏差の積の和 ÷ xの偏差の2乗の和」です。切片は「yの平均 − 傾き × xの平均」なので、直線は必ずxの平均とyの平均の組の点を通ります。
計算例
ある会社で、4週間分のウェブ広告の出稿回数x(回)と資料請求の件数y(件)を記録し、(1, 3)、(2, 5)、(3, 4)、(4, 8)を得たとします。
- 平均:xは2.5、yは5
- 偏差の積の和:(−1.5)×(−2) + (−0.5)×0 + 0.5×(−1) + 1.5×3 = 7
- xの偏差の2乗の和:2.25 + 0.25 + 0.25 + 2.25 = 5
- 傾き:a = 7 ÷ 5 = 1.4
- 切片:b = 5 − 1.4 × 2.5 = 1.5
回帰直線はy = 1.4x + 1.5です。広告を3回出す週の予測は1.4 × 3 + 1.5 = 5.7件です。
当てはまりのよさと限界
当てはまりのよさは決定係数で表します。単回帰分析では、決定係数は相関係数の2乗に等しくなります。この例ではyの偏差の2乗の和が4 + 0 + 1 + 9 = 14なので、決定係数は7 × 7 ÷ (5 × 14) = 0.7です。
ただし、回帰直線が示すのは2つの変数の関係の傾向で、因果関係までは示しません。データの範囲(ここでは1〜4回)から大きく外れたxでの予測も、当てにしにくくなります。目的変数に影響する要因が複数あるときは、説明変数を増やした重回帰分析を使います。
G検定での出題
出題のされ方
説明変数が1つの線形回帰であることや重回帰分析との区別、回帰直線の傾きと切片の意味、少数のデータから最小二乗法で直線を求める計算が問われます。
混同しやすい用語
| 用語 | 意味 |
|---|---|
| 単回帰分析このページの用語 | 1つの説明変数から目的変数を予測するため、2つの変数の関係を1本の直線(回帰直線)で表す線形回帰 |
| 重回帰分析 | 2つ以上の説明変数を使い、目的変数をそれらに係数を掛けて足し合わせた1次式で表して分析・予測する線形回帰 |
◯×チェック
次の文が正しいか、誤りかを選んでください。
-
単回帰分析で、最小二乗法により求めた回帰直線の傾きが正であれば、2つの変数の相関係数も正である。
答えを見る
答え ◯ 正しい
傾きも相関係数も、分子は同じ「偏差の積の和」で、分母は正の値です。そのため、傾きと相関係数の符号は必ず一致します。
-
単回帰分析で求めた回帰直線の傾きが大きいデータほど、2つの変数の相関係数も必ず大きい。
答えを見る
答え × 誤り
傾きは変数の単位やばらつきで変わります。たとえばyの単位を円から千円に変えると、傾きは1000分の1になりますが、相関係数は変わりません。
-
単回帰分析で回帰直線がデータによく当てはまれば、説明変数が目的変数の原因であると判断できる。
答えを見る
答え × 誤り
回帰直線が示すのは、2つの変数がそろって変化する傾向だけです。両方に影響する別の要因がある場合もあるので、因果関係は別の根拠で確かめます。
この用語の練習問題
出典
- G検定 試験出題範囲(シラバス2024)第1.4版 (技術分野 項目7 教師あり学習)
- Gareth James, Daniela Witten, Trevor Hastie, Robert Tibshirani, An Introduction to Statistical Learning, 2nd ed., Springer (2021) (3.1 Simple Linear Regression)
- NIST/SEMATECH e-Handbook of Statistical Methods (4.1.4.1 Linear Least Squares Regression)