共分散とは

共分散は、2つの変数が「一緒に増えるか、逆向きに動くか」を表す値です。相関係数を求める途中で使う、基本の量です。

求め方

データがn組あるとき、各データで「xの平均からのずれ」と「yの平均からのずれ」を掛け、その平均をとります。

Cov(x, y) = (1/n) × Σ (xi − xの平均) × (yi − yの平均)

両方が平均より大きいデータや、両方が平均より小さいデータでは、積が正になります。片方だけが平均より大きいデータでは、積が負になります。そのため、共分散が正なら同じ向きに動く傾向、負なら逆向きに動く傾向があると読めます。0なら、直線的な関係は見られないことを表します。ただし、値の大小は単位に左右されるため、0に近いかどうかを共分散だけで判断することはできません。標本から母集団の値を推定するときは、nの代わりにn − 1で割ることもあります。

計算例

x = (1, 2, 3)、y = (1, 3, 5)とします。平均からのずれは、xが(−1, 0, 1)、yが(−2, 0, 2)です。積の合計は2 + 0 + 2 = 4なので、nで割ると共分散は4/3 ≒ 1.33です。

相関係数との違い

共分散の大きさは、データの単位に左右されます。身長をメートルからセンチメートルに直すと、身長と体重の共分散は100倍になります。そのため、共分散の大きさだけでは関係の強さを比べられません。それぞれの標準偏差で割り、−1から1にそろえたものが相関係数です。

分散との関係と使われ方

変数とそれ自身との共分散は、その変数の分散に一致します。複数の変数の分散と共分散を並べた行列を、分散共分散行列といいます。主成分分析では、この行列から、データのばらつきが大きい方向を求めます。マハラノビス距離では、この行列を使い、ばらつきや相関を考慮した距離を測ります。

覚え方

「ずれの掛け算の平均。符号は向き、大きさは単位しだい」と覚えます。