本ページでは、相関係数と回帰係数の関係についてまとめたい。
相関係数
2つの変数間の関係を示したものが相関係数である。相関係数の導出のためには、まず共分散を知っておく必要がある。
共分散は、
で求められる。i番目のx、yの平均との乖離が同じ方向であればプラス、違う方向であればマイナスとなる。xとyの平均との乖離の積をn番目まで合計し、nで除したものが共分散となる。全体としてxとyが同じ方向に動けばプラス、違う方向に動けばマイナスとなる。
そして、相関係数は以下のように表せる。
σ_x、σ_yはそれぞれの標準偏差となる。相関係数はー1から1までの数をとり、0の場合はxとyには関係がないということになる。(なぜー1から1までの値をとるかは、高校数学で習うコーシー・シュワルツの不等式で示すことができる。)
回帰係数
yを被説明変数、xを説明変数として回帰分析を行うことを考える。
このとき、最小二乗法によって求めた回帰係数の推定値は以下のように表せる。
相関係数と回帰係数の関係
以上より、相関係数と回帰係数の関係は以下のように表すことができる。
(参考):