重回帰（説明変数 2 つ）の求め方

2 つの説明変数から $y$ を予測する式を作ります。予測値と実際の値の差の 2 乗和がいちばん小さくなるように、3 つの係数を決めます。

単回帰と違い、係数 $b_1$ は「$x_2$ を一定に保ったときの $x_1$ の効き方」を表します。もう一方の影響を取り除いたうえでの傾きです。

決定係数

$R^2$ は、$y$ のばらつきのうち式で説明できた割合です。ただし説明変数を増やせば $R^2$ は必ず上がるので、そのままでは変数を足し得になります。自由度調整済み $R^2$ は変数の数で罰を与えた値で、こちらで比べます。

例

6 組のデータから $y = 1.71 + 2.375x_1 + 0.375x_2$ が得られたとします。$R^2$ は 0.997、自由度調整済みでは 0.996 です。$x_1 = 7$、$x_2 = 7$ を入れると、予測値は 20.96 になります。

説明変数どうしが連動していると解けない

$x_1$ と $x_2$ が完全に比例していると、どちらの効果か区別できず、係数が一つに定まりません。完全でなくても連動が強いと係数が不安定になり、符号が入れ替わることさえあります。これを多重共線性といいます。

注意

係数を 3 つ決めるので、データは 4 組以上必要です。

係数の大きさをそのまま比べることはできません。単位が違えば大きさも変わります。