回帰係数・残差・決定係数をどう読むか。

架空データによる単回帰分析の計算例

単回帰モデルの理解を深めるため、「1日の学習時間（X：時間）」と「テストの得点（Y：点）」に関する5人分の架空データで回帰方程式を手計算する流れを示します。

【5人のデータ点 (X, Y)】 ・Aさん (1, 40) ・Bさん (2, 50) ・Cさん (3, 70) ・Dさん (4, 70) ・Eさん (5, 90)

まず平均値を計算します。 ・Xの平均： (1 + 2 + 3 + 4 + 5) / 5 = 3 時間 ・Yの平均： (40 + 50 + 70 + 70 + 90) / 5 = 64 点

回帰式の傾き（回帰係数 β）を計算するため、Xの偏差平方和（分母）と、XとYの共分散の分子にあたる偏差の積の和（分子）を求めます。

・Xの偏差平方和： (1-3)² + (2-3)² + (3-3)² + (4-3)² + (5-3)² = 4 + 1 + 0 + 1 + 4 = 10

・XとYの偏差の積の和： (1-3)(40-64) + (2-3)(50-64) + (3-3)(70-64) + (4-3)(70-64) + (5-3)(90-64) = (-2)(-24) + (-1)(-14) + 0 + (1)(6) + (2)(26) = 48 + 14 + 0 + 6 + 52 = 120

・傾き（回帰係数 β）： 120 / 10 = 12

・切片 α： Yの平均 - β × Xの平均 = 64 - 12 × 3 = 28

よって、推定された単回帰方程式は「Yの予測値 = 12 × X + 28」となります。

残差と決定係数（R²）の計算

回帰式の予測値と、手元の5人分の得点との差を計算します。

【予測値と残差 (e = 実績値 - 予測値)】 ・Aさん：予測値40点、実績値40点 → 残差0点 ・Bさん：予測値52点、実績値50点 → 残差−2点 ・Cさん：予測値64点、実績値70点 → 残差+6点 ・Dさん：予測値76点、実績値70点 → 残差−6点 ・Eさん：予測値88点、実績値90点 → 残差+2点

切片を含む最小二乗回帰なので残差の和は0です。残差平方和は0²+2²+6²+6²+2²=80、Yの全平方和は1520です。したがってR²=1−80/1520=18/19≈0.9474です。これは、この架空の5点の得点の変動に対する当てはまりを表します。5点だけで新しい人への予測精度や学習時間の因果効果は評価できません。

回帰係数と相関係数の符号の数学的一致

XとYにともにばらつきがある単回帰では、回帰係数と相関係数の符号は一致します。回帰係数の分子はXとYの共分散（偏差の積の和）で、分母はXの偏差平方和（この条件では正）だからです。相関係数も同じ共分散を分子に使います。XまたはYが一定なら係数や相関係数を通常どおり定義できないため、この関係を機械的に当てはめません。