平均と分散と標準偏差の計算で「2 乗和の公式」が 0 を返すとき

10 個のデータの分散が 3.6 だとします。全部に 10 億を足しても、ばらつきは変わらないので分散は 3.6 のままのはずです。

ところが 2 乗和の公式で計算させると、答えが 0 になります。

手で解くぶんには起きない事故ですが、式そのものにはこの弱さが最初から入っています。

平均

$n$ 個の値 $x_{1}, \dots, x_{n}$ の平均は、全部足して $n$ で割ったものです。

$\overset{x}{ˉ} = \frac{1}{n} i = 1 \sum n x_{i}$

例として 4、8、5、9、6、7、3、8、6、4 の 10 個を使います。合計は 60 なので、平均は 6 です。

偏差と平方和

各値から平均を引いたものを偏差といいます。この例では $- 2, 2, - 1, 3, 0, 1, - 3, 2, 0, - 2$ 。

偏差の合計はつねに $0$ です。プラスとマイナスが打ち消し合うので、そのままではばらつきの尺度になりません。

そこで 2 乗してから足します。

値	偏差	偏差の 2 乗
4	$- 2$	4
8	$2$	4
5	$- 1$	1
9	$3$	9
6	$0$	0
7	$1$	1
3	$- 3$	9
8	$2$	4
6	$0$	0
4	$- 2$	4

合計は 36 です。これを偏差平方和といいます。

2 つの分散

平方和を $n$ で割ったものが標本分散、 $n - 1$ で割ったものが不偏分散です^[1]。

$s_{n}^{2} = \frac{36}{10} = 3.6, s^{2} = \frac{36}{9} = 4.0$

同じデータから 2 つの値が出ます。どちらを「分散」と呼ぶかは文脈しだいなので、割った数を確かめる習慣が要ります。

なぜ $n - 1$ で割るのか

母集団の分散を推定したいとき、 $n$ で割ると小さめに出ます。偏差を測る中心が、母平均ではなく標本平均だからです。

標本平均はそのデータにいちばん近い位置に来るので、偏差平方和が最小になってしまう。真の平均から測れば、もっと大きくなるはずでした。

縮む割合はちょうど $(n - 1) / n$ です。

$n$	縮む割合	ずれ
2	0.500	50.0%
5	0.800	20.0%
10	0.900	10.0%
30	0.967	3.3%

$n$ が小さいほど深刻です。2 個なら半分になってしまう。 $n - 1$ で割るのは、この縮みをちょうど打ち消すためです。

$n$ が 30 もあればずれは 3% で、実用上はどちらでも大差ありません。

$n - 1$ で割った $s^{2}$ は分散については不偏ですが、その平方根 $s$ は標準偏差の不偏推定量ではありません。

平方根は非線形な操作なので、不偏性が保存されない。 $s$ はわずかに小さめに出ます。

標準偏差

分散の平方根が標準偏差です。単位がもとのデータに戻ります^[1]。

$3.6 = 1.8974, 4.0 = 2.0000$

分散は単位が 2 乗になるので、cm のデータなら cm² です。長さと面積を比べても意味がないので、平方根に戻してから使います。

2 乗和の公式

手計算では、偏差を 1 つずつ出すより次の形が速い場合があります。

$\sum (x_{i} - \overset{x}{ˉ})^{2} = \sum x_{i}^{2} - n \overset{x}{ˉ}^{2}$

例では $\sum x_{i}^{2} = 396$ 、 $n \overset{x}{ˉ}^{2} = 10 \times 36 = 360$ なので、 $396 - 360 = 36$ 。偏差から出した値と一致します。

データを 1 度読むだけで済むので、電卓でも表計算でも扱いやすい。

引き算で桁が消える

この式には弱点があります。大きい 2 つの数の差として小さい数を求める形になっているところです。

さきほどのデータに 10 億を足してみます。ばらつきは変わらないので、分散は 3.6 のままのはずです。

求め方	10 億を足したとき	正しい値
2 乗和の公式	0.0000	3.6
偏差を先にとる	3.6000	3.6

$\sum x_{i}^{2}$ は $1 0^{19}$ の桁になり、 $n \overset{x}{ˉ}^{2}$ もほぼ同じ。差の 36 は、有効数字の外へ落ちてしまいます。

浮動小数点数の有効桁は 16 桁ほどしかありません。 $1 0^{19}$ の数どうしの差では、下 3 桁が保証されない。

偏差を先に引く形なら、扱う数がもとの大きさのままなので、この事故は起きません^[2]。

数値計算の正確さを試すための標準データが公開されていて、この種の弱さを突く問題が難易度つきで並んでいます^[2]。

度数分布から求める

同じ値がまとまって出てくる場合は、値と度数の組から計算します。

値が 2、3、4、5、6 で、度数がそれぞれ 1、3、5、4、2 の 15 個を考えます。

$\overset{x}{ˉ} = \frac{\sum f _{i} x _{i}}{\sum f _{i}} = \frac{2 + 9 + 20 + 20 + 12}{15} = 4.2$

分散も同じように、偏差の 2 乗に度数を掛けて足します。

$4.84 \times 1 + 1.44 \times 3 + 0.04 \times 5 + 0.64 \times 4 + 3.24 \times 2 = 18.4$ なので、標本分散は $18.4/15 = 1.227$ 。

不偏分散は $18.4/14 = 1.314$ 、標準偏差は 1.108 と 1.147 です。度数は個数を数えているだけなので、割る数は $\sum f_{i}$ から $1$ を引きます。

練習

同じ手順で 2 つ通します。まず 12、15、11、18、14 の 5 個。

平均は $70/5 = 14$ 、偏差は $- 2, 1, - 3, 4, 0$ 、平方和は $4 + 1 + 9 + 16 + 0 = 30$ 。

標本分散は $30/5 = 6$ 、不偏分散は $30/4 = 7.5$ 。標準偏差は 2.449 と 2.739 です。

次に 20、22、19、23、21、27 の 6 個。合計 132、平均 22。

偏差は $- 2, 0, - 3, 1, - 1, 5$ で、平方和は $4 + 0 + 9 + 1 + 1 + 25 = 40$ 。標本分散 6.667、不偏分散 8.0 になります。

最後の 27 だけが平均から 5 も離れていて、平方和 40 のうち 25 を 1 つで占めています。2 乗するぶん、外れた値の影響が大きい^[1]。

5 個のデータの偏差平方和が 80 でした。不偏分散はいくつですか。

20
16
8.94

__RESULT__

不偏分散は平方和を $n - 1 = 4$ で割るので $80/4 = 20$ です。16 は $n = 5$ で割った標本分散、8.94 はどちらでもなく $80$ にあたります。

平均を出し、偏差を出し、2 乗して足し、 $n$ か $n - 1$ で割る。順番を守るほうが、公式を 1 つ覚えるより安全です。

参考

Measures of Scale. NIST/SEMATECH e-Handbook of Statistical Methods.

Statistical Reference Datasets: Univariate Summary Statistics. NIST.

4、8、5、9、6、7、3、8、6、4 の平均は 6、偏差平方和は 36。10 で割れば標本分散 3.6、9 で割れば不偏分散 4.0 です。全部に 10 億を足してもばらつきは変わらないはずですが、$\sum x_i^2 - n\bar x^2$ の形で計算させると答えが 0 になります。$10^{19}$ どうしの差として 36 を求めているので、有効桁の外へ落ちるためです。$n-1$ で割る理由は縮む割合が $(n-1)/n$ になること、$n=2$ なら半分、$n=30$ なら 3.3% のずれ。$s^2$ が不偏でも $s$ は標準偏差の不偏推定量にならない話、度数分布からの計算、練習 2 題まで。