カイ二乗分布の定義と自由度

カイ二乗分布は、正規分布に従う確率変数の二乗和として現れる分布です。統計的推測、特に分散の推定や適合度検定において中心的な役割を果たします。

カイ二乗分布の定義

$Z_1,Z_2,\dots ,Z_n$ が互いに独立に標準正規分布 $N(0,1)$ に従うとき、その二乗和

$${\chi }^2=Z_1^2+Z_2^2+\cdots +Z_n^2$$

は自由度 $n$ のカイ二乗分布に従います。これを ${\chi }^2\sim {\chi }^2(n)$ と書きます。

確率密度関数は

$$f(x)=\frac{1}{2^{n/2}\Gamma (n/2)}{x}^{n/2-1}{e}^{-x/2}(x>0)$$

で与えられます。これはガンマ分布 $\mathrm{Gamma}(n/2,1/2)$ に他なりません。

自由度の意味

自由度 $n$ は、独立な標準正規変数の個数を表します。統計学では、データから推定したパラメータの数だけ自由度が減少するという形で現れます。

例えば、$n$ 個のデータ $X_1,\dots ,X_n$ が $N(\mu ,{\sigma }^2)$ に従うとき、標本分散

$$S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2$$

に対して $(n-1)S^2/{\sigma }^2$ は自由度 $n-1$ のカイ二乗分布に従います。平均 $\bar{X}$ を推定に使ったことで自由度が 1 減っています。

期待値と分散

$X\sim {\chi }^2(n)$ のとき

$$E[X]=n,V[X]=2n$$

です。期待値が自由度に等しいことは、$E[Z^2]=1$ であることと独立性から直ちに従います。

再生性

独立な $X_1\sim {\chi }^2(n_1)$ と $X_2\sim {\chi }^2(n_2)$ に対して

$$X_1+X_2\sim {\chi }^2(n_1+n_2)$$

が成り立ちます。自由度は加法的です。

分布の形状

自由度が小さいとき分布は右に歪んでいますが、自由度が大きくなると中心極限定理により正規分布に近づきます。自由度 $n$ が大きいとき、${\chi }^2(n)$ は近似的に $N(n,2n)$ に従います。