尤度比検定

尤度比検定は、二つの仮説のもとでの尤度の比に基づいて検定を行う方法です。最尤推定と密接に関連しており、多くの古典的な検定が尤度比検定の特殊ケースとして導出されます。

尤度と尤度関数

データ $x=(x_1,\dots ,x_n)$ が得られたとき、パラメータ $\theta$ の尤度関数は

$$L(\theta )=L(\theta ;x)=\prod _{i=1}^{n}f(x_i;\theta )$$

で定義されます。尤度は「このパラメータ値のもとでこのデータが観測される確率（密度）」を表し、パラメータの関数として扱います。

尤度比検定統計量

帰無仮説 $H_0$: $\theta \in {\Theta }_0$ と対立仮説 $H_1$: $\theta \in {\Theta }_1$ を考えます。尤度比検定統計量は

$$\lambda (x)=\frac{{\sup }_{\theta \in {\Theta }_0}L(\theta )}{{\sup }_{\theta \in \Theta }L(\theta )}$$

で定義されます。分子は帰無仮説の範囲内での最大尤度、分母は全パラメータ空間での最大尤度です。

$\lambda$ は 0 から 1 の値をとり、$\lambda$ が小さいほど帰無仮説に対する証拠が強いことを意味します。$\lambda \le c$ のとき帰無仮説を棄却します。

対数尤度比統計量

実用上は対数をとった統計量

$$-2\log \lambda =2\left(\log L(\hat{\theta })-\log L({\hat{\theta }}_0)\right)$$

を用います。ここで $\hat{\theta }$ は最尤推定量、${\hat{\theta }}_0$ は帰無仮説のもとでの最尤推定量です。

漸近分布

正則条件のもとで、標本サイズ $n$ が大きいとき、帰無仮説のもとで

$$-2\log \lambda \stackrel{d}{\to }{\chi }^2(r)$$

が成り立ちます。ここで $r$ は帰無仮説で制約されるパラメータの数（自由度の差）です。これをウィルクスの定理といいます。

この漸近結果により、大標本では尤度比検定の棄却点をカイ二乗分布から求めることができます。

具体例

正規分布 $N(\mu ,{\sigma }^2)$ で ${\sigma }^2$ が既知のとき、$H_0$: $\mu ={\mu }_0$ の尤度比検定統計量は

$$-2\log \lambda =\frac{n(\bar{x}-{\mu }_0{)}^2}{{\sigma }^2}$$

となり、これは z 検定統計量の二乗に等しくなります。多くの標準的な検定が尤度比検定から導かれます。