チェビシェフの不等式

チェビシェフの不等式は、確率変数が期待値から大きく逸脱する確率の上界を与える不等式です。分布の具体的な形状を仮定せずに成り立つため、非常に広い適用範囲を持ちます。

チェビシェフの不等式

期待値 $\mu$、分散 ${\sigma }^2$ を持つ確率変数 $X$ に対して、任意の $k>0$ について

$$P(|X-\mu |\ge k\sigma )\le \frac{1}{k^2}$$

が成り立ちます。同値な表現として、任意の $\epsilon >0$ に対して

$$P(|X-\mu |\ge \epsilon )\le \frac{{\sigma }^2}{{\epsilon }^2}$$

とも書けます。

証明

マルコフの不等式から導けます。非負の確率変数 $Y$ と $a>0$ に対して

$$P(Y\ge a)\le \frac{E[Y]}{a}$$

が成り立ちます。$Y=(X-\mu {)}^2$、$a={\epsilon }^2$ とおくと

$$P(|X-\mu |\ge \epsilon )=P((X-\mu {)}^2\ge {\epsilon }^2)\le \frac{E[(X-\mu {)}^2]}{{\epsilon }^2}=\frac{{\sigma }^2}{{\epsilon }^2}$$

となります。

具体的な評価

$k=2$ のとき、$P(|X-\mu |\ge 2\sigma )\le 1/4$ です。つまり、期待値から標準偏差の 2 倍以上離れる確率は高々 25% です。

$k=3$ のとき、$P(|X-\mu |\ge 3\sigma )\le 1/9\approx 11\%$ です。

正規分布の場合は実際にはもっと確率が小さく（2σ で約 5%、3σ で約 0.3%）、チェビシェフの不等式は粗い評価です。しかし分布を仮定しない普遍的な上界であることに価値があります。

大数の弱法則への応用

チェビシェフの不等式は大数の弱法則の証明に使えます。独立同分布な $X_1,\dots ,X_n$ の標本平均 ${\bar{X}}_n$ に対して $V[{\bar{X}}_n]={\sigma }^2/n$ なので

$$P(|{\bar{X}}_n-\mu |\ge \epsilon )\le \frac{{\sigma }^2}{n{\epsilon }^2}$$

となり、$n\to \infty$ で右辺は 0 に収束します。

片側版

片側の逸脱確率についても評価があります。$X$ の期待値が $\mu$ で分散が ${\sigma }^2$ のとき

$$P(X-\mu \ge k\sigma )\le \frac{1}{1+k^2}$$

が成り立ちます。これはカンテリの不等式と呼ばれます。