分散

分散（ぶんさん、variance）は、確率論において、確率変数の2次の中心化モーメントの事で、確率変数の分布が期待値からどれだけ散らばっているかを示す値。統計学においては、確率変数の分散だけでなく、標本が標本平均からどれだけ散らばっているかを示す指標として標本分散が用いられる。

確率変数の分散

2乗可積分確率変数$X$の分散は期待値を$E$で表す事にして

$V(X)=E((X-E(X))^{2})\,$

で定義される。同値な表現として、

$V(X)=E(X^{2})-(E(X))^{2}\,$

とも書ける。

チェビシェフの不等式から、任意の正数$\epsilon$に対して、

$P(|X-E(X)|>\varepsilon)\leq\frac{V(X)}{\varepsilon^{2}}$

が成り立つが、これは分散が小さくなる程に期待値の近くに変数が分布している事を示す大まかな評価である。

確率変数$X$と$Y$が独立の場合、

$V(X+Y)=V(X)+V(Y)$

となる。

独立でない場合、$Cov$で共分散を表す事にして、

$V(X+Y)=V(X)+V(Y)+2Cov(X,Y)$

となる。

標本分散

$n$個のデータ$x_{1}$,$x_{2}$, …,$x_{n-1}$,$x_{n}$からなる標本があって、$\bar{x}$をそのデータの相加平均とした時に、$(\bar{x}-x_{i})^{2}$の相加平均

$s^{2}=\frac{1}{n}\sum_{i=1}^{n}(\bar{x}-x_{i})^2$

で表される$s^{2}$を標本分散 (sample variance) と言う($s$は標準偏差と呼ばれる)。なお、後述の不偏分散を標本分散と呼ぶ文献もある。

定義より、

$s^{2}=\frac{1}{n}\sum_{i=1}^{n}x_{i}^{2}-(\bar{x})^{2}=\bar{x^{2}}-(\bar{x})^{2}$

となるから、標本分散は、理論的には2乗の相加平均から相加平均の2乗を引いた値に等しい。従って、手計算等ではこの式に依る分散の計算が簡便で好い。 しかし、有限桁しか扱えないコンピュータでこの式による標本分散を計算すると、桁落ちによる誤差が発生して正しく計算できない恐れがあるので、定義の式で計算する事が望ましい。

不偏分散

標本分散は、その期待値が母分散（母集団の分散）よりも若干小さくなる事が知られている。そこで、期待値が母分散に等しくなるように補正を掛けた

$u^{2}=\frac{1}{n-1}\sum_{i=1}^{n}(\bar{x}-x_i)^{2}$

が用いられる事も多く、これを母分散の不偏推定量であるとの意味で不偏分散 (unbiased variance) と呼ぶ。定義式より明らかなように、標本数が十分多ければ、不偏分散と標本分散の値は殆ど等しい。

不偏分散の期待値

不偏分散$u^{2}$の期待値が母分散$\sigma^{2}$に等しい事を示す。 以下、母平均を$\mu$とし、$\Sigma$は$i=1$から$i=n$までの和を表す物とする。 また、関係式

$V[X]=E[X^{2}]-E[X]^{2},\,$

$E[x_{i}]=\mu , \, V[x_i]=\sigma^{2}$

は繰り返し用いる。

$\begin{align} E[u^{2}]&=E\left[ \frac{1}{n-1}\sum_{i} (x_{i}-\bar{x})^{2} \right] \\ &=\frac{1}{n-1}\sum_{i}\left( E[x_{i}^{2}] -2 E[x_{i}\bar{x}] + E[\bar{x}^{2}] \right) \\ &=\frac{1}{n-1}\sum_{i}\left( \left(V \left[x_{i} \right]+E \left[x_{i}\right]^{2} \right) -2 E[\bar{x}^{2}] + E[\bar{x}^{2}] \right) \\ &=\frac{n}{n-1}\left( (\sigma^{2}+\mu^{2})- E[\bar{x}^{2}] \right) \\ &=\frac{n}{n-1}\left( (\sigma^{2}+\mu^{2})-\left(V\left[\frac{1}{n}\sum_{i} x_{i}\right]+\mu^{2} \right )\right) \\ &=\frac{n}{n-1}\left( (\sigma^{2}+\mu^{2})-\left(\frac{1}{n^{2}}\sum_{i} V\left[x_{i}\right]+\mu^{2} \right )\right) \\ &=\frac{n}{n-1}\left( \sigma^{2}-\frac{1}{n^{2}} \cdot n\sigma^{2} \right) \\ &=\sigma^{2} \end{align}$

関連項目

• 標準偏差
• 母関数 (en:Probability-generating function)
• 分散分析
• 推計統計学
• 正規分布
• 中心極限定理
• ブラウン運動