期待値
期待値の定義
離散型確率変数の場合
離散型確率変数 $X$ のある関数を $g(X)$ としたとき、$g(X)$ の期待値 $E(g(X))$ は以下で定義される。 \[ E(g(X))=\sum_{i=1}^{n}g(x_{i})f(x_{i})\quad (X が離散型) \] $x$ のとりうる値 $x_{i}$ それぞれに対する $g(x_{i})$ に重み $f(x_{i})$ をかけて和をとる。
連続型確率変数の場合
連続型確率変数 $X$ については、$g(X)$ の期待値は積分で定義される。 \[ E(g(X))=\int g(x)f(x)dx\quad (X が連続型) \]
期待値の演算
$c$ は 確率変数 $X$ によらない定数、$g(X), h(X)$ は $X$ の任意の関数とする。 離散型、連続型にかかわらず、期待値については以下の演算が成り立つ。
\[ E(c)=c \] \[ E(g(X)+c)=E(g(X))+c \] \[ E(c\times g(X))=c\times E(g(X)) \] \[ E(g(x)+h(X))=E(g(X))+E(h(X)) \]
Zの期待値
$Z$ を以下で定義する。 \[ Z=\frac{X-\mu}{\sigma} \]
期待値は以下の通りである。
\[ E(Z)=E\left(\frac{X-\mu}{\sigma}\right)=\frac{E(X)-\mu}{\sigma}=0 \]
\[ E(Z^{2})=E\left(\frac{(X-\mu)^{2}}{\sigma^{2}}\right)=\frac{E((X-\mu)^{2})}{\sigma^{2}}=1 \]
標本の期待値
標本平均の期待値
$E(X_{i})=\mu$ とする。
\begin{eqnarray*} E(\bar{X})&=&E\left(\frac{1}{n}\sum_{i=1}^{n}X_{i}\right)\\ &=&\frac{1}{n}\sum_{i=1}^{n}E(X_{i})\\ &=&\frac{1}{n}\sum_{i=1}^{n}\mu\\ &=&\mu \end{eqnarray*}
不偏分散の期待値
$E(X_{i})=\mu$, $E((X_{i}-\mu)^{2})=\sigma^{2}$, $E((X_{i}-\mu)(X_{j}-\mu))=0\quad (i\neq j)$ とする。 \begin{eqnarray*} E(s^{2})&=&E\left(\frac{1}{n-1}\sum_{i=1}^{n}(X_{i}-\bar{X})^{2}\right)\\ &=&\frac{1}{n-1}\sum_{i=1}^{n}E((X_{i}-\bar{X})^{2})\\ &=&\frac{1}{n-1}\sum_{i=1}^{n}E((Y_{i}-\bar{Y})^{2})\\ &=&\frac{1}{n-1}\sum_{i=1}^{n}\left\{E(Y_{i}^{2})+E(\bar{Y}^{2})-2E(Y_{i}\bar{Y})\right\}\\ &=&\frac{1}{n-1}\sum_{i=1}^{n}\left(\sigma^{2}+\frac{\sigma^{2}}{n}-2\frac{\sigma^{2}}{n}\right)\\ &=&\frac{1}{n-1}\sum_{i=1}^{n}\frac{(n-1)\sigma^{2}}{n}\\ &=&\sigma^{2} \end{eqnarray*} ここで $Y_{i}=X_{i}-\mu$ と定義して以下を使った。 \begin{eqnarray*} E(Y_{i})&=&0\\ E(Y_{i}^{2})&=&\sigma^{2}\\ E(Y_{i}Y_{j})&=&0\quad(i\neq j)\\ E(Y_{i}\bar{Y})&=&\frac{1}{n}\sum_{j=1}^{n}E(Y_{i}Y_{j})=\frac{\sigma^{2}}{n}\\ E(\bar{Y}^{2})&=&\frac{1}{n}\sum_{i=1}^{n}E(Y_{i}\bar{Y})=\frac{\sigma^{2}}{n} \end{eqnarray*}
不偏分散は分母が $n-1$ でなければ期待値が $\sigma^{2}$ にならないことが分かる。