CLT (Central Limit Theorem, 중심극한정리)

※ CLT (Central Limit Theorem, 중심극한정리)

$X_{1}$, $X_{2}$, …, $X_{n}$이 서로 독립이며, 같은 분포를 따를때,
$n$이 클수록(일반적으로 $n \ge 30$) 이 표본들의 평균은 모집단의 평균을 중심으로 하는 정규 분포를 따른다.

이 때, 모집단의 평균이 $\mu$이고 분산이 $\sigma^{2}$라면,
표본들의 분포 : $X_{i} \sim (\mu, ~\sigma^{2})$
표본평균의 분포 : $\bar X \sim (\mu, ~\cfrac{\sigma^{2}}{n})$
이 된다.

표본 평균이 모평균 $\mu$ 주변의 어떤 구간에 속할 확률은 표본의 크기가 커짐에 따라 증가한다.
표본의 크기가 커짐에 따라 표본평균의 분포가 모집단의 평균 $\mu$를 중심으로 더 집중된다.

■ Sample Mean (표본평균)

□ 표본평균의 평균과 분산

모집단의 평균이 $\mu$이고 분산이 $\sigma^{2}$인 분포에서 추출한 독립적인 표본들
$X_{1}$, $X_{2}$, …, $X_{n}$이 있을 때,

◎ 표본평균의 평균

\(\begin{align*} \mathbb{E}(\bar X) &= \cfrac{1}{n}[\mathbb{E}(X_{1})+\mathbb{E}(X_{2})+...+\mathbb{E}(X_{n})] \\ &= \mu \end{align*}\)

◎ 표본평균의 분산

\[\begin{align*} Var(\bar X) &= Var(\cfrac{1}{n}\sum X_{i}) \\ &= \cfrac{1}{n^{2}}Var(\sum X_{i}) \\ &= \cfrac{1}{n^{2}}(Var(X_{1})+Var(X_{2})+...Var(X_{n})) \\ &= \cfrac{1}{n}Var(X_{1}) \\ &= \cfrac{\sigma^{2}}{n} \end{align*}\]

• $\sigma$를 모를 때는 표본표준편차 $s$ 사용

\[\begin{align*} Var(\bar X) &= \cfrac{s^{2}}{n} \\ ∵ ~s &= \sqrt{\cfrac{1}{n-1}\sum (X_{i}-\bar X)^{2}} \\ &= \sqrt{\cfrac{1}{n-1}\sum X_{i}^{2}- n\bar X^{2}} \end{align*}\]

◎ 표본평균의 표준오차

\(\begin{align*} S.E(\bar X) &= \cfrac{\sigma}{\sqrt{n}} \end{align*}\)

• $\sigma$를 모를 때는 표본표준편차 $s$ 사용

\[\begin{align*} S.E(\bar X) &= \cfrac{s}{\sqrt{n}} \\ \end{align*}\]

□ $\bar X$가 $\mu$의 불편 추정량인 이유

\(\begin{align*} \mathbb{E}(\bar X) &= \mathbb{E}(\cfrac{1}{n}\sum X_{i}) \\ &= \cfrac{1}{n}\mathbb{E}(\sum X_{i}) \\ &= \cfrac{1}{n}\sum \mathbb{E}(X_{i}) \\ &= \cfrac{1}{n}\sum \mathbb{E}(X_{1}) \\ &= \cfrac{1}{n}\sum \mu \\ &= \mu \end{align*}\)

□ $s^{2}$이 $\sigma^{2}$의 불편 추정량인 이유

\(\begin{align*} \mathbb{E}(s^{2}) &= \mathbb{E}[\cfrac{1}{n-1}\sum (X_{i}-\bar X)^{2}] \\ &= \cfrac{1}{n-1}\mathbb{E}[\sum X_{i}^{2} -\bar X^{2}] \\ &= \cfrac{1}{n-1} \mathbb{E}(SST) \\ &= \cfrac{1}{n-1}(n-1)\sigma^{2} \\ &= \sigma^{2} \\ \end{align*}\)

\[\begin{align*} \text{, where} \\ \mathbb{E}(SST) &= \mathbb{E}[\sum(X_{i}-\bar X)^{2}] \\ &= \mathbb{E} [\sum X_{i}^{2} - n\bar X^{2}] \\ &= \sum \mathbb{E}(X_{i}^{2}) -n\mathbb{E}(\bar X^{2}) \\ (∵ Var(X) &= \mathbb{E}(X^{2}) - \mathbb{E}(X)^{2}) \\ &= \sum (Var(X_{i}) + \mathbb{E}(X_{i})^{2})) -n(Var(\bar X)+\mathbb{E}(\bar X)^{2}) \\ &= n\sigma^{2} + n\mu^{2}-n(\cfrac{\sigma^{2}}{n}+\mu^{2}) \\ &= (n-1)\sigma^{2} \end{align*}\]