[금융통계학] 6. 가설검정

[금융통계학] 6. 가설검정

가설(hypothesis)은 실질적인 증명 이전에 세우는 모집단의 특성에 대한 진술(경험적 또는 논리적으로 검정되는 조건 또는 명제)이고, 검정(test)은 모집단에서 임의로 추출된 표본을 통해 모집단의 특성을 합리적으로 파악하고자 하는 과정이다. 

가설검정(hypothesis testing)은 두 개의 가설을 설정하고 수집된 정보를 바탕으로 두 가설 중 어떤 가설을 선택하는게 맞는 지를 확인하는 것이다. 가설검정은 먼저 연구의 목적을 정한다(검정을 위한 가설설정). 여기서의 두 가설은 귀무가설(null hypothesis) $H_{0}$과 대립가설(alternative hypothesis) $H_{1}$로 나뉘는데 대립가설은 주장하고자 하는 가설이고, 귀무가설은 대립가설에 반대되는 가설이다.

귀무가설은 통상적으로 비교하는 값과 차이가 없다는 가설이고, 예를 들면, 다음과 같다. $$H_{0}:\,\mu=0.05,\,H_{0}:\,\mu_{A}=\mu_{B}$$ (작은 것들 중에서 가장 큰 것이 불만족스러우면 나머지는 무시해도 된다)

대립가설은  뚜렷한 증거가 있을 때 주장하고자 하는 가설로 통상적으로 차이가 있다는 가설이다. 대립가설은 단측검정(one-sided test)가설과 양측검정(two-sided test)가설로 구분된다. 

단측검정의 예: $$H_{1}:\,\mu>0.05,\,H_{1}:\,\mu<0.05,\,H_{1}:\,\mu_{A}>\mu_{B},\,H_{1}:\,\mu_{A}<\mu_{B}$$ 양측검정의 예: $$H_{1}:\,\mu\neq0.05,\,H_{1}:\,\mu_{A}\neq\mu_{B}$$  

귀무가설과 대립가설 중 하나를 선택하기 이전에 확실한 근거가 있기 전까지는 귀무가설(현재의 사실)을 참이라고 가정한다. 이것은 '무죄추정의 원칙'과 같은 것이다. 

어느 자산운용사가 지난해 운용한 펀드의 평균수익률이 9.1%이고 올해 6개월간 새로 개발한 펀드의 평균수익률은 10%로 나타났다. 이때 새로 개발한 펀드의 수익률이 지난해 운용한 펀드의 수익률보다 높은지 확인하기 위한 가설을 다음과 같이 세울 수 있다. $$H_{0}:\,p=7.5,\,H_{1}:\,p>7.5$$ ($p\leq7.5$의 최댓값은 7.5이다)

가설검정을 하다 보면 두 가지 오류가 발생할 수 있다. 그 첫번째 오류는 귀무가설이 참인데 귀무가설을 기각하는 오류로, 제 1종 오류(type-I error)라고 하고(무죄인데 유죄판결), 두번째 오류는 첫번째 오류와 반대로 귀무가설이 거짓인데 귀무가설을 기각하지 않는 오류로, 제 2종 오류(type-II error)라고 한다(유죄인데 무죄판결).

가설검정을 할 때, 이 두 오류를 모두 줄여야 하나 하나의 오류를 줄이면 다른 오류가 늘어나게 된다. 제 1종 오류의 최대한계를 사전에 정한 다음, 제 2종 오류를 줄이는 방법으로 오류를 줄인다. 제 1종 오류가 발생할 확률의 최댓값을 유의수준(significance level)이라 하고 $\alpha$로 나타낸다. 이때 $\alpha=0.05,\,0.01,\,0.1$을 주로 사용한다. 제 2종 오류는 $\beta$로 나타내는데 $1-\beta$는 틀린 귀무가설을 기각해서 귀무가설의 오류를 찾을 확률인 검정력(power of a test)을 나타낸다. 귀무가설이 옳다는 전제조건 하에서 주어진 관측값보다 벗어날 확률을 유의확률(significance probability)(또는 p-값(value))이라고 한다. 

가설검정은 다음의 순서대로 진행한다.

1. 귀무가설($H_{0}$)과 대립가설($H_{1}$)을 세운다.

2. 유의수준 $\alpha$를 설정한다.

3. 표본을 이용하여 검정통계량(test statistic)을 구한다. 예를들어 모평균 $\mu$를 추정할 때의 검정통계량은 모분산 $\sigma^{2}$을 알 때와 모를 때(표본분산 $S^{2}$) 각각 다음과 같다. $$Z=\frac{\overline{X}-\mu}{\displaystyle\frac{\sigma}{\sqrt{n}}},\,T=\frac{\overline{X}-\mu}{\displaystyle\frac{S}{\sqrt{n}}}$$

4. 귀무가설이 옳다는 전제조건 하에서 검정통계량이 따르는 표본분포를 구한다.

5. 4의 표본분포를 바탕으로 유의수준에 해당하는 검정통계량인 기각역을 찾거나 유의확률을 구한다.

6. 가설검정을 실행해서 귀무가설을 기각하거나 기각하지 않는다.

일반적으로 모평균의 가설검정은 다음의 세 가지 중 하나이다. $$\begin{align*}H_{0}&:\,\mu=\mu_{0},\,H_{1}:\,\mu>\mu_{0}\\H_{0}&:\,\mu=\mu_{0},\,H_{1}:\,\mu<\mu_{0}\\H_{0}&:\,\mu=\mu_{0},\,H_{1}:\,\mu\neq\mu_{0}\end{align*}$$ 이때 표본평균 $\overline{X}$의 표본분포를 이용하게 되는데 위의 경우에서 $\overline{X}>c$, $\overline{X}<c$, $\overline{X}\neq c$인 영역에서 귀무가설 $H_{0}$를 기각하게 하는 $c$를 임계값(critical value)이라고 한다. 다시 말하면 표본분포가 임계값보다 크고, 작고, 다른 영역에서 귀무가설을 기각하게 되고, 이때 이 영역을 기각역(rejection region)이라고 하고 기각역은 유의수준에 의해 결정된다. 기각역의 여집합을 채택역(acceptance region)이라고 한다.

앞에서도 언급했듯이 모평균을 검정하기 위한 검정통계량은 모분산을 알 때, $$Z=\frac{\overline{X}-\mu}{\displaystyle\frac{\sigma}{\sqrt{n}}}\,\sim\,N(0,\,1^{2})$$ 이고, 모분산을 모를 때, 표본분산이 $S^{2}$이면, $$T=\frac{\overline{X}-\mu}{\displaystyle\frac{S}{\sqrt{n}}}\,\sim\,t_{\alpha}(n-1)$$ ($\alpha$는 유의수준)이다. 그러면 모평균의 가설검정에서 대립가설에 따른 기각역은 다음과 같다.

대립가설	기각역
	모분산을 모를 때	모분산을 알 때
$H_{1}:\,\mu>\mu_{0}$	$\displaystyle\frac{\overline{X}-\mu}{\frac{S}{\sqrt{n}}}>t_{\alpha}(n-1)$	$\displaystyle\frac{\overline{X}-\mu}{\frac{\sigma}{\sqrt{n}}}>z_{\alpha}$
$H_{1}:\,\mu<\mu_{0}$	$\displaystyle\frac{\overline{X}-\mu}{\frac{S}{\sqrt{n}}}<t_{\alpha}(n-1)$	$\displaystyle\frac{\overline{X}-\mu}{\frac{\sigma}{\sqrt{n}}}$
$H_{1}:\,\mu\neq\mu_{0}$	$\displaystyle\left|\frac{\overline{X}-\mu}{\frac{S}{\sqrt{n}}}\right|>t_{\alpha}(n-1)$	$\displaystyle\left|\frac{\overline{X}-\mu}{\frac{\sigma}{\sqrt{n}}}\right|>z_{\alpha}$

어떤 투자회사에서 관리하는 펀드의 연간수익률은 정규분포를 따르고 분산은 16%이다. 이 투자회사엣는 평균 연간수익률이 적어도 9.5%라고 주장하고 있다. 이 주장을 검증하기 위해 이 투자회사에서 관리하는 펀드 중 25개를 임의로 추출해 평균 연간수익률이 10%라는 사실을 알아냈다. $\alpha=0.05$(5% 유의수준)로 놓고 가설검정을 실시하면 $$H_{0}:\,\mu=0.95,\,H_{1}:\,\mu>0.95$$ 이고 $\displaystyle\overline{X}\,\sim\,N\left(\mu,\,\left(\frac{4}{5}\right)^{2}\right)$이므로 $$P(\overline{X}>c)=P\left(Z>\frac{c-9.5}{\frac{4}{5}}\right)=0.05$$ 이고 $\displaystyle P(Z>1.645)=0.05,\,\frac{c-0.95}{\frac{4}{5}}=1.645$이므로 임계값은 $c=10.816$이다. $c>10$이므로 기각역 바깥에 있고, 따라서 귀무가설을 기각하지 못한다(10%의 연간수익률은 이 투자회사의 주장을 뒷받침하지 못한다). p-값을 구하면 $$P(\overline{X}>10)=P\left(Z>\frac{10-9.5}{\frac{\sqrt{16}}{\sqrt{25}}}\right)=P(Z>0.625)=0.2655>0.05=\alpha$$ 이므로 10% 연간수익률은 투자자문회사의 주장을 전혀 반영하지 못한다.

어느 투자자문회사에서 운영하는 자산의 1-기간 단순수익률은 평균이 적어도 3%라고 주장하고 있다. 이 주장을 검증하기 위해 이 투자자문회사에서 운영하는 포트폴리오 중 15개를 임의로 추출해 평균이 3.2%, 분산이 2%라는 사실을 알아냈다. $\alpha=0.01$(1% 유의수준)로 놓고 가설검정을 실시하면 $$H_{0}:\,\mu=3.0,\,H_{1}:\,\mu>3.0$$ 이고 $$T=\frac{\overline{X}-\mu}{\frac{s}{\sqrt{n}}}\,\sim\,t_{0.01}(14)$$ , $\displaystyle P(T>2.624),\,\frac{c-3.0}{\frac{\sqrt{2}}{15}}=2.624$이므로 임계값은 $c=3.96$이다. $\overline{X}=3.2$이고 $c>\overline{X}=3.2$이므로 귀무가설을 기각하지 못한다.

일반적으로 모분산의 가설검정은 모평균의 가설검정처럼 다음의 세 가지 중 하나이다. $$\begin{align*}H_{0}&:\,\sigma^{2}=\sigma_{0}^{2},\,H_{1}:\,\sigma^{2}>\sigma_{0}^{2}\\H_{0}&:\,\sigma^{2}=\sigma_{0}^{2},\,H_{1}:\,\sigma^{2}<\sigma_{0}^{2}\\H_{0}&:\,\sigma^{2}=\sigma_{0}^{2},\,H_{1}:\,\sigma^{2}\neq\sigma_{0}^{2}\end{align*}$$ 정규분포를 따르는 모집단에서 크기가 $n$인 표본의 분산이 $S^{2}$, 유의수준이 $\alpha$일 때, $$\frac{(n-1)S^{2}}{\sigma_{0}^{2}}\,\sim\,\chi_{\alpha}^{2}(n-1)$$ 이고, 모분산의 가설검정에서 대립가설에 따른 기각역은 다음과 같다.

대립가설	기각역
$H_{1}:\,\sigma^{2}>\sigma_{0}^{2}$	$\displaystyle\frac{(n-1)S^{2}}{\sigma_{0}^{2}}>\chi_{\alpha}^{2}(n-1)$
$H_{1}:\,\sigma^{2}<\sigma_{0}^{2}$	$\displaystyle\frac{(n-1)S^{2}}{\sigma_{0}^{2}}<\chi_{1-\alpha}^{2}(n-1)$
$H_{1}:\,\sigma^{2}\neq\sigma_{0}^{2}$	$\displaystyle\frac{(n-1)S^{2}}{\sigma_{0}^{2}}>\chi_{\frac{\alpha}{2}}^{2}(n-1)$ 또는 $\displaystyle\frac{(n-1)S^{2}}{\sigma_{0}^{2}}<\chi_{1-\frac{\alpha}{2}}^{2}(n-1)$

위의 표를 이용하여 임계값 $c$를 구할 수 있고, 각 대립가설에 따른 임계값은 다음과 같다. $$\begin{align*}c&=\frac{\sigma_{0}^{2}\chi_{\alpha}^{2}(n-1)}{n-1}\,(H_{1}:\,\sigma^{2}>\sigma_{0}^{2})\\c&=\frac{\sigma_{0}^{2}\chi_{(1-\alpha)}^{2}(n-1)}{n-1}\,(H_{1}:\,\sigma^{2}<\sigma_{0}^{2})\\c_{1}&=\frac{\sigma_{0}^{2}\chi_{\left(1-\frac{\alpha}{2}\right)}^{2}(n-1)}{n-1},\,c_{2}=\frac{\sigma_{0}^{2}\chi_{\frac{\alpha}{2}}^{2}(n-1)}{n-1}\,(H_{1}:\,\sigma^{2}\neq\sigma_{0}^{2})\,(c_{1}<c_{2})\end{align*}$$

미국의 S&P 500지수의 수익률의 표준편차는 20%로 알려져있다. 수익률이 작다고 해도 표준편차의 75%인 15% 정도의 수익률의 표준편차를 유지할 수 있는 투자자문회사를 선택하려 한다. 어느 한 투자자문회사는 최근 19년간 수익률의 표준편차가 19%였으나 이것은 최근 2년간 잠깐 일어났었던 일이고 평소의 표준편차는 15% 이하라고 주장하고 있다. $\alpha=0.05$로 놓고 가설검정을 실시하면 $$H_{0}:\,\sigma=15,\,H_{1}:\,\sigma>15$$ 이고 $n=10$이므로 $\chi_{0.05}^{2}(9)=16.919$이고 $\displaystyle c=\frac{15^{2}\cdot16.919}{9}=422.975$, $S^{2}=19^{2}=361$이므로 $c>S^{2}$이고 이것은 $S^{2}$이 기각역에 있지 않음을 뜻한다. 따라서 귀무가설을 기각하지 않는다(투자자문회사의 주장이 틀렸다고 할 수 없다).

참고자료:

기초 금융통계, 박유성, 김기환, 자유아카데미

금융인을 위한 통계분석, 이긍희, 한국금융연수원

재무위험관리사(1: 금융통계학), 금융투자교육원, 한국금융투자협회