3-5 조건부기댓값(1)

3-5 조건부기댓값(1)

여기서는 확률벡터 $X$에 대한 확률변수 $Y$의 조건부기댓값(conditional expectation) $E(Y|X)$를 정의하겠다.

$(\Omega,\,\mathcal{B},\,P)$를 확률공간, $(S,\,\mathcal{F})$, $(T,\,\mathcal{G})$를 가측공간이라 하자. $$X:\Omega\,\rightarrow\,S,\,Y:\Omega\,\rightarrow\,T$$ 를 가측변환(measurable transformation)이라 하고, $X$에 의해 결정되는 측도 $P_{X}$를 다음과 같이 정의하자. $$P_{X}(F)=P(X^{-1}[F]),\,F\in\mathcal{F}$$ $P_{X}$를 $X$의 확률분포라고 한다. $Y$에 대해서도 같은 방법으로 정의할 수 있다.

정의 3.26 $G\in\mathcal{G}$라 하자. 주어진 $X$에 대해 $Y$가 $G$에 속할 조건부확률(conditional probability) $P(Y\in G|X)$를 다음을 만족하는 함수 $\psi:S\,\rightarrow\,\mathbb{R}$로 정의한다.

(1) $\psi$는 $\mathcal{F}-$가측이고, $P_{X}-$적분가능한 함수이다.

(2) $\displaystyle P(Y^{-1}[G]\cap X^{-1}[F])=\int_{F}{\psi(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}$

*라돈-니코딤 정리에 의해 함수 $\psi$는 존재하고 $P_{X}-$영집합을 제외하고는 유일하게 결정된다. $P(Y\in G|X)$를 $P_{X}-a.e.$에서 같은 함수들의 동치류, 또는 이 동치류를 대표하는 특정한 하나의 함수로 사용하기로 한다. 따라서 다음의 등식이 성립한다. $$P(Y^{-1}[G]\cap X^{-1}[F])=\int_{F}{P(Y\in G|X)(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}$$ 정의 3.27 $Z$가 $(\Omega,\,\mathcal{B},\,P)$에서 정의되는 확률변수이고 $E(|Z|)<\infty$라 하자. 주어진 $X$에 대한 $Z$의 조건부기댓값 $E(Z|X)$를 다음을 만족하는 함수 $\psi:S\,\rightarrow\,\mathbb{R}$로 정의한다.

(1) $\psi$는 $\mathcal{F}-$가측이고, $P_{X}-$적분가능하다.

(2) $\displaystyle\int_{X^{-1}[F]}{Z(\omega)dP(\omega)}=\int_{F}{\psi(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}$

여기서 $\psi$에 대한 설명은 정의 3.26에서의 설명과 같고, 따라서 다음의 등식이 성립한다. $$\int_{X^{-1}[F]}{Z(\omega)dP(\omega)}=\int_{F}{E(Z|X)(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}$$ 정의 3.28 주어진 $X$에 대해, $Y$의 정규 조건부분포 $P(Y|X)$를 다음을 만족하는 함수 $\psi:\mathcal{G}\times S\,\rightarrow\,\mathbb{R}$로 정의한다.

(1) 각 $G\in\mathcal{G}$에 대해 $\psi(G,\,\cdot)=P(Y\in G|X)$

(2) 각 $\xi\in S$에 대해 $\psi(\cdot,\,\xi)$는 $(T,\,\mathcal{G})$에서 확률측도이다. 

*정의 3.28의 조건 (1), (2)를 만족하는 함수는 $(T,\,\mathcal{G})$가 보렐공간인 경우 항상 존재한다. 특히 $(T,\,\mathcal{g})=(\mathbb{R}^{k},\,\mathcal{B}^{k})$인 경우가 그 예이다. 

성질 3.29 $f:(T,\,\mathcal{G})\,\rightarrow\,(\mathbb{R},\,\mathcal{B}(\mathbb{R}))$가 가측변환이고 $f\in L_{2}(T,\,\mathcal{G},\,P_{Y})$라 하자. 만일 $P(Y|X)$가 존재한다면 $P_{X}-a.e.\,\xi\in S$에 대해 다음의 등식이 성립한다. $$(*) E(f\circ Y|X)(\xi)=\int_{T}{f(\eta)dP(Y|X)(\eta,\,\xi)},\,P_{X}-a.e.\,\xi\in S$$ 증명:

(1): $f=\chi_{G},\,G\in\mathcal{G}$인 경우, 각 $F\in\mathcal{F}$에 대해 다음의 등식이 성립한다. $$\begin{align*}\int_{F}{E(f\circ Y|X)(\xi)dP_{X}(\xi)}&=\int_{X^{-1}[F]}{\chi_{G}(Y(\omega))dP(\omega)}\\&=P(Y^{-1}[G]\cap X^{-1}[F])\end{align*}$$ 한편 정의 3.28의 (1), (2)에 의해 다음의 등식이 성립하고 $$\begin{align*}\int_{T}{f(\eta)dP(Y|X)(\eta,\,\xi)}&=\int_{T}{\chi_{G}(\eta)dP(Y|X)(\eta,\,\xi)}\\&=P(Y|X)(G,\,\xi)\\&=P(Y\in G|X)(\xi)\end{align*}$$ 이고 따라서 정의 3.26의 설명에 의해 다음의 등식을 얻는다. $$\int_{F}{\int_{T}{f(\eta)dP(Y|X)(\eta,\,\xi)}dP_{X}(\xi)}=P(Y^{-1}[G]\cap X^{-1}[F])$$ 따라서 $f=\chi_{G},\,G\in\mathcal{G}$일 때 이 정리가 성립한다.

(2): 적분론에서 사용하는 확장방법에 의해 $f$가 $T$에서 $f\geq0$인 단순함수인 경우, 0보다 크거나 같은 $\mathcal{G}-$가측함수인 경우로 (1)의 결과를 확장하고, 마지막으로 임의의 $\mathcal{G}-$가측함수 $f$에 대해 보이고자 하는 등식이 성립함을 보일 수 있다. $f\in L_{1}(T,\,\mathcal{G},\,P_{Y})$이므로 등식 (*)의 양변은 존재하고 유한하다. 0보다 크거나 같은 단순함수를 $\mathcal{G}-$가측함수로 확장하기 위해서는 다음의 보조정리를 사용해야 한다.

보조정리 3.30 (단조수렴정리, monotone convergence theorem)

$Z_{n}\in L_{1}(\Omega,\,\mathcal{B},\,P)$, $Z_{n}$이 $Z_{0}(\omega)$로 $P-a.e.\,\omega\in\Omega$에 대해 증가하며 수렴하면, $E(Z_{n}|X)$는 $E(Z_{0}|X)(\xi)$ $P_{X}-a.e.\,\xi\in S$에 대해 증가하며 수렴한다.

증명: 측도론에서의 단조수렴정리의 증명과 본질적으로 같다.

성질 3.31 $\sigma(\mathcal{F}\times\mathcal{G})$를 반대수 $\mathcal{F}\times\mathcal{G}$에 의해 생성되는 $\sigma-$대수라 하고, 가측변환 $\alpha:(\Omega,\,\mathcal{B})\,\rightarrow\,(S\times T,\,\sigma(\mathcal{F}\times\mathcal{G}))$에 의해 결정되는 $(S\times T,\,\sigma(\mathcal{F}\times\mathcal{G}))$에서의 확률측도 $P_{X}(F)=P(X^{-1}[F])$를 $P_{\alpha}$라 하자. $f:(S\times T,\,\sigma(\mathcal{F}\times\mathcal{G}))\,\rightarrow\,(\mathbb{R},\,\mathcal{B}(\mathbb{R}))$를 측도가능 변환이라 하자. $P(Y|X)$가 존재한다면 다음의 등식이 성립한다. $$\begin{align*}E(f\circ\alpha)&=\int_{S\times T}{f(\xi,\,\eta)dP_{\alpha}(\xi,\,\eta)}\\&=\int_{S}{\int_{T}{f(\xi,\,\eta)dP(Y|X)(\eta,\,\xi)}dP_{X}(\xi)}\end{align*}$$ 증명: 위의 등식에서 첫 번째는 자명하다. 두 번째 등식을 보이기 위해 다음의 경우를 생각하자.

$f(\xi,\,\eta)=\chi_{F\times G}(\xi,\,\eta)=\chi_{F}(\xi)\chi_{G}(\eta)$, $(\xi,\,\eta)\in S\times T$, $F\in\mathcal{F},\,G\in\mathcal{G}$

그러면 정의 3.28의 (1)과 (2)에 의해, 정의 3.26의 설명의 등식에 의해 다음의 등식이 성립한다. $$\begin{align*}&\int_{S}{\int_{T}{f(\xi,\,\eta)dP(Y|X)(\eta,\,\xi)}dP_{X}(\xi)}\\&=\int_{S}{\chi_{F}(\xi)\left\{\int_{T}{\chi_{G}(\eta)dP(Y|X)(\eta,\,\xi)}\right\}dP_{X}(\xi)}\\&=\int_{S}{\chi_{F}(\xi)P(Y|X)(G,\,\xi)dP_{X}(\xi)}\\&=\int_{F}{P(Y\in G|X)(\xi)dP_{X}(\xi)}\\&=P(Y^{-1}[G]\cap X^{-1}[G])\\&=\int_{S\times T}{f(\xi,\,\eta)dP_{\alpha}(\xi,\,\eta)}\\&=\int_{S\times T}{\chi_{F\times G}(\xi,\,\eta)dP_{\alpha}(\xi,\,\eta)}\\&=P_{\alpha}(F\times G)\\&=P(\{\omega\in\Omega\,|\,X(\omega)\in F,\,Y(\omega)\in G\})\\&=P(Y^{-1}[G]\cap X^{-1}[F])\end{align*}$$ 따라서 $f(\xi,\,\eta)=\chi_{F\times G}(\xi,\,\eta),\,(\xi,\,\eta)\in S\times T$, $F\in\mathcal{F},\,G\in\mathcal{G}$인 경우에 대해 증명을 완료했다. 푸비니정리의 증명방법을 이용하면 임의의 가측함수 $f$에 대해서도 성립한다.

성질 3.32 $Z:\Omega\,\rightarrow\,\mathbb{R}$가 확률변수이고 $E(|Z|)<\infty$라 하자. $g:(S,\,\mathcal{F})\,\rightarrow\,(\mathbb{R},\,\mathcal{B}(\mathbb{R}))$가 가측변환이면 다음의 등식이 성립한다. $$E((g\circ X)Z)=\int_{S}{g(\xi)E(Z|X)(\xi)dP_{X}(\xi)}$$ 증명: 집합함수 $\Phi$를 다음과 같이 정의하자. $$\Phi(B)=\int_{B}{Z(\omega)dP(\omega)},\,B\in\mathcal{B}$$ $E(|Z|)<\infty$이므로 $\Phi$는 $(\Omega,\,\mathcal{B})$에서 유한 부호측도이다. $\Phi$는 $P$에 대해 절대연속이고 그 라돈-니코딤 도함수는 $\displaystyle\frac{d\Phi}{dP}=Z$이다. 따라서 $(\Omega,\,\mathcal{B},\,P)$에서의 확률변수 $g\circ X,\,Z$에 대해 다음의 등식이 성립한다. $$E((g\circ X)Z)=\int_{\Omega}{g(X(\omega))Z(\omega)dP(\omega)}=\int_{\Omega}{g(X(\omega))d\Phi(\omega)}$$ 이제 다음의 등식이 성립함을 보이면 된다. $$\int_{\Omega}{g(X(\omega))dP(\omega)}=\int_{S}{g(\xi)E(Z|X)(\xi)dP_{X}(\xi)}$$ 먼저 $g=\chi_{F}$, $F\in\mathcal{F}$인 경우를 생각하자. 그러면 정의 3.27의 설명의 등식에 의해 $$\begin{align*}\int_{\Omega}{g(X(\omega))d\Phi(\omega)}&=\int_{\Omega}{\chi_{F}(X(\omega))d\Phi(\omega)}\\&=\int_{X^{-1}[F]}{d\Phi(\omega)}\\&=\int_{X^{-1}[F]}{Z(\omega)dP(\omega)}\\&=\int_{F}{E(Z|X)(\xi)dP_{X}(\xi)}\\&=\int_{S}{g(\xi)E(Z|X)(\xi)dP_{X}(\xi)}\end{align*}$$ 이므로 보이고자 하는 등식이 성립한다. 이 결과를 성질 3.29의 증명에서처럼 $g$가 $S$에서 임의의 $\mathcal{F}-$가측함수인 경우로 확장한다.

참고자료:

위너 적분론, 장건수, 민음사