3-5 조건부기댓값(1)

3-5 조건부기댓값(1)

여기서는 확률벡터 \(X\)에 대한 확률변수 \(Y\)의 조건부기댓값(conditional expectation) \(E(Y|X)\)를 정의하겠다.

\((\Omega,\,\mathcal{B},\,P)\)를 확률공간, \((S,\,\mathcal{F})\), \((T,\,\mathcal{G})\)를 가측공간이라 하자.$$X:\Omega\,\rightarrow\,S,\,Y:\Omega\,\rightarrow\,T$$를 가측변환(measurable transformation)이라 하고, \(X\)에 의해 결정되는 측도 \(P_{X}\)를 다음과 같이 정의하자.$$P_{X}(F)=P(X^{-1}[F]),\,F\in\mathcal{F}$$\(P_{X}\)를 \(X\)의 확률분포라고 한다. \(Y\)에 대해서도 같은 방법으로 정의할 수 있다.

정의 3.26 \(G\in\mathcal{G}\)라 하자. 주어진 \(X\)에 대해 \(Y\)가 \(G\)에 속할 조건부확률(conditional probability) \(P(Y\in G|X)\)를 다음을 만족하는 함수 \(\psi:S\,\rightarrow\,\mathbb{R}\)로 정의한다.

(1) \(\psi\)는 \(\mathcal{F}-\)가측이고, \(P_{X}-\)적분가능한 함수이다.

(2) \(\displaystyle P(Y^{-1}[G]\cap X^{-1}[F])=\int_{F}{\psi(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}\)

*라돈-니코딤 정리에 의해 함수 \(\psi\)는 존재하고 \(P_{X}-\)영집합을 제외하고는 유일하게 결정된다. \(P(Y\in G|X)\)를 \(P_{X}-a.e.\)에서 같은 함수들의 동치류, 또는 이 동치류를 대표하는 특정한 하나의 함수로 사용하기로 한다. 따라서 다음의 등식이 성립한다.$$P(Y^{-1}[G]\cap X^{-1}[F])=\int_{F}{P(Y\in G|X)(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}$$정의 3.27 \(Z\)가 \((\Omega,\,\mathcal{B},\,P)\)에서 정의되는 확률변수이고 \(E(|Z|)<\infty\)라 하자. 주어진 \(X\)에 대한 \(Z\)의 조건부기댓값 \(E(Z|X)\)를 다음을 만족하는 함수 \(\psi:S\,\rightarrow\,\mathbb{R}\)로 정의한다.

(1) \(\psi\)는 \(\mathcal{F}-\)가측이고, \(P_{X}-\)적분가능하다.

(2) \(\displaystyle\int_{X^{-1}[F]}{Z(\omega)dP(\omega)}=\int_{F}{\psi(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}\)

여기서 \(\psi\)에 대한 설명은 정의 3.26에서의 설명과 같고, 따라서 다음의 등식이 성립한다.$$\int_{X^{-1}[F]}{Z(\omega)dP(\omega)}=\int_{F}{E(Z|X)(\xi)dP_{X}(\xi)},\,F\in\mathcal{F}$$정의 3.28 주어진 \(X\)에 대해, \(Y\)의 정규 조건부분포 \(P(Y|X)\)를 다음을 만족하는 함수 \(\psi:\mathcal{G}\times S\,\rightarrow\,\mathbb{R}\)로 정의한다.

(1) 각 \(G\in\mathcal{G}\)에 대해 \(\psi(G,\,\cdot)=P(Y\in G|X)\)

(2) 각 \(\xi\in S\)에 대해 \(\psi(\cdot,\,\xi)\)는 \((T,\,\mathcal{G})\)에서 확률측도이다. 

*정의 3.28의 조건 (1), (2)를 만족하는 함수는 \((T,\,\mathcal{G})\)가 보렐공간인 경우 항상 존재한다. 특히 \((T,\,\mathcal{g})=(\mathbb{R}^{k},\,\mathcal{B}^{k})\)인 경우가 그 예이다. 

성질 3.29 \(f:(T,\,\mathcal{G})\,\rightarrow\,(\mathbb{R},\,\mathcal{B}(\mathbb{R}))\)가 가측변환이고 \(f\in L_{2}(T,\,\mathcal{G},\,P_{Y})\)라 하자. 만일 \(P(Y|X)\)가 존재한다면 \(P_{X}-a.e.\,\xi\in S\)에 대해 다음의 등식이 성립한다.$$(*) E(f\circ Y|X)(\xi)=\int_{T}{f(\eta)dP(Y|X)(\eta,\,\xi)},\,P_{X}-a.e.\,\xi\in S$$증명:

(1): \(f=\chi_{G},\,G\in\mathcal{G}\)인 경우, 각 \(F\in\mathcal{F}\)에 대해 다음의 등식이 성립한다.$$\begin{align*}\int_{F}{E(f\circ Y|X)(\xi)dP_{X}(\xi)}&=\int_{X^{-1}[F]}{\chi_{G}(Y(\omega))dP(\omega)}\\&=P(Y^{-1}[G]\cap X^{-1}[F])\end{align*}$$한편 정의 3.28의 (1), (2)에 의해 다음의 등식이 성립하고$$\begin{align*}\int_{T}{f(\eta)dP(Y|X)(\eta,\,\xi)}&=\int_{T}{\chi_{G}(\eta)dP(Y|X)(\eta,\,\xi)}\\&=P(Y|X)(G,\,\xi)\\&=P(Y\in G|X)(\xi)\end{align*}$$이고 따라서 정의 3.26의 설명에 의해 다음의 등식을 얻는다.$$\int_{F}{\int_{T}{f(\eta)dP(Y|X)(\eta,\,\xi)}dP_{X}(\xi)}=P(Y^{-1}[G]\cap X^{-1}[F])$$따라서 \(f=\chi_{G},\,G\in\mathcal{G}\)일 때 이 정리가 성립한다.

(2): 적분론에서 사용하는 확장방법에 의해 \(f\)가 \(T\)에서 \(f\geq0\)인 단순함수인 경우, 0보다 크거나 같은 \(\mathcal{G}-\)가측함수인 경우로 (1)의 결과를 확장하고, 마지막으로 임의의 \(\mathcal{G}-\)가측함수 \(f\)에 대해 보이고자 하는 등식이 성립함을 보일 수 있다. \(f\in L_{1}(T,\,\mathcal{G},\,P_{Y})\)이므로 등식 (*)의 양변은 존재하고 유한하다. 0보다 크거나 같은 단순함수를 \(\mathcal{G}-\)가측함수로 확장하기 위해서는 다음의 보조정리를 사용해야 한다.

보조정리 3.30 (단조수렴정리, monotone convergence theorem)

\(Z_{n}\in L_{1}(\Omega,\,\mathcal{B},\,P)\), \(Z_{n}\)이 \(Z_{0}(\omega)\)로 \(P-a.e.\,\omega\in\Omega\)에 대해 증가하며 수렴하면, \(E(Z_{n}|X)\)는 \(E(Z_{0}|X)(\xi)\) \(P_{X}-a.e.\,\xi\in S\)에 대해 증가하며 수렴한다.

증명: 측도론에서의 단조수렴정리의 증명과 본질적으로 같다.

성질 3.31 \(\sigma(\mathcal{F}\times\mathcal{G})\)를 반대수 \(\mathcal{F}\times\mathcal{G}\)에 의해 생성되는 \(\sigma-\)대수라 하고, 가측변환 \(\alpha:(\Omega,\,\mathcal{B})\,\rightarrow\,(S\times T,\,\sigma(\mathcal{F}\times\mathcal{G}))\)에 의해 결정되는 \((S\times T,\,\sigma(\mathcal{F}\times\mathcal{G}))\)에서의 확률측도 \(P_{X}(F)=P(X^{-1}[F])\)를 \(P_{\alpha}\)라 하자. \(f:(S\times T,\,\sigma(\mathcal{F}\times\mathcal{G}))\,\rightarrow\,(\mathbb{R},\,\mathcal{B}(\mathbb{R}))\)를 측도가능 변환이라 하자. \(P(Y|X)\)가 존재한다면 다음의 등식이 성립한다.$$\begin{align*}E(f\circ\alpha)&=\int_{S\times T}{f(\xi,\,\eta)dP_{\alpha}(\xi,\,\eta)}\\&=\int_{S}{\int_{T}{f(\xi,\,\eta)dP(Y|X)(\eta,\,\xi)}dP_{X}(\xi)}\end{align*}$$증명: 위의 등식에서 첫 번째는 자명하다. 두 번째 등식을 보이기 위해 다음의 경우를 생각하자.

\(f(\xi,\,\eta)=\chi_{F\times G}(\xi,\,\eta)=\chi_{F}(\xi)\chi_{G}(\eta)\), \((\xi,\,\eta)\in S\times T\), \(F\in\mathcal{F},\,G\in\mathcal{G}\)

그러면 정의 3.28의 (1)과 (2)에 의해, 정의 3.26의 설명의 등식에 의해 다음의 등식이 성립한다.$$\begin{align*}&\int_{S}{\int_{T}{f(\xi,\,\eta)dP(Y|X)(\eta,\,\xi)}dP_{X}(\xi)}\\&=\int_{S}{\chi_{F}(\xi)\left\{\int_{T}{\chi_{G}(\eta)dP(Y|X)(\eta,\,\xi)}\right\}dP_{X}(\xi)}\\&=\int_{S}{\chi_{F}(\xi)P(Y|X)(G,\,\xi)dP_{X}(\xi)}\\&=\int_{F}{P(Y\in G|X)(\xi)dP_{X}(\xi)}\\&=P(Y^{-1}[G]\cap X^{-1}[G])\\&=\int_{S\times T}{f(\xi,\,\eta)dP_{\alpha}(\xi,\,\eta)}\\&=\int_{S\times T}{\chi_{F\times G}(\xi,\,\eta)dP_{\alpha}(\xi,\,\eta)}\\&=P_{\alpha}(F\times G)\\&=P(\{\omega\in\Omega\,|\,X(\omega)\in F,\,Y(\omega)\in G\})\\&=P(Y^{-1}[G]\cap X^{-1}[F])\end{align*}$$따라서 \(f(\xi,\,\eta)=\chi_{F\times G}(\xi,\,\eta),\,(\xi,\,\eta)\in S\times T\), \(F\in\mathcal{F},\,G\in\mathcal{G}\)인 경우에 대해 증명을 완료했다. 푸비니정리의 증명방법을 이용하면 임의의 가측함수 \(f\)에 대해서도 성립한다.

성질 3.32 \(Z:\Omega\,\rightarrow\,\mathbb{R}\)가 확률변수이고 \(E(|Z|)<\infty\)라 하자. \(g:(S,\,\mathcal{F})\,\rightarrow\,(\mathbb{R},\,\mathcal{B}(\mathbb{R}))\)가 가측변환이면 다음의 등식이 성립한다.$$E((g\circ X)Z)=\int_{S}{g(\xi)E(Z|X)(\xi)dP_{X}(\xi)}$$증명: 집합함수 \(\Phi\)를 다음과 같이 정의하자.$$\Phi(B)=\int_{B}{Z(\omega)dP(\omega)},\,B\in\mathcal{B}$$\(E(|Z|)<\infty\)이므로 \(\Phi\)는 \((\Omega,\,\mathcal{B})\)에서 유한 부호측도이다. \(\Phi\)는 \(P\)에 대해 절대연속이고 그 라돈-니코딤 도함수는 \(\displaystyle\frac{d\Phi}{dP}=Z\)이다. 따라서 \((\Omega,\,\mathcal{B},\,P)\)에서의 확률변수 \(g\circ X,\,Z\)에 대해 다음의 등식이 성립한다.$$E((g\circ X)Z)=\int_{\Omega}{g(X(\omega))Z(\omega)dP(\omega)}=\int_{\Omega}{g(X(\omega))d\Phi(\omega)}$$이제 다음의 등식이 성립함을 보이면 된다.$$\int_{\Omega}{g(X(\omega))dP(\omega)}=\int_{S}{g(\xi)E(Z|X)(\xi)dP_{X}(\xi)}$$먼저 \(g=\chi_{F}\), \(F\in\mathcal{F}\)인 경우를 생각하자. 그러면 정의 3.27의 설명의 등식에 의해$$\begin{align*}\int_{\Omega}{g(X(\omega))d\Phi(\omega)}&=\int_{\Omega}{\chi_{F}(X(\omega))d\Phi(\omega)}\\&=\int_{X^{-1}[F]}{d\Phi(\omega)}\\&=\int_{X^{-1}[F]}{Z(\omega)dP(\omega)}\\&=\int_{F}{E(Z|X)(\xi)dP_{X}(\xi)}\\&=\int_{S}{g(\xi)E(Z|X)(\xi)dP_{X}(\xi)}\end{align*}$$이므로 보이고자 하는 등식이 성립한다. 이 결과를 성질 3.29의 증명에서처럼 \(g\)가 \(S\)에서 임의의 \(\mathcal{F}-\)가측함수인 경우로 확장한다.

참고자료:

위너 적분론, 장건수, 민음사