조건부기댓값의 건설

조건부기댓값의 건설

확률론에서 조건부기댓값은 어떤 조건 하에서 특정한 확률변수에 대한 기댓값이다. 

$(\Omega,\,\mathcal{F},\,P)$를 확률공간이라 하고, $X$와 $Z$를 다음과 같은 확률변수라 하자. $$\begin{align*}X&=x_{1},\,x_{2},\,...,\,x_{m}\\Z&=z_{1},\,z_{2},\,...,\,z_{n}\end{align*}$$ $Z=z_{j}$일 때 $X=x_{i}$일 확률은 다음과 같고 $$P(X=x_{i}|Z=z_{j})=\frac{\{P(X=x_{i}\}\cap\{Z=z_{j}\})}{P(Z=z_{j})}$$ 또한 $Z=z_{j}$일 때의 조건부기댓값은 다음과 같다. $$E(X|Z=z_{i})=\sum_{i=1}^{m}{x_{i}P(X=x_{i}|Z=z_{j})}$$ *$\{Z=z_{j}\}$는 $\{\omega\in\Omega\,|\,Z(\omega)=z_{j}\}$이다.

$Y=E(X|Z)$인 확률변수 $Y$는 다음과 같이 정의할 수 있다.

$Z(\omega)=z_{j}$이면, $Y(\omega)=E(X|Z=z_{j})=y_{j}$이다. 

$Z$에 의해 생성된 $\sigma-$체 $\mathcal{G}=\sigma(Z)$는 집합 $\{Z\in B\}$($B$는 보렐집합)들로 구성되어 있고, 따라서 $n$개의 $\{Z=z_{j}\}$들의 $2^{n}$가지의 합집합들로 구성되어있다. $Z=z_{j}\,(1\leq j\leq n)$일 때, $Y$는 상수함수이고 더 나아가서 $\mathcal{G}-$가측이다. 

다음으로 $Y$는 $Z=z_{j}$일 때 상수값 $y_{j}$를 가지므로 다음 등식이 성립한다. $$\begin{align*}\int_{\{Z=z_{j}\}}{YdP}&=y_{j}P(Z=z_{j})=\sum_{j}{x_{i}P(X=x_{i}|Z=z_{j})P(Z=z_{j})}\\&=\sum_{i}{x_{i}P(\{X=x_{i}\}\cap\{Z=z_{j}\})}\\&=\int_{\{Z=z_{j}\}}{XdP}\end{align*}$$ $G_{j}=\{Z=z_{j}\}$로 나타내면 위의 식으로부터 $E(Y\mathbb{1}_{G_{j}})=E(X\mathbb{1}_{G_{j}})$가 된다. 모든 $G\in\mathcal{G}$에 대하여 $\displaystyle\mathbb{1}_{G}=\sum_{j=1}^{m}{\mathbb{1}_{G_{j}}}$이므로 $E(Y\mathbb{1}_{G})=E(X\mathbb{1}_{G})$이고 다음이 성립한다. $$\int_{G}{YdP}=\int_{G}{XdP}$$ 조건부기댓값은 다른 관점에서 보면 직교사영이라고 할 수 있다.(아래 그림참고) 

  

$L^{2}$확률공간 $(\Omega,\,\mathcal{F},\,P)$의 확률변수 $X$를 부분공간 $L^{2}(\mathcal{G})$($\mathcal{G}$는 $\mathcal{F}$의 부분 $\sigma-$체, $L^{2}(\mathcal{G})$는 $\mathcal{G}-$가측 $L^{2}$함수들의 공간)으로 직교사영한 확률변수 $Y$가 조건부기댓값이고, 이때 $Y$는 $E((X-Y)^{2})$를 최소가 되게 하고, $Y$를 $\mathcal{G}-$가측 함수 중에서 $X$의 '최선의 예측'이라고 할 수 있다. $X-Y$는 $L^{2}(\mathcal{G})$에 수직이므로 $L^{2}$상의 내적의 정의에 의해 모든 $Z\in L^{2}(\mathcal{G})$에 대하여 $$\langle X-Y,\,Z\rangle=\int_{\Omega}{(X-Y)ZdP}=0$$ 이고 특히 모든 $G\in\mathcal{G}$에 대하여 $\mathbb{1}_{G}\in L^{2}(\mathcal{G})$이므로 다음 식이 성립한다. $$\int_{G}{YdP}=\int_{G}{XdP}$$ 다음과 같이 조건부기댓값을 정의할 수 있다.    

$(\Omega,\,\mathcal{F},\,P)$를 확률공간이라 하고, $\mathcal{G}$를 $\mathcal{F}$의 부분 $\sigma-$체라고 하자. $\mathcal{F}-$가측 확률변수 $X$에 대하여 유일한 $\mathcal{G}-$가측 확률변수 $Y$가 존재해서 모든 $G\in\mathcal{G}$에 대하여 다음 등식이 성립한다고 하자. $$\int_{G}{XdP}=\int_{G}{YdP}$$ 이러한 확률변수 $Y$를 $Y=E(X|\mathcal{G})$로 나타내고 $X$의 $\mathcal{G}$에 대한 조건부기댓값(conditional expectation)이라고 한다. 

조건부기댓값의 직관적인 의미는 어떤 실행이 이루어졌을때 표본 $\omega$가 선택된 정보는 모든 $\mathcal{G}-$가측 확률변수 $Z$에 대하여 $Z(\omega)$를 값으로 갖는 집합들에 있을 때 주어진 정보에서 $X(\omega)$의 기댓값이 $Y(\omega)=E(X|\mathcal{G})(\omega)$라는 것이다. 이 상황에서 $\mathcal{G}=\{\Omega,\,\phi\}$이면(정보가 없음), 모든 $\omega$에 대하여 $E(X|\mathcal{G})(\omega)=E(X)$이다. 

앞에서의 정의에 의해 $X\in L^{2}$에 대하여 조건부기댓값은 잘 정의되고 다음 조건에 의해 $X,\,Y\in L^{1}$이라고 해도 문제없다. $$\int_{G}{YdP}=\int_{G}{XdP}\,(G\in\mathcal{G})$$ 임의의 $X\in L^{1}(\mathcal{F})$에 대하여 $E(X|\mathcal{G})\in L^{1}(\mathcal{G})$를 다음과 같이 건설할 것이다. 

다음의 정리들은 건설에 필요한 정리들이다. 

정리 1. $\{f_{n}\}$이 가측공간 $(X,\,\mathcal{M})$상의 가측함수열이면, 다음의 함수들도 가측이다. $$\max_{k\geq n}{f_{n}},\,\min_{k\geq n}{f_{n}},\,\sup_{n\in\mathbb{N}}{f_{n}},\,\inf_{n\in\mathbb{N}}{f_{n}},\,\lim_{n\,\rightarrow\,\infty}{\sup f_{n}},\,\lim_{n\,\rightarrow\,\infty}{\inf f_{n}}$$

정리 2. 단조수렴정리(Monotone Convergence Theorem)

$\{f_{n}\}$이 음이 아닌 측도공간 $(X,\,\mathcal{M},\,\mu)$상의 가측 함수열이고 $f$로 단조증가하며 수렴하면, 다음 등식이 성립한다. $$\lim_{n\,\rightarrow\,\infty}{\int_{X}{f_{n}d\mu}}=\int_{X}{fd\mu}$$  

정리 3. $E$가 유한측도를 갖는 집합이고 $1\leq p\leq q\leq\infty$이면, $L^{q}(E)\subset L^{p}(E)$이다.

* $a.s.$는 거의 확실히(almost surely)를 뜻하며, 측도론에서의 거의 어디서나(almost everywhere)와 같은 의미를 갖는다.      

1단계: $X$는 음이 아닌 유계 확률변수

$X$가 유계이면, $P(\Omega)=1$이므로 정리 3에 의해 $X\in L^{2}(\mathcal{F})$이고 따라서 조건부기댓값 $Y$를 갖는다. 

$Y\geq0\,P-a.s.$임을 보일 것이다. 이를 보이기 위해 $Y$가 음의 값을 가질 확률이 0보다 크다고 하자. 그러면 $n\geq1$이 존재해서 $\displaystyle G=\left\{Y<-\frac{1}{n}\right\}\in\mathcal{G}$에 대해 $P(G)>0$이고 따라서 다음의 부등식이 성립한다. $$\int_{G}{YdP}<-\frac{1}{n}P(G)<0$$ 그러나 $\displaystyle\int_{G}{YdP}=\int_{G}{XdP}\geq0$이어야 하므로 모순이다.   

2단계: 음이 아닌 $X\in L^{1}$로 근사 

$X\in L^{1}(\mathcal{F})\,(X\geq0)$를 선택하고 $n\geq1$에 대해 $X_{n}=\min\{X,\,n\}$이라 하자. 그러면 $X_{n}$은 유계이고 음이 아니므로 $X_{n}$을 1단계에 적용해 $Y_{n}\in L^{2}(\mathcal{G})$를 얻어내는데, 이때 식 $\displaystyle\int_{G}{Y_{n}dP}=\int_{G}{X_{n}dP}$가 성립한다. 

$\{X_{n}\}$은 증가하므로 모든 $G\in\mathcal{G}$에 대하여 $\displaystyle\left\{\int_{G}{X_{n}dP}\right\}$도 증가하고 따라서 모든 $G\in\mathcal{G}$에 대해 $\displaystyle\int_{G}{Y_{n}dP}\leq\int_{G}{Y_{n+1}dP}$이므로 $Y_{n+1}-Y_{n}\geq0-a.s.$이고 이것은 $\{Y_{n}\}$이 $a.s.$증가함을 뜻한다.   

3단계: 극한 취하기

모든 $\omega\in\Omega$에 대하여 $\displaystyle Y(\omega)=\lim_{n\,\rightarrow\,\infty}{\sup Y_{n}(\omega)}$라고 하자. 정리 1에 의해 $Y$는 $\mathcal{G}-$가측이다. 게다가 $G\in\mathcal{G}$와 모든 $n$에 대하여 다음 부등식이 성립하고 $$\int_{G}{Y_{n}dP}=\int_{G}{X_{n}dP}\leq\int_{G}{XdP}<\infty$$ 단조수렴정리에 의해 $\displaystyle\left\{\int_{G}{Y_{n}dP}\right\}$는 $\displaystyle\int_{G}{YdP}$로 증가하면서 수렴하고 $\displaystyle\int_{G}{YdP}<\infty$이므로 $Y\in L^{1}(\mathcal{G})$이다. 

반면에 $\displaystyle\int_{G}{Y_{n}dP}=\int_{G}{X_{n}dP}$이고 $\displaystyle\left\{\int_{G}{X_{n}dP}\right\}$도 $\displaystyle\int_{G}{XdP}$로 증가하면서 수렴하므로 모든 $G\in\mathcal{G}$에 대해 $\displaystyle\int_{G}{YdP}=\int_{G}{XdP}$이다.   

4단계: 일반적인 $X$ 

일반적으로 $X=X^{+}-X^{-}$이고, 3단계에 의해 $Y^{+},\,Y^{-}\in L^{1}(\mathcal{G})$가 존재해서 모든 $G\in\mathcal{G}$에 대해 $$\int_{G}{Y^{+}dP}=\int_{G}{X^{+}dP},\,\int_{G}{Y^{-}dP}=\int_{G}{X^{-}dP}$$ 이고 이 두 식들을 서로 빼서 식 $\displaystyle\int_{G}{YdP}=\int_{G}{XdP}$를 얻고, 이때 $Y=Y^{+}-Y^{-}\in L^{1}(\mathcal{G})$이다.  

5단계: 유일성  

$Z\in L^{1}(\mathcal{G})$도 모든 $G\in\mathcal{G}$에 대해 식 $\displaystyle\int_{G}{ZdP}=\int_{G}{XdP}$를 만족하면, $Z=Y\,P-a.s.$이다.  

5단계에서 $Y$를 $E(X|\mathcal{G})$의 버전(version)이라고 한다. $L^{1}(\Omega,\,\mathcal{G},\,P)$의 정의에 의해 유일성은 모든 버전들이 다음과 같이 정의되는 동치관계에 속함을 보여준다. $$f\equiv g\,\Leftrightarrow\,P(\{\omega\in\Omega\,|\,f(\omega)\neq g(\omega)\})=0$$

참고자료: 

Measure, Integral and Probability, Capinski, Kopp, Springer

Probability with Martingales, Williams, Cambridge University Press