[확률적분] 1. 적분과 랜덤워크

[확률적분] 1. 적분과 랜덤워크

적분

유한 닫힌구간 $[a,\,b]$에서 유계함수 $f$가 리만적분 가능하다(Riemann integrable)는 것은 다음의 극한이 존재하는 것이다. $$\int_{a}^{b}{f(t)dt}=\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{\sum_{i=1}^{n}{f(\tau_{i})(t_{i}-t_{i-1})}}$$ 여기서 $\Delta_{n}=\{t_{0},\,t_{1},\,...,\,t_{n-1},\,t_{n}\}$은 $[a,\,b]$의 분할로 다음이 성립하고 $$a=t_{0}<t_{1}<\cdots<t_{n-1}<t_{n}=b$$ $\displaystyle\|\Delta_{n}\|=\max_{1\leq i\leq n}{(t_{i}-t_{i-1})}$, $\tau_{i}$는 구간 $[t_{i-1},\,t_{i}]$에서의 한 점이다. $f$가 구간 $[a,\,b]$에서 연속이면, 이 함수는 리만적분 가능하다. 게다가 구간 $[a,\,b]$에서 유계인 함수가 리만적분 가능할 필요충분조건은 르베그적분에 대해 거의(almost everywhere) 연속인 것이다. 

$g$를 유한 닫힌구간 $[a,\,b]$에서 단조증가함수라고 하자. 구간 $[a,\,b]$에서 정의된 유계함수 $f$가 $g$에 대해 리만-스틸체스 적분가능(Riemann-Stieltjes integrable)하다는 것은 다음의 극한이 존재하는 것이다. $$\int_{a}^{b}{f(t)dg(t)}=\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{\sum_{i=1}^{n}{f(\tau_{i})(g(t_{i})-g(t_{i-1}))}}$$ 구간 $[a,\,b]$에서 연속인 함수는 구간 $[a,\,b]$에서 단조증가하는 함수에 대해 리만-스틸체스 적분가능하다. 

$f$를 단조증가연속, $g$를 연속이라고 하자. 그러면 다음의 식을 정의하기 위한 부분적분을 적용할 수 있다. $$\int_{a}^{b}{f(t)dg(t)}=\left[f(t)g(t)\right]_{a}^{b}-\int_{a}^{b}{g(t)df(t)}$$ 이 식은 다음의 질문을 유도한다.

구간 $[a,\,b]$에서 연속인 임의의 함수 $f$, $g$에 대해 리만-스틸체스 적분의 정의대로 적분 $\displaystyle\int_{a}^{b}{f(t)dg(t)}$를 정의할 수 있는가? 

$f=g$인 특수한 경우를 고려하자. 그러면 리만-스틸체스 적분은 다음과 같게 된다. $$\int_{a}^{b}{f(t)df(t)}$$ $\Delta_{n}=\{t_{0},\,t_{1},\,...,\,t_{n}\}$를 구간 $[a,\,b]$의 분할, $L_{n}$과 $R_{n}$을 각각 $\tau_{i}=t_{i-1}$, $\tau_{i}=t_{i}$에 대응되는 리만합으로 다음과 같다고 하자. $$\begin{align*}L_{n}&=\sum_{i=1}^{n}{f(t_{i-1})(f(t_{i})-f(t_{i-1}))}\\R_{n}&=\sum_{i=1}^{n}{f(t_{i})(f(t_{i})-f(t_{i-1}))}\end{align*}$$ $\|\Delta_{n}\|\,\rightarrow\,0$일 때 식 $\displaystyle\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{L_{n}}=\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{R_{n}}$이 성립하는가? 다음의 식으로부터 $$\begin{align*}R_{n}-L_{n}&=\sum_{i=1}^{n}{(f(t_{i})-f(t_{i-1}))^{2}}\\R_{n}+L_{n}&=\sum_{i=1}^{n}{(\{f(t_{i})\}^{2}-\{f(t_{i-1})\}^{2})}=\{f(b)\}^{2}-\{f(a)\}^{2}\end{align*}$$ 그러므로 $R_{n}$과 $L_{n}$은 다음과 같고 $$\begin{align*}R_{n}&=\frac{1}{2}\left(\{f(b)\}^{2}-\{f(a)\}^{2}+\sum_{i=1}^{n}{(f(t_{i})-f(t_{i-1}))^{2}}\right)\\L_{n}&=\frac{1}{2}\left(\{f(b)\}^{2}-\{f(a)\}^{2}-\sum_{i=1}^{n}{(f(t_{i})-f(t_{i-1}))^{2}}\right)\end{align*}$$ 위 식에 있는 식 $\displaystyle\sum_{i=1}^{n}{(f(t_{i})-f(t_{i-1}))^{2}}$이 $\|\Delta_{n}\|\,\rightarrow\,0$일 때 극한이 존재하면 이것을 $[a,\,b]$에서 $f$의 이차변동(quadratic variation)이라고 한다. 따라서 식 $\displaystyle\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{R_{n}}=\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{L_{n}}$이 성립할 필요충분조건은 함수 $f$의 이차변동이 0이 되는 것이다. 

다음의 두 가지 예를 살펴보자

1. $f$를 $C^{(1)}$함수라고 하자. 이것은 $f'(t)$가 연속함수임을 뜻한다. 그러면 평균값정리에 의해 $\|\Delta_{n}\|\,\rightarrow\,0$일 때 다음이 성립하고 $$\begin{align*}|R_{n}-L_{n}|&=\sum_{i=1}^{n}{\{f'(t_{i}^{*})(t_{i}-t_{i-1})\}^{2}}\\&\leq\sum_{i=1}^{n}{\|f'\|^{2}_{\infty}(t_{i}-t_{i-1})^{2}}\\&\leq\|f'\|^{2}_{\infty}\|\Delta_{n}\|\sum_{i=1}^{n}{(t_{i}-t_{i-1})}\\&=\|f'\|^{2}_{\infty}\|\Delta_{n}\|(b-a)\,\rightarrow\,0\end{align*}$$ 여기서 $t_{i-1}<t_{i}^{*}<t_{i}$, $\|\cdot\|_{\infty}$는 최소상계노름이다. 따라서 $\displaystyle\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{L_{n}}=\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{R_{n}}$이고 다음이 성립한다. $$\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{L_{n}}=\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{R_{n}}=\frac{1}{2}(\{f(b)\}^{2}-\{f(a)\}^{2})$$ 반면에 이러한 $C^{(1)}$함수 $f$에 대해 적분 $\displaystyle\int_{a}^{b}{f(t)df(t)}$는 다음과 같이 정의할 수 있고 $$\int_{a}^{b}{f(t)df(t)}=\int_{a}^{b}{f(t)f'(t)dt}$$ 미적분학의 기본정리로부터 다음이 성립한다. $$\int_{a}^{b}{f(t)df(t)}=\int_{a}^{b}{f(t)f'(t)dt}=\frac{1}{2}(\{f(b)\}^{2}-\{f(a)\}^{2})$$ 2. $f$를 다음의 조건을 만족하는 연속함수라 하자. $$|f(t)-f(s)|\approx|t-s|^{\frac{1}{2}}$$ 이 경우, 다음이 성립하고 $$0\leq R_{n}-L_{n}\approx\sum_{i=1}^{n}{(t_{i}-t_{i-1})}=b-a$$ 따라서 $a\neq b$일 때 $\displaystyle\lim_{\|\Delta_{n}\|\,\rightarrow\,0}{R_{n}}\neq\lim_{\|D_{n}\|\,\rightarrow\,0}{L_{n}}$이다. 결과적으로 적분 $\displaystyle\int_{a}^{b}{f(t)df(t)}$를 정의할 수 없다. 이 함수의 이차변동이 $b-a$임에 유의하자. 이 예로부터 다음의 질문을 할 수 있다.

다음의 조건을 만족하는 연속함수 $f$가 존재하는가? $$|f(t)-f(s)|\approx|t-s|^{\frac{1}{2}}$$ 이 질문에 대한 답을 찾기 위해서 랜덤워크와 적합한 극한이 필요하다. 

랜덤워크(random walk)는 무작위 걸음이다. 0에서 시작해 시간 $\delta,\,2\delta,\,...$에서 $h$와 $-h$로 점프(jump, 도약)하는 랜덤워크를 고려하자. 여기서 $\delta$와 $h$는 양수이다. $\{X_{n}\}$을 독립동일분포 확률변수들의 열로 다음을 만족한다고 하자. $$P(X_{j}=h)=P(X_{j}=-h)=\frac{1}{2}$$ $Y_{\delta,\,h}(0)=0$이라 하고 $$Y_{\delta,\,h}(n\delta)=X_{1}+X_{2}+\cdots+X_{n}$$ 이라 하자. $t>0$ 에 대하여 $Y_{\delta,\,h}(t)$를 선형화를 함으로써 정의하자. 즉 $n\delta<t<(n+1)\delta$에 대하여 다음과 같이 정의하자. $$Y_{\delta,\,h}(t)=\frac{(n+1)\delta-t}{\delta}Y_{\delta,\,h}(n\delta)+\frac{t-n\delta}{\delta}Y_{\delta,\,h}((n+1)\delta)$$ $Y_{\delta,\,h}(t)$를 시간 $t$에서의 랜덤워크의 위치라고 생각할 수 있다. 특히 $X_{1}+X_{2}+\cdots+X_{n}$은 시간 $n\delta$에서의 랜덤워크의 위치이다. 이때 다음의 질문을 얻는다.

$\delta,\,h\,\rightarrow\,0$일 때 랜덤워크 $Y_{\delta,\,h}$의 극한은 어떻게 되는가? 

이 질문에 대한 답을 찾기위해 $Y_{\delta,\,h}(t)$의 특성함수의 극한을 계산하자. $$\lim_{\delta,\,h\,\rightarrow\,0}{E(e^{i\lambda Y_{\delta,\,h}(t)})}$$ 여기서 $\lambda\in\mathbb{R}$는 고정된 수이다. $t=n\delta$라고 하면 $\displaystyle n=\frac{t}{\delta}$이고 다음을 얻는다. $$\begin{align*}E(e^{i\lambda Y_{\delta,\,h}(t)})&=\prod_{i=1}^{n}{E(e^{i\lambda X_{i}})}=(E(e^{i\lambda X_{1}})^{n})\\&=\left(\frac{1}{2}e^{i\lambda h}+\frac{1}{2}e^{-i\lambda h}\right)^{n}=(\cos(\lambda h))^{n}\\&=(\cos(\lambda h))^{\frac{t}{\delta}}\end{align*}$$ 분명히 고정된 $\lambda$와 $t$에 대해 극한 $\displaystyle\lim_{\delta,\,h\,\rightarrow\,0}{e^{i\lambda Y_{\delta,\,h}(t)}}$은 존재하지 않는다. 따라서 이 극한이 존재하기 위해서는 $\delta$와 $h$의 관계를 찾아야 한다. 

$\displaystyle u=(\cos(\lambda h))^{\frac{1}{\delta}}$라 하자. 그러면 $\displaystyle\ln u=\frac{1}{\delta}\ln\cos(\lambda h)$이고 충분히 작은 $h$에 대해 다음이 성립한다. $$\cos(\lambda h)\approx1-\frac{1}{2}\lambda^{2}h^{2}$$ 충분히 작은 $x$에 대해 $\ln(1+x)\approx x$이므로 따라서 $$\ln\cos(\lambda h)\approx\ln\left(1-\frac{1}{2}\lambda^{2}h^{2}\right)\approx-\frac{1}{2}\lambda^{2}h^{2}$$ 그러므로 충분히 작은 $\delta$와 $h$에 대해 $\displaystyle\ln u\approx-\frac{1}{2\delta}\lambda^{2}h^{2}$이고 다음이 성립한다. $$u\approx e^{-\frac{1}{2\delta}\lambda^{2}h^{2}}$$ 그러면 $$E(e^{i\lambda Y_{\delta,\,h}(t)})\approx e^{-\frac{1}{2\delta}t\lambda^{2}h^{2}}$$ 이고 특히 $\delta$와 $h$의 관계가 $h^{2}=\delta$이면, 다음이 성립한다. $$\lim_{\delta\,\rightarrow\,0}{E(e^{i\lambda Y_{\delta,\,h}(t)})}=e^{-\frac{1}{2}t\lambda^{2}}\,(\lambda\in\mathbb{R})$$ 따라서 랜덤워크 $Y_{\delta,\,h}$의 $\delta,\,h\,\rightarrow\,0$일 때의 극한은 $h^{2}=\delta$일 때 존재하고 다음과 같이 정리할 수 있다. 

$Y_{\delta,\,h}(t)$를 0에서 시작해 시간 $\delta,\,2\delta,\,3\delta,\,...$에서 $h$와 $-h$로 점프하는 랜덤워크라 하고 $h^{2}=\delta$라 하자. 그러면 $t\geq0$에 대해 극한 $$B(t)=\lim_{\delta\,\rightarrow\,0}{Y_{\delta,\,h}(t)}$$ 은 이 분포에서 존재한다. 게다가 다음을 얻는다. $$E(e^{i\lambda B(t)})=e^{-\frac{1}{2}t\lambda^{2}}\,(\lambda\in\mathbb{R})$$ 앞의 결과들을 종합하면 확률과정 $B(t)$가 다음의 성질들을 가짐을 기대할 수 있다.

(1) 각 시간에서 $Y_{\delta,\,h}$의 기울기의 절댓값은 $\delta\,\rightarrow\,0$일 때 $\frac{h}{\delta}=\frac{1}{\sqrt{\delta}}\,\rightarrow\,\infty$이다. 따라서 모든 브라운 경로(Brownian path) $B(t)$는 어느 점에서 미분가능하지 않다. $\delta=|t-s|$라고 하면 다음이 성립한다. $$|B(t)-B(s)|\approx\frac{1}{\sqrt{\delta}}|t-s|=|t-s|^{\frac{1}{2}}$$ (2) 거의 모든 $B(t)$의 표본경로들은 연속이다. 

(3) $t$에 대하여 $B(t)$는 평균이 0이고, 분산이 $t$인 가우시안 확률변수이다. 이것은 $E(e^{i\lambda B(t)})=e^{-\frac{1}{2}t\lambda^{2}}$로부터 얻은 결과이다.  

(4) 확률과정 $B(t)$는 독립증분(independent increments)을 갖는다. 즉 임의의 $0\leq t_{1}<t_{2}<\cdots<t_{n}$에 대해 확률변수 $$B(t_{1}),\,B(t_{2})-B(t_{1}),\,...,\,B(t_{n})-B(t_{n-1})$$ 들은 독립이다. 

위의 성질 (2), (3), (4)는 브라운 운동(Brownian motion)이라고 불리는 기본적인 확률과정을 특징짓는다. 

참고자료:

Introduction to Stochastic Integration, Hui-Hsiung Kuo, Springer