[선형대수학] 4. 판별식의 기본성질

[선형대수학] 4. 판별식의 기본성질

$n$차 정사각행렬을 실수로 대응시키는 함수 $f$를 판별식(determinant)이라 한다. 이때 함수 $f$는 다음 성질들을 만족한다.

(1) $n$차 단위행렬 $I_{n}$에 대하여 $f(I_{n})=1$

(2) $A$가 $n$차 정사각행렬이고 $E$가 행바꿈을 나타내는 기본행렬이면, $f(EA)=-f(A)$

(3) $k,\,l\in\mathbb{R}$에 대하여 $f\left(\begin{bmatrix}kr_{1}+lr_{1}'\\r_{2}\\ \vdots\\r_{n}\end{bmatrix}\right)=kf\left(\begin{bmatrix}r_{1}\\r_{2}\\ \vdots\\r_{n}\end{bmatrix}\right)+lf\left(\begin{bmatrix}r_{1}'\\r_{2}\\ \vdots\\r_{n}\end{bmatrix}\right)$

($r_{i}=\begin{bmatrix}a_{i1}&a_{i2}&\cdots&a_{in}\end{bmatrix}\,(1\leq i\leq n)$는 $i$번째 행)

판별식의 성질 (1)

(1) $f$는 임의의 행에 대해서 선형이다. 즉, $f(kr_{1}+lr_{1}')=kf(r_{1})+lf(r_{1})$

(2) 정사각행렬 $A$의 한 행의 성분이 모두 $0$이거나 두 개 이상의 같은 행을 가질 경우 $f(A)=0$이다.

(3) 기본행렬 $E$가 $r_{i}$행에 $r_{j}$행을 실수 $k$배 해서 더한 후 $r_{j}$자리에 대입하는 것을 나타내는 행렬이면, $f(EA)=f(A)$. 즉, $f(E_{kr_{i}+r_{j}\rightarrow r_{j}}A)=f(A)$

증명:

(1) $f\left(\begin{bmatrix}r_{1}\\ \vdots\\kr_{i}+lr_{i}'\\ \vdots\\r_{n}\end{bmatrix}\right)=-f\left(\begin{bmatrix}kr_{i}+lr_{i}'\\ \vdots\\r_{1}\\ \vdots\\r_{n}\end{bmatrix}\right)=(-1)(-1)\left[kf\left(\begin{bmatrix}r_{1}\\ \vdots\\r_{i}\\ \vdots\\r_{n}\end{bmatrix}\right)+lf\left(\begin{bmatrix}r_{1}\\ \vdots\\ r_{i}'\\ \vdots\\r_{n}\end{bmatrix}\right)\right]=kf\left(\begin{bmatrix}r_{1}\\ \vdots\\r_{i}\\ \vdots\\ r_{n}\end{bmatrix}\right)+lf\left(\begin{bmatrix}r_{1}\\ \vdots\\r_{i}'\\ \vdots\\r_{n}\end{bmatrix}\right)$

(2) 한 행의 성분이 모두 $0$인 경우 $f\left(\begin{bmatrix}r_{1}\\ \vdots\\ \mathbf{0}\\ \vdots\\r_{n}\end{bmatrix}\right)=f\left(\begin{bmatrix}r_{1}\\ \vdots\\0\cdot r_{i}\\ \vdots\\r_{n}\end{bmatrix}\right)=0\cdot f\left(\begin{bmatrix}r_{1}\\ \vdots\\r_{i}\\ \vdots\\r_{n}\end{bmatrix}\right)=0$이다. ($\mathbf{0}$은 모든 성분이 $0$인 열이다.)

같은 행이 두 개 있을 때 같은 두 개의 행을 행바꿈해도 같은 행렬이 된다. 그러면 $f(A)=-f(A)$이고 따라서 $f(A)=0$이다.

(3) (1)과 (2)에 의해 $f\left(\begin{bmatrix}r_{1}\\ \vdots\\r_{i}\\kr_{i}+r_{j}\\ \vdots\\r_{n}\end{bmatrix}\right)=kf\left(\begin{bmatrix}r_{1}\\ \vdots\\r_{i}\\r_{i}\\ \vdots\\r_{n}\end{bmatrix}\right)+1f\left(\begin{bmatrix}r_{1}\\ \vdots\\r_{i}\\r_{j}\\ \vdots\\r_{n}\end{bmatrix}\right)=f(A)$이다.

$n$차 정사각행렬 $A$에 대하여 $f(A)=\det A$로 나타낸다.

행렬식의 성질 (2)

(1) $\det\begin{pmatrix}a_{11}&&&0\\&a_{22}&&\\&&\ddots&\\0&&&a_{nn}\end{pmatrix}=a_{11}a_{22}\cdots a_{nn}$

(2) $A$가 정칙행렬이면, $\det A\neq0$

(3) $n$차 정사각행렬 $A,\,B$에 대하여 $\det AB=\det A\det B$

(4) $n$차 정사각행렬 $A$에 대하여 $\det A^{T}=\det A$

증명:

(1) $A=\begin{pmatrix}a_{11}&&&0\\&a_{22}&&\\&&\ddots&\\0&&&a_{nn}\end{pmatrix}$이라 하자. 어떤 $i$에 대하여 $a_{ii}=0$이면, $A$의 기약 행사다리꼴에는 모든 성분이 $0$인 열이 있어야 하고 따라서 $\det A=0$이다.

모든 $i\,(1\leq i\leq n)$에 대하여 $a_{ii}\neq0$이라 하자. 그러면 $A$의 기약 행사다리꼴은 $I_{n}$이고 따라서 다음이 성립한다. $$\det A=(a_{11}\det I_{n})\cdots(a_{nn}\det I_{n})=a_{11}\cdots a_{nn}$$

(2) $A$가 정칙행렬이면 $A$의 역행렬이 존재하고 $I_{n}$과 행동치이다. 그러므로 $\det A\neq0$이다.

(3) $\det A=0$이면, 기본행렬 $E_{1},\,...,\,E_{n}$에 대하여 $E_{1}\cdots E_{n}A$는 모든 성분이 $0$인 행을 갖고 따라서$E_{1}\cdots E_{n}AB$는 모든 성분이 $0$인 행을 갖는다. 그러면 $\det AB=\det A\det B=0$이다.

$\det A\neq0$이라 하자. 그러면 기본행렬 $E_{1},\,...,\,E_{n}$에 대하여 $E_{1}\cdots E_{n}A=I_{n}$이고 $A=E_{1}^{-1}\cdots E_{n}^{-1}$이다. 그러면 $$\det AB=\det(E_{1}^{-1}E_{2}^{-1}\cdots E_{n}^{-1}B)=\det(E_{1}^{-1})\det(E_{2}^{-1})\cdots\det(E_{n}^{-1})\det(B)=\det(E_{1}^{-1}\cdots E_{n}^{-1})\det B=\det A\det B$$ 이다.

(4) $A$가 역행렬을 갖지 않을 필요충분조건은 $A^{T}$가 역행렬을 갖지 않는 것이다. $A$가 역행렬을 갖지 않으면 $\det A=0$이고 따라서 $\det A^{T}=0$이다.

$\det A\neq0$이면, $PA=LDU$이고 여기서 $P$는 행렬 $A$를 기약 행사다리꼴로 만들기 위해 행한 행연산의 기본행렬들을 곱한 행렬, $L,\,D,\,U$는 각각 하 삼각행렬, 대각행렬, 상 삼각행렬이다. 그러면 $$\det A^{T}P^{T}=\det A^{T}\det P^{T}=\det U^{T}\det D^{T}\det L^{T}=\det L\det D\det U=\det P\det A$$ 이고 $\det P=\det P^{T}$이므로 $\det A^{T}=\det A$이다.

2차 정사각행렬 $\begin{bmatrix}a&b\\c&d\end{bmatrix}$의 판별식을 구하면

$$f\left(\begin{bmatrix}a&b\\c&d\end{bmatrix}\right)=f\left(\begin{bmatrix}a&0\\c&d\end{bmatrix}\right)+f\left(\begin{bmatrix}0&b\\c&d\end{bmatrix}\right)=f\left(\begin{bmatrix}a&0\\c&0\end{bmatrix}\right)+f\left(\begin{bmatrix}a&0\\0&d\end{bmatrix}\right)+f\left(\begin{bmatrix}0&b\\c&0\end{bmatrix}\right)+f\left(\begin{bmatrix}0&b\\0&d\end{bmatrix}\right)=ad-bc$$ 이다.

자연수 집합 $\mathbb{N}_{n}=\{1,\,2,\,...,\,n\}$의 치환(permutation) $\sigma$는 $\mathbb{N}_{n}$에서 $\mathbb{N}_{n}$으로의 일대일대응 $\sigma$이고 다음과 같이 정의된다.

$$\sigma=(\sigma(1),\,\sigma(2),\,...,\,\sigma(n))=\begin{pmatrix}1&2&\cdots&n\\ \sigma(1)&\sigma(2)&\cdots&\sigma(n)\end{pmatrix}$$

치환 중에서 두 원소만 서로 바꾸어 대응시키고 나머지 원소들은 자기 자신에 대응하는 치환을 호환(transposition)이라 한다. 치환 $\sigma=(i_{1},\,\cdots,\,i_{n})$에서 자연수 $s,\,t$에 대하여 $s<t$일 때 $i_{s}>i_{t}$가 성립하면, 이 치환 $\sigma$는 반전(inversion)을 갖는다고 한다. 즉, 큰 자연수가 작은 자연수보다 먼저 나타나면 반전을 갖는다고 한다. 예를들어 $\sigma=(3,\,1,\,2)$의 반전의 개수는 $2$개이다. 왜냐하면 $3$은 $1$과 $2$보다 크기 때문이다. 한 치환의 반전의 개수가 홀수이면 이를 홀치환(odd permutation), 짝수이면 이를 짝치환(even permutation)이라고 한다.

예를들어 치환 $\sigma=(3,\,4,\,2,\,5,\,1)$에서 $\sigma(1)=3,\,\sigma(2)=4,\,\sigma(3)=2,\,\sigma(4)=5,\,\sigma(5)=1$이므로 $3$은 $1,\,2$보다 크고, $4$는 $1,\,2$보다 크고 $2$는 $1$보다 크고, $5$도 $1$보다 크다. 그러면 이 치환의 반전의 개수는 $2+2+1+1=6$이고 짝치환이다.

치환 $\sigma$의 반전의 개수를 $n$이라 할 때, $\sigma$의 부호함수 $\text{sgn}$을 $\text{sgn}(\sigma)=(-1)^{n}$으로 정의한다.

치환 $\sigma=(1,\,2,\,...,\,n)$전체의 집합을 $S_{n}$으로 나타내며 $S_{n}$의 원소의 개수는 $n!$이다.

앞에서 정의한 치환 $\sigma$를 이용하여 $n$차 정사각행렬 $A=(a_{ij})_{n\times n}$의 판별식을 다음과 같이 나타낼 수 있다.

$$\det A=\sum_{\sigma\in S_{n}}{\text{sgn}(\sigma)a_{1\sigma(1)}a_{2\sigma(2)}\cdots a_{n\sigma(n)}}$$

이 정의를 이용하여 행렬 $A=\begin{pmatrix}a&b\\c&d\end{pmatrix}=\begin{pmatrix}a_{11}&a_{12}\\a_{21}&a_{22}\end{pmatrix}$의 판별식을 구하자. 그러면 $S_{2}=\{\sigma_{1},\,\sigma_{2}\}=\{(1,\,2),\,(2,\,1)\}$이고 $(1,\,2)$는 짝치환, $(2,\,1)$는 홀치환이므로 $\text{sgn}(\sigma_{1})=1,\,\text{sgn}(\sigma_{2})=-1$이고 따라서 $$\det A=\text{sgn}(\sigma_{1})a_{1\sigma_{1}(1)}a_{2\sigma_{2}(2)}+\text{sgn}(\sigma_{2})a_{1\sigma_{2}(1)}a_{2\sigma_{2}(2)}=a_{11}a_{22}-a_{12}a_{21}=ad-bc$$ 이다.

마찬가지로 $A=\begin{pmatrix}a_{11}&a_{12}&a_{13}\\a_{21}&a_{22}&a_{23}\\a_{31}&a_{32}&a_{33}\end{pmatrix}$의 판별식을 구하자. 그러면 $S_{3}=\{\sigma_{1},\,\sigma_{2},\,\sigma_{3},\,\sigma_{4},\,\sigma_{5},\,\sigma_{6}\}=\{(1,\,2,\,3),\,(2,\,3,\,1),\,(3,\,1,\,2),\,(1,\,3,\,2),\,(2,\,1,\,3),\,(3,\,2,\,1)\}$이고 $\text{sgn}(\sigma_{1})=\text{sgn}(\sigma_{2})=\text{sgn}(\sigma_{3})=1,\,\text{sgn}(\sigma_{4})=\text{sgn}(\sigma_{5})=\text{sgn}(\sigma_{6})=-1$이므로 따라서

$$\begin{align*}\det A&=\text{sgn}(\sigma_{1})a_{1\sigma_{1}(1)}a_{2\sigma_{1}(2)}a_{3\sigma_{3}(3)}+\text{sgn}(\sigma_{2})a_{1\sigma_{2}(1)}a_{2\sigma_{2}(2)}a_{3\sigma_{2}(3)}+\cdots+\text{sgn}(\sigma_{6})a_{1\sigma_{6}(1)}a_{2\sigma_{6}(2)}a_{3\sigma_{3}(6)}\\&=a_{11}a_{22}a_{33}+a_{12}a_{23}a_{31}+a_{13}a_{21}a_{32}-(a_{11}a_{23}a_{32}+a_{12}a_{21}a_{33}+a_{13}a_{22}a_{31})\end{align*}$$ 이다.

참고자료

Linear Algebra, jinho Kwak, sungpyo Hong, Birkhauser