1. 유클리드 기하학

1. 유클리드 기하학

기하학(geometry)이라는 단어는 그리스어 geometrein(geo: 땅, metrein: 측정하다)으로부터 유래한 것이다. 

수학자들은 정리를 발견하기 위해 시행착오나 특별한 경우의 계산, 영감에 의한 추측, 그 밖의 다른 방법들을 사용한다. 

공리적 방법(axiomatic method)은 결과가 옳은 가를 증명하는 방법이다. A가 B에게 어떤 명제 \(S_{1}\)을 순수한 추론에 의해 믿게 하려면 A는 B가 이미 인정할 수 있을 만한 어떤 다른 명제 \(S_{2}\)로부터 \(S_{1}\)이 논리적으로 추론될 수 있다는 것을 보여주어야 한다. 그러나 B가 \(S_{2}\)를 믿지 않는다면 A는 다시 어떤 다른 명제 \(S_{3}\)으로부터 \(S_{2}\)가 논리적으로 추론될 수 있음을 보여주어야 한다. 결국 A는 B가 이미 인정하고 있는, 그래서 A가 더 이상 정당화할 필요가 없는 어떤 명제에 도달할 때까지 이 과정을 몇 번 반복해야 한다.

그 명제가 바로 공리(axiom) 또는 공준(postulate)의 역할을 담당한다. 그러나 B가 A의 논의의 기초로서 받아들이게 될 그런 명제에 A가 도달할 수 없다면 A는 끝없이 논증이 물고 물리는 "무한회귀"에 빠지게 될 것이다.

그래서 증명이 옳다는 것을 동의하기 위해 다음과 같이 두 가지 약속을 한다.

약속 1: 더 이상 그 정당성을 보일 필요가 없는 "공리" 또는 "공준"이라고 불리는 명제를 인정한다.

약속 2: 한 명제가 다른 명제로부터 "논리적으로 추론될 수 있다"는 사실, 즉 추론에 관한 어떤 규칙에 동의한다.

   

앞에서의 약속 말고도 또 하나 당연히 받아들여야 하는 약속이 있다.

약속 0: 논의에서 사용되는 단어와 기호의 의미에 대한 상호이해가 있어야 한다.

서로에게 익숙한 용어를 사용하고 또 그것들을 모순없이 사용하는한 상호이해에 도달하는 데 어떤 문제도 없다. 그러나 낯선 어떤 용어를 사용하면 이 용어에 대한 정의를 요구할 수 있다. 정의란 임의로 주어질 수 없고, 약속 2의 추론의 규칙을 따라야 한다. 그 예로 직각을 90도로 정의하고 다시 90도를 직각으로 정의하면 순환논리(주기적으로 자꾸 되풀이하여 도는 원리)에 빠지게 된다.

그러나 우리가 사용하는 용어들을 모두 정의할 수 없다. 한 용어를 정의하기 위해서는 또 다른 용어를 사용해야 하고, 다시 이 용어를 정의하기 위해서는 또 다른 용어를 사용해야 한다. 따라서 어떤 용어를 정의하지 않은 채로 남기는 것이 허용되지 않으면 무한회귀에 빠지게 될 것이다. 

유클리드는 다음의 다섯 가지를 무정의 용어로 받아들였다.

점(point)

직선(line)

위에 있다(lie on)("두 점이 한 직선 위에 있다"와 같이)

사이(between)("점 C가 점 A와 점 B사이에 있다"와 같이)

합동(congruent)

입체기하학에서 또 다른 기하학 용어인 "평면"을 소개해야 하고, 점과 직선에 허용한 "위에 있다"의 관계를 평면 위로 확장시켜야 한다. 여기서 관심대상을 평면기하학으로 제한한다. 

평면을 모든 점과 직선의 집합으로 정의할 것이고, 그래서 모든 점들과 직선들은 평면 위에 놓여 있다. 

 

종종 "위에 있다"와 동의어로 "점 \(P\)가 직선 \(\ell\)위에 있다"대신 "\(\ell\)이 \(P\)를 지난다" 또는 "\(P\)가 \(\ell\)과 결합되어 있다"라고 한다. 만약 점 \(P\)가 직선 \(\ell\)과 직선 \(m\) 양쪽 위에 있으면, "\(\ell\)과 \(m\)이 공유점 \(P\)를 갖고 있다" 또는 "\(\ell\)과 \(m\)이 점 \(P\)에서 교차한다(만난다)"라고 말한다. 

무정의 용어인 "직선"이 정의되지 않아도 공리들에 의해 사용에 제약을 받는다. 예: 그 한 공리는 주어진 두 점이 오직 한 직선 위에 있다고 하는 것이다. 따라서 아래 그림에서 \(l\)과 \(m\)이 기하학에서 직선을 표현할 수 없는데, 그 이유는 서로 다른 두 점 \(P\)와 \(Q\)를 동시에 지나기 때문이다.

앞으로 사용하게 될 수학적 용어 중 무정의 용어에 포함시켜야 할 단어들이 있으나 제외할 것이다. 그 이유는 기하학 용어가 아니기 때문이다. 유클리드는 이것을 통념(common sense)이라고 불렀다. 

집합의 용어에서 \(S\)의 모든 원소가 \(T\)의 한 원소이고 또 그 역(\(T\)의 모든 원소가 \(S\)의 한 원소)도 성립하면 \(S\)와 \(T\)는 상등 또는 같다고 한다. 그 예로 유클리드의 '원론'의 모든 저자들의 집합 \(S\)는 그 원소가 단지 유클리드로만 구성된 집합과 상등이다. 따라서 "상등이다"는 "동일하다"는 것을 의미한다. 

유클리드는 "이등변삼각형의 두 밑각은 같다"라고 주장했지만 이 주장의 의미는 이등변삼각형의 두 밑각이 같은 크기의 각을 가짐을 말한 것이지 동일하다고 말한 것은 아니다. 이러한 혼동을 피하기 위해 "같다"라는 용어 대신 무정의 용어인 "합동"을 사용한다. 그래서 "이등변삼각형의 두 밑각은 합동이다"라고 말하고, 마찬가지로 "AB와 AC가 같으면 △ABC는 이등변삼각형이다"라고 하는 대신 "AB와 AC가 합동이면 △ABC는 이등변삼각형이다"라고 한다. 

무정의 용어 "합동"은 삼각형 뿐만 아니라 각과 선분에 대해서도 응용한다. 합동인 대상을 "동일한 크기와 모양을 갖는 것"이라고 상상하면 된다.

유클리드의 기하학은 공준이라고 불리는 다섯 개의 기본적 가정 위에서 건설되었다.

공준 I. 임의의 서로 다른 두 점 \(P\), \(Q\)에 대해 \(P\)와 \(Q\)를 지나는 직선 \(l\)이 유일하게 존재한다. 

이 공준은 "두 점이 한 직선을 유일하게 결정한다"고 표현하고 \(P,\,Q\)를 지나는 직선을 \(\overleftrightarrow{PQ}\)로 나타낸다. 

두 번째 공준을 서술하기 위해서 하나의 정의가 필요하다.

정의. 두 점 \(A,\,B\)가 주어질 때 선분(segment) \(AB\)는 그 원소가 두 점 \(A,\,B\)와 또한 직선 \(\overleftrightarrow{AB}\)위의 \(A\)와 \(B\) 사이에 있는 점들로 이루어진 집합이다. 이때 두 주어진 점 \(A,\,B\)를 선분 \(AB\)의 끝점(endpoints)이라고 한다.

공준 II. 임의의 두 선분 \(AB,\,CD\)에 대해 \(B\)가 \(A\)와 \(E\)사이에 있고 선분 \(CD\)가 선분 \(BE\)와 합동인 점 \(E\)가 유일하게 존재한다.

이 공준은 "임의의 선분 \(AB\)는 하나의 주어진 선분 \(CD\)와 합동인 선분 \(BE\)에 의해 연장될 수 있다"고 표현하고 \(CD\)와 \(BE\)가 합동이라는 사실을 \(CD\simeq BE\)로 나타낸다.

세 번째 공준을 서술하기 위해 또 하나의 정의가 필요하다.

정의. 두 점 \(O,\,A\)가 주어질 때 선분 \(OP\)가 선분 \(OA\)와 합동이 되는 모든 점 \(P\)의 집합을 중심(center)이 \(O\)인 원(circle)이라 하고 각각의 선분 \(OP\)들을 원의 반지름(radius)이라고 한다. 

\(OA\simeq OA\)이고 \(A\)도 위에서 정의된 원 위의 점이 된다. 

공준 III. 임의의 서로 다른 두 점 \(O,\,A\)에 대해 중심이 \(O\)이고 반지름이 \(OA\)인 원이 존재한다. 

정의: 반직선(ray) \(\overrightarrow{AB}\)는 직선 \(\overleftrightarrow{AB}\)위에 놓여 있는 다음과 같은 점들의 집합이다.

선분 \(AB\)에 속한 점들과 \(B\)가 \(A\)와 \(C\)사이에 있는 모든 점 \(C\)의 합집합.

반직선 \(\overrightarrow{AB}\)는 \(A\)로부터 방사되고 직선 \(\overleftrightarrow{AB}\)의 부분이라고 한다.

정의: \(\overrightarrow{AB}\)와 \(\overrightarrow{AC}\)가 한 점 \(A\)에서 방사된 서로 서로 다른 반직선이고 같은 직선 \(\overleftrightarrow{AB}=\overleftrightarrow{AC}\)의 부분이면 그들은 서로 반향(opposite)이라고 한다.

정의: "꼭짓점이 \(A\)인 각(angle with vertex \(A\))"은 점 \(A\)로부터 방사된 방향이 아닌 두 반직선 \(\overrightarrow{AB}\), \(\overrightarrow{AC}\)와 그 점 \(A\)를 한 조로 하는 집합이다. 이때 \(\overrightarrow{AB}\), \(\overrightarrow{AC}\)를 각의 변(side)이라고 한다.

이 각에 대해 \(\angle A\), \(\angle BAC\), \(\angle CAB\)로 나타낸다.

정의: 두 각 \(\angle BAD\)와 \(\angle CAD\)가 공통변 \(\overrightarrow{AD}\)를 갖고 또 다른 두 변 \(\overrightarrow{AB}\)와 \(\overrightarrow{AC}\)가 반향 반직선을 이루면 이 각들은 서로 보각(supplementary angles)이라고 한다. 

정의: 각 \(\angle BAD\)가 그의 보각과 합동이면 그것은 직각(right angle)이다.

이렇게 각의 크기에 대한 언급없이 단지 각의 합동에 대한 무정의 개념만을 사용해 직각을 정의했다. 

공준 IV: 모든 직각은 서로 합동이다.            

불필요한 어려움을 피하고 명확성을 위해 표현에 있어 약간의 변화를 주었다(예: "같다" 대신 "합동"이라고 한다). 

앞에서 언급한 유클리드의 네 가지 공준들은 수학자들이 쉽게 받아들였으나 다섯 번째 공준인 평행공준은 19세기까지 논쟁을 일으켰고, 이는 비 유클리드 기하학의 발전으로 이어진다. 여기서는 간단한 공준을 제시할 것이다(이 공준을 플레이페어(Playfair)의 공준이라고 한다). 여기서 다룰 공준은 유클리드 기하학과 또 다른 평행공준 위에서 건설된 다른 기하학과 구별하기 때문에  유클리드의 평행공준이라고 한다.

정의: 두 직선 \(l,\,m\)이 교차하지 않으면(어떠한 공유점도 갖지 않으면) 두 직선은 평행(parallel)이라고 한다. 

위 정의는 직선들이 동일한 평면 안에 있다고 가정했고(특별한 언급이 없는 한 관습적으로 모든 점과 직선들이 한 평면 위에 있는 것으로 약속한다), 위의 정의가 이 두 직선들이 등거리(두 직선 사이의 거리가 모든 곳에서 같다)가 아님에 유의해야 한다. 그래서 평행선을 그리는데 등거리인 것처럼 보이는 직선들을 오해해서는 안된다. 수학에서는 엄밀한 논의를 해야 하고 그래서 증명에서 명백히 서술된 가정 이외의 어떠한 가정을 끌어들이면 안되고, 여기에서 평행선은 등거리가 아니라는 결론으로 비약해서도 안된다. 

이러한 관점에서 평행선에 대해 확실히 알고 있는 유일한 점은 두 직선들이 서로 만나지 않는다는 것이다. 

유클리드의 평행공준: 한 직선 \(l\)과 \(l\)위에 있지 않은 한 점 \(P\)가 주어질 때 \(P\)를 지나서 \(l\)과 평행인 직선 \(m\)이 유일하게 존재한다.

이 다섯번째 공준이 논쟁을 야기시키는 이유는 기하학의 공리들을 경험에 의한 추출이라고 생각하면 이 공준과 다른 네 개의 공준 사이의 차이점을 알 수 있다. 처음의 두 공준은 직각자를 가지고 그려서 얻는 추출이고, 세 번째 공준은 컴파스, 네 번째 공준은 (덜 명백하지만) 각도기로 각을 측정할 수 있다. 

다섯 번째 공준은 선분만 그릴 수 있고 직선은 그릴 수가 없기 때문에 두 직선이 만나는지 안 만나는지를 경험적으로 증명할 수 없다는 점에서 앞의 공준들과 다르다. 이 두 직선들이 만나는지 안만나는지 알기 위해 선분을 연장할 수 있으나 무한히 연장하기는 어렵다. 그렇기 때문에 간접적으로 평행성을 증명한다.

이를 보이기 위해 유클리드는 다음과 같이 횡단선(서로 다른 점에서 \(l,\,m\)모두와 교차하는 직선 \(t\))을 그려 \(t\)의 한 쪽에서 만들어지는 내각 \(\alpha\)와 \(\beta\)의 크기를 측정하자고 제안했고, \(\alpha+\beta\)가 180도보다 작으면 그 직선들은 \(t\)에 대해 \(\alpha\)와 \(\beta\)와 같은 쪽에서 만날 것으로 예상했다.

평행성에 대한 이 판정법은 의미가 없는데 그 이유는 앞에서 다룬 유클리드의 평행공준과 논리적으로 동치이므로 이 판정법을 사용하게 된다면 순환논리에 빠지게 된다. 이런 문제 때문에 유클리드는 평행공준의 사용을 원론 1권의 29번째 명제의 증명에 이를 때까지 사용을 미루었다.

공리는 단순하고 직관적으로 명백한 것으로 간주되기 때문에 그 정당성을 의심할 수 없다. 그러나 평행공준은 증명되지 않는 가정으로서 자격을 주기에 불충분하다는 공격을 받아왔다. 초기에 앞서 다루었던 네 개의 공준으로부터 유도하려는 모든 시도(증명)는 항상 정당화되지 않는 숨겨진 가정을 내포하고 있었기 때문에 실패했다. 그리고 의미상으로 더욱 자명하다고 여겨진 대체공리들도 평행공준과 논리적으로 동치가 되어 아무런 결과를 얻지 못했다. 

다음은 르장드르(Legendre)의 평행공준을 증명하려는 시도 중 하나이다.

한 직선 \(l\)과 \(l\)위에 있지 않은 한 점 \(P\)가 주어졌다고 하자. \(Q\)를 \(P\)에서 \(l\)에 내린 수선의 발이라 하고 \(m\)을 \(P\)를 지나 \(\overleftrightarrow{PQ}\)와 수직인 직선이라고 하자. 그러면 \(l\)과 \(m\)이 공통수선 \(\overleftrightarrow{PQ}\)를 가지므로 \(m\)은 \(l\)과 평행이다. 또 \(n\)이 \(P\)를 지나서 \(m\), \(\overleftrightarrow{PQ}\)와 다른 직선이라고 하자. \(n\)과 \(l\)이 만남을 보여야 한다.

\(\overrightarrow{PR}\)이 \(n\)의 한 반직선으로서 \(P\)로부터 방사된 \(m\)의 한 반직선과 \(\overrightarrow{PQ}\)사이에 있는 것이라고 하자. 그러면 \(\overrightarrow{PQ}\)에 대해 \(R\)과 반대쪽에서 점 \(R'\)이 존재해서 \(\angle QPR'\simeq\angle QPR\)(합동)이다. 따라서 \(Q\)는 \(\angle RPR'\)의 내부에 놓여있다(\(Q\)는 반직선 \(\overrightarrow{PR'}\)과 \(\overrightarrow{PR}\)사이에 있다). 직선 \(l\)이 \(\angle RPR'\)의 내부에 있는 점 \(Q\)를 지나므로 \(l\)은 이 각의 변 중 하나와 교차해야만 한다. 만약 \(l\)이 변 \(\overrightarrow{PR}\)과 만나면 \(l\)은 \(n\)과 만난다. \(l\)이 점 \(A\)에서 변 \(\overrightarrow{PR'}\)과 만난다고 가정하고 \(B\)를 \(PA\simeq PB\)인 변 \(\overrightarrow{PR}\)위의 유일한 점이라고 하자. 그러면 \(\triangle PQA\simeq\triangle PQB\)이다(SAS합동). 그래서 \(\angle PQR\)은 직각이고 따라서 \(B\)는 \(l\)(그리고 \(n\))위에 놓여 있다. 

이 증명의 문제점은 우선 각 용어들을 정의하면서 각 단계를 정당화해야 한다. 그 예로 두 직선이 "수직"이라는 것이 무엇인지, SAS합동이 무엇인지 정당화해야 하고, 또한 각의 "내부"를 정의하고, 또 각의 내부를 지나는 직선은 그 각의 한 변과 교차한다는 것을 증명해야 한다. 이런 모든 것을 증명하는데 있어서 반드시 처음의 네 개의 공준만을 사용해야 하고 순환논리에 빠지지 않기 위해 다섯 번째 공준과 동치인 명제를 사용하면 안된다.    

따라서 르장드르의 논의의 결함을 발견하기 위해서는 여러가지 작업을 해야 한다.

참고자료:

Euclidean Geometry and Non-Euclidean Geometries 3rd edition, Greenberg, Freeman and Company