수학사 42-페르마와 데카르트의 시대(1)

수학사 42-페르마와 데카르트의 시대(1)

 

 

1. 이시대의 지도적 수학자들
 17세기 중반에 수학의 중심지가 된 곳은 프랑스였다. 대표적인 인물로 데카르트, 페르마였으나 이들과 같이 살았던 로베르발 데자르그, 파스칼도 중요한 공헌을 했다. 여기서는 이 다섯명에 대해 개개인 뿐만 아니라 집단적으로도 살펴보기로 한다.
 당시 수학에 관련된 전문적인 조직은 없었고, 이탈리아, 프랑스, 영국에는 미약하게 조직된 과학단체가 있었다. 예를 들면, 이탈리아에는 아카데미아 데이 린체이(Accademia dei Lincei, 갈릴레이가 이 단체에 소속되었다)와 아카데미아 델 치멘토 (Accademia del Cimeto), 프랑스의 카비네 뉴푸이 (Cabinet DuPuy), 영국의 인비저블 칼리지 (Invisible College)이다. 게다가 이 시대에 미니미트의 수도사 메르센은 데카르트와 페르마의 친구였고, 수학의 정보교환센터 역할을 했다.

2. 방법서설
데카르트는 귀족집안 출신으로 예수회 학교에서 클라비우스의 교과서로 교육받고, 법학 학위를 받았으나 법률에는 관심이 없었다. 그 이후 몇 년동안 여러 전쟁에 참가해 각지를 돌아다녔고, 그 사이에 여행과 연구를 했다. 그 과정 (여행과 연구)을 통해 데카르트는 '근대철학의 아버지'로서 변화된 과학적 세계관을 제시하고 새로운 수학 분야를 확립했다. 1637년에 나온 가장 유명한 논문 '모든 과학에서 이성을 바르게 이끄는 진리를 탐구하기 위한 방법서설'에서 철학적 연구를 위한 계획을 발표했다. 그중에서 그는 체계적 회의를 통해 명확하고 엄격한 개념에 도달하고 그 개념으로부터 타당한 결론을 많이 이끌어낼 수 있기를 희망했다. 과학에도 이 방법을 적용해 만물은 물질(외연)과 운동으로 설명할 수 있다는 가설에 도달했다.
 곧 그가 가정하는 온 우주는 정리하지 않고 계속 소용돌이치는 물질로 구성되어 있고, 따라서 모든 현상은 물질들이 부딪쳐 생겨나는 힘에 의해 기계적으로 설명된다는 것이었다.

3. 해석기하학의 창안
 데카르트의 철학과 과학은 과거와 단절하는데 거의 혁명적이었던 반면 수학은 이전의 전통과 관계가 깊었다. 수학은 과거가 누적되면서 진보하는 경향, 곧 내용이 덧붙여짐으로써 진보하고 부적절한 내용이 없어지는 반면 과학은 더 좋은 대체물이 발견되면 그것으로 대체함으로써 커다란 진보를 이루었다. 실제로 데카르트의 해석기하학은 과거로 돌아가려는 시도에서 시작되었다.
 바바리아군과 함께 지냈던 1819년에 데카르트는 수학에 흥미를 느껴 오일러 공식으로 알려진 다면체공식 \(v+f=e+2\)(v,f,e는 각각 단순다면체의 꼭짓점, 면, 변의수)를 발견했고, 7년 뒤인 1628년에는 네덜란드에 있는 친구에게 산술과 기하학에서 더 이상 바랄것이 없을 정도로 발전 (무엇을 말하는지는 알 수 없다)을 이루었다는 편지를 내용과 임의의 3,4차방정식의 근을 포물선을 이용해 작도하기 위한 규칙이 적힌 편지를 썼다.. 데카르트가 1628년까지 해석기하학을 완성했는지 불명확하나 그의 기하학이 실제로 이용된 시기가 그보다 훨씬 뒤였다고는 생각되지 않는다. 

 그해 (1628년)에 데카르트는 네덜란드로 이주했고, 네덜란드인 친구에게 파푸스의 3,4개 직선의 자취에 관한 문제를 알게 되었다. 데카르트는 고대인이 이 문제를 못한 것으로 잘못알고 자신의 새로운 방법을 이용하여 쉽게 푸는데 성공했다. 이 성과가 일반성이 있음을 알고 유명한 논문 '기하학'을 완성했고, 이 본문으로 사람들은 해석기하학을 알게되었다.

 

4. 기하학의 산술화
 기하학 논문은 독립된 논문으로서가 아닌 그의 철학적 방법 전반을 설명하기 위해 쓰여진 '방법서설'의 세 부록 중 하나였다. 다른 두 부록은 굴절법칙(스넬이 이미 발견)을 포함하는 '굴절광학'과 무지개에 대한 설명을 포함하는 '기상학' 이었다.   데카르트의 추진들은 이후의 방법서설 판에서 자주 이 부록들을 빠뜨렸다.
 데카르트의 기하학은 지금의 해석기하학과 같은 말이지만, 데카르트의 기본적인 목표는 현대 교과서의 목표와 꽤 동떨어진 것이었다. 그 주제는 다음과 같이 서문에 씌여 있다.

 모든 기하문제는 선의 길이를 가지고 문제상황을 작도하는 것으로 쉽게 바꿀 수 있다.

 위 문장대로 목표는 기하학적 작도이지 기하학을 대수로 환원하는 것은 아니었다. 데카르트의 기하학의 첫 부분은 '산술계산을 기하학적 연산과 관련짓는 방법'이라는 제목이 붙어 있고, 두 번째 부분에는 '어떻게 곱셈, 나눗셈, 제곱근 계산을 기하학적으로 하는가'에 대해 쓰여 있다. 곧 자와 컴파스로 다섯개의 산술연산을 간단히 작도하는 것으로 대수적 조건을 기하학적으로 바꿀수 있음을 밝혔다.
 기하학은 대수를 배우는 현대 학생들이 기호에 어려움을 겪지 않고 읽을 수 있는 최초의 수학교과서이다. 여기서 등호는 \(=\) 대신 \(\propto\)(좌우반전)으로 사용되었고, 기지량은 \(a,\,b,\,c,\,...\) 미지량은 \(x,\,y,\,z,\,...\)로 나타냈으며 또한 지수표현을 쓰고 독일 기초의 \(+,\,-\)도시용했다.
 여기서 중요한 관점의 차이가 하나 있다. 우리는 기지량과 미지량을 수로 보고 있으나 데카르트는 이것들을
모두 선분으로 간주했다.
 이것은 데카르트가 형식상의 동차성을 사고의 동차성으로 바꿨다는 점을 알 수 있고, 이점은 그의 기하학적 대수를 더욱 융통성 있게 했다. 그래서 오늘날 정사각형을 머리에 떠올리지 않고도 \(xx\)를 '\(x\)의 제곱이라고 읽는다. 

5. 기하학적 대수
 기하학 1권에는 이차방정식의 풀이법에 관한 상세한 설명이 있고, 어느정도 고대 그리스적인 기하학적 감각으로 쓰여졌다. 예를 들면 방정식 \(z^{2}=az+b^{2}\)다음과 같이 푼다.

 먼저 길이 \(ㅠb\)인 선분 \(LM\)을 긋는다. 다음에 점 \(L\)에서 길이가 쓸이고 \(\displaystyle\frac{a}{2}\)이고 \(LM\)에 수직인 선분 \(LN\)을 세운다. 그리고 \(N\)을 중심으로 반기름이 \(\displaystyle\frac{a}{2}\)인 원을 그리고, \(M,\,N\)을 지나는 직선을 그어 원과 만나는 점을 \(O,\,P\)라 하면$$z=OM=\frac{a}{2}+\sqrt{\frac{1}{2}a^{2}+b^{2}}$$이 구하고자 하는 선분이다. \(z^{2}=az-b^{2}\)와 \(z^{2}+az=b^{2}\)꼴 중 양의 글을 갖는 방정식에 대해서도 위와같은 작도를 했다. 데카르트는 기하문제의 해결에 대수를 응용하는 일로 넘어가 그에 대한 일반적 방법을 대수학자보다 더 명확히 확립했다.

 임의의 문제를 풀 때, 해를 이미 얻었다고 가정하고 해의 작도에 필요하다고 생각하는 모든 성분에 이미 알고 있는 선분 뿐만 아니라 모르는 선분에도 이름을 붙인다. 그리고 아는 선분과 모르는 성분 사이에 구별을 하지 않은 채 이 선분들 사이의 관계가 자연스럽게 나타나게끔 어떤 방식으로든 하나의 양을 두 가지로 표현한다. 그렇게 해서 얻은 두식은 서로 같기 때문에 우리는 하나의 미지량이 들어있는 방정식을 얻는다.
 기하학의 1, 3권을 통해 데카르트는 주로 이런 종류의 기하학적 문제를 다루었다. 여기에서 마지막으로 얻은 대수방정식에 포함되는 미지량은 오직 하나이다. 데카르트는 이 방정식의 차수가 문제를 해결할 기하학적 작도의 방법을 결정한다는 점을 잘 알고 있었다.
 어떤 문제가 보통의 기하학으로 풀 수 있다면 곧 평면 위에 그려진 직선과 원만 써서 풀 수 있다면 최종적으로 얻는 방정식은 기껏해야 미지량의 제곱에, 미지량에 어떤 기지량을 곱한 것과 또다른 기지량을 더하거나 뻔 형태 (\(x^{2}+ax+b=0\)의 형태)가 된다.
 여기서 그리스인의 평면문제는 이차방정식일 뿐이라는 명확한 기준을 볼 수 있다. 한편 비에트가 정육면체의 배적과 각의 삼등분은 삼차방정식이 된다고 한 것으로부터, 데카르트는 충분한 증명 없이 원적 문제를 제외한 두 문제(배적,각의 삼등분)는 자와 컴파스 만으로 풀 수 없다고 주장했다.
 기하학 논문은 단순히 기하학만을 다룬 것이 아니다. 부록에있던 방법서설에서 데카르트는 대수와 기하학을 견주어 그것들의 상대적 이점을 논했다.
 후자(기하학)는 도형에 너무의존해 상상력을 소모한다고 비판했고, 전자(대수학)는 정신을 혼란하게 하는 난잡하고 모호한 기법이라고 비판했다.
 따라서 데카르트의 방법의 목적은 (1) 대수적 절차를 통해 도형을 사용하는 것에서 기하학을 해방시키는것, (2) 기하학적 해석을 통해 대수연산에 의미를 주는 것 이었다.
 따라서 기하학에서 그의 절차는 먼저 기하학적 문제에서 시작해, 이를 대수방정식의 용어로 바꾸고, 이차방정식에 대해서 한 것처럼 방정식을 가능한 한 간단하게 한 다음 기하학적으로 주는 것이었다. 그리고 이차방정식일 경우 직선과 원으로 충분하고, 3,4차 방정식에 관해서는 원뿔곡선을 사용한다. 

 

6. 곡선의 분류
 데카르트는 세계, 배재의 선에 관한 자취 문제를 다루면서 이 문제를 일반화하기로 했다. 직선의 수가 6, 8 또는 그 이상일 때 파푸스가 그 자취에 대해 설명할 수 없었다는 것을 알고 데카르트는 그 경우에 대해 연구했다. 직선이 5, 6개인경우 자취는 3차식, 7, 8개인 경우는 4차식, - 이렇다는 사실을 알았다. 여기서 데카르트는 이자취의 모양에 관심이 없었고, 주어진 가로, 세로 좌표를 기하학적으로 작도하기 위한 효과적인 방법을 찾는 데만 매달렸다.
 예를 들어 5개의 선에 대하여 이들 직선이 모두 평행한 경우가 아니라면 주어진 \(x\)값에 대해 \(y\)값을 나타내는 선이 자와 컴퍼스만으로 작도할 수 있으므로 이 경우 자취는 초보적인 것이라고 주장했다.

 

위 왼쪽 그림의 상황에서 파푸스 문제의 비례상수를 상수 \(a\)로 같게 취한다면, 그 자취는 \((a+x)(a-x)(2a-x)=axy\)가 된다. (이식은 데카르트의 포물선 또는 삼지창(trident)이라고 불리는 삼차식 \(x^{3}-2ax^{2}-a^{2}x+2a^{3}=axy\)이다.)
 이 곡선은 기하학의 여러 곳에 나타나나 어느 곳에도 완전한 그림은 나오지 않는다. 이 곡선은 (1) 파푸스의 자취로서 곡선 방정식 유도하기 (2) 더욱 낮은 차수의 곡선이 운동에 의해 이 곡선이 만들어지는 것을 보이기 (3) 더 높은 차수의 방정식의 근을 작도하기 위해 이 곡선을 차례로 사용하는 것이었다.
 데카르트는 \(x,\,y\)좌표를 자와 컴파스 만으로 작도 가능한 삼차곡선도 평면도형의 방법만으로 작도 가능하다고 생각했으나 파푸스의 문제에서 다섯 개 이상의 직선에 관한 자취에 대해 일반적으로 불가능한 것이다. 작도에 일반적으로 원뿔곡선을 초월한 곡선이 필요하나, 데카르트는 이 문제를 중요시여겼고, 기하학의 작도가능성 문제에서 그리스인을 뛰어넘는 중요한 진보를 이루었다.
 데카르트는 곧이어 기하문제의 분류에 착수했다. 이차방정식으로 유도되는 문제, 곧 직선과 원으로 작도 가능한 문제를 제1 종의 문제, 근이 원뿔곡선을 이용해 작도 가능한 삼/사차방정식이 되는 문제를 제2종의 문제, 더 높은 차수 \(y=x^{3}\), 삼지창과 같은 삼차곡선을 도입해 작도할 수 있는 5/6차 방정식이 되는 문제를 제3종의 문제 라고 이름 붙였다. 이 규칙대로라면 \(2n\) 또는 \(2n-1\)차 방정식의 근의 작도는 제 \(n\)종의 문제라는 가정을 세울 수 있고, 데카르트도 그랬으나 대수의 소거이론에서 \(n\)차곡선은 \(n\)차, \(2n\)차 뿐만 아니라 \(n^{2}\)차 방정식을 풀 수 있음이 밝혀져서 데카르트의 분류는 타당성을 잃었다. 그러나 자와 컴파스만을 이용해야 한다는 작도의 원칙을 완화할 수 있었고, 그 결과로서 보다 높은 차수의 평면곡선을 작도에 이용하게 되었다.

7. 곡선의 길이
 데카르트의 기하학 문제의 분류는 파푸스가 '일차원'으로 한데 묶어 생각했던 모든 문제가 아니라 그 일부 떴다는 것에 주의할 필요가 있다. 4차를 넘는 기하학적 작도에 필요한 새로운 곡선의 도입에서 데카르트는 기존의 기하학 공리에 또하나의 공지를 추가했다.
 두 개 또는 그 이상의 선(또는 곡선)은 하나가 다른 것 위에서 움직일 수 있다. 이때 이들의 교점으로부터 또다른 곡선이 생겨난다.
 (위 공리 자체는 그리스인이 원적선(quadratria), 시소이드(Cissoid), 나선과 같은 곡선은 운동학적으로 만들어낼 때에 실제로 했던 것이다. 그러나 데카르트는 시소이드, 콘코이드(대수적 곡선/기하학적 곡선)를 하나로, 원자력, 나선(초월곡선/기계적 곡선)을 다른 하나로 구분했다. 데카르트는 추론의 정확성에 토대를 두고 대수적 곡선을 정확하게 그려진 곡선, 초월곡선을 '정확하지 않게' 그려진 곡선이라고 생각했다. 
 (원적선과 나선을 만드는 운동의 상호관계는 원의 지름에 대한 원둘레의 비로 나타난다.)
 이 사실에 관해 데카르토는 기하학에서 다음과 같이 기록했다.

 기하학은 곧다가 휘어지기도 하는 실과 같은 선(또는 선분)을 포함하지 않는다. 왜냐하면 직선과 곡선의 비는 모르고 또 그런 비는 인간의 지적 능력으로는 알수 없기 때문이다. 따라서 그런 비에 바탕을 둔 결론은 엄밀하고 정확한 것으로 받아들여질수 없다

 

 여기서 데카르트는 아리스토텔레스가 시사하고 아베로에스가 단언한 "어떤 대수적 곡선도 그 길이를 정확히 구할 수 없다"는 정설을 단순히 되풀이하고 있다.

 '기하학'이 출판된 1638년에 데카르트는 어떤 기계적 곡선을 발견하는데 훗날 길이를 구할 수 있음이 밝혀졌다.
 '신과학대화'에 발표된 회전하는 지구 위로 물체가 떨어졌을 때의 낙하경로를 데카르트는 등각나선/로그나선 \(r=ae^{b\theta}\)로 생각했다. 토리첼리는 아르키메데스, 갈릴레이, 카발리에리에게 배운 무한소의 방법으로 로그나선이 원점 \(O\)를 중심으로 시계와 반대방향으로 돌때 \(\theta=0\)부터의 길이는 \(\theta=0\)인 점에서 그은 접선 \(PT\)의 길이와 같다는 것을 증명했다. 이 성과는 대수적 곡선의 길이를 구할 수 없다는 데카르트 학설을 논박하지는 못했다 (곡선의 일부 길이만 구한 것이므로). 사실 데카르트는 그 곡선이 기계적이기 때문에 정확히 결정되지 않을 뿐더러 그 곡선의 호가 극에 가까이가되 결코 극에 도달하지 않는다고 주장할 수 있었다.

8. 곡선의 구별
 '기하학'은 사실상 대수를 기하학에 또는 기하학을 대수에 응용하는데 몰두하나 오늘날 해석기하학과 비슷한 점은 거의 없다. 직교좌표계에 관한 체계적인 것은 아무것도 없었다. 해석기하학의 기본원리 - 두 미지량을 갖는 부정방정식은 지휘에 대응한다는 발견-는 제 2권에서 나타났고, 부수적으로 다루었다.
 자취 문제를 푼다는 것은 결정조건이 딱 하나 부족한 점 (Point)을 발견하는 것과 같다. 보통 그런 경우 두개의 미지량을 갖는 방정식이 하나 나온다.
 데카르트가 자취를 상세하게 조사한 유일한 경우는 파푸스의 3/4선의자취문제와 관련된 것이었다. 이로부터 데카르트는 방정식 \(y^{2}=ay-bxy+cx-dx^{3}\)를 유도했고, 이 식은 원점을 지나는 일반적인 원뿔곡선 방정식이다. 계수를 양수로 제한해도 이것은 원뿔곡선의 해석에 대해 그 전에 없었던 훨씬 포괄적인 접근이었다. 데카르트는 이 방정식이 직선, 포물선, 타원, 쌍곡선이 되기 위한 계수의 조건을 지적했는데 이것은 어떤 의미에서 보면 원불꽃선식의 특성을 아는 것이기도 했다.
 표준형을 제시하지 않고 결론 부분에서 독자에게서 발견의 즐거움을 뺏지 않기 위해 말하지 않았다는 모순된 주장으로 불충분한 점을 변명했다. 또한 그(데카르트)는 타인의 어려움에 대해 생각하지 못했고, 그 결과 기하학은 17세기에 팔리는 수가 줄었다.
 설명이 부족하나 기하학 2권은 현대적 해석기하학의 관점에 가장 가깝고 입체 해석기하학의 기본원리에 대한 내용을 찾을 수 있다.
어떤 점을 결정하는데 조건이 두개 부족하면, 그점의 자취는 곡면이다. 그러나 데카르트는 그런 방정식의 예를 제시하지 않았으며 3차원 해석기하학에 관한  힌트를 더 확장하지도 않았다.

 

참고자료:       
수학의 역사-상, (칼 B 보이어, 유타 C 메르츠바흐 지음), 양영오, 조윤동 옮김