수학사 43-페르마와 데카르트의 시대(2)

수학사 43-페르마와 데카르트의 시대(2)

 

 

9. 법선과 접선
 데카르토는 고대 기하학에 대한 자신의 연구가 아이들의 초보적인 읽고 쓰기에 대한 키케로의 수사학의 구실만큼이나 중요하다고 생각했다. 우리 눈으로 본 데카르트의 잘못은 확정방정식에만 역점을 두고 부정방정식을 소홀히 한 점이었다.

 데카르트는 곡선의 성질(예: 넓이, 접선의 방향)은 미지량이 두개인 방정식이 주어지면 완전히 결정된다는 것을 알았으나 그 사실을 충분히 활용하지 않았다.

 데카르트는 곡선에 대한 법선(접선에 수직)/접선을 구하는 문제를 중요시했으나 '기하학'에서 발표한 방법은 페르마의
방법에 비하면 번거로운 것이었다.
 또 기하학 2권에는 '데카르트의 타원형 (달걀모양)'에 관한 문제가 많이 실려있다. 이것은 광학에서 중요한 곡선인데 실을 이용한 타원의 작도로 알려진 '정원사의 방법'의 일반화로 얻는다.
 점 \(F_{1},\,F_{2}\)에서 동점까지의 거리를 \(D_{1},\,D_{2}\), \(m,\,n\)은 양의 정수, \(K\)를 양의 상수라 하면 \(mD_{1}+nD_{2}=k\)인 \(P\)의 자취는 오늘날 데카르트의 타원형으로 알려져 있으나 데카르트는 이 방정식을 쓰지 않았다.
 기하학 3권, 곧 마지막 책은 1권의 주제인 방정식의 근의 작도 문제로 이어서 다룬다. 여기서 데카르트는 작도할 때 "우리는 항상 문제의 풀이에 이용할 수 있는 가장 간단한 곡선을 주의 깊게 선택해야 한다"고 경고하고 있다. 이것은 풀어야 할 방정식의 근의 성질을 충분히 알아야 한다는 것과 특히 그방정식이 가약인지 어떤지를 알아야 한다.
 마지막으로 데카르트는 기술한 여러 종류의 문제에 대해 각각 적용 가능한 가장 간단한 작도를 제시했다는 점을 독자들에게 다시 한번 강조하고 있다. 특히 각의 3등분과 정육면체 배적은 제2종의 문제에 속하고 그런 작도에는 원과 직선 이상의 것이 필요함을 지적한다.

10. 데카르트의 기하학적 개념
 데카르트의 해석기하학에 대해 말할 때 그의 생각이 오늘날 좌표계의 이용과 관련된 실용적인 사항과 얼마나 동떨어진 것이었는가를 명확하게 해둘 필요가 있다. 이런 점에서 오늘날 자주 이용하는 데카르트곱(Cartesian product)이라는 말도 시대착오적인 것이다. 데카르트의 기하학도 당시 비실용적 이론의 뛰어난 성과였다. 데카르트는 당시 가장 뛰어난 수학적 재능이 있었으나 실제로는 수학자가 아니었고 그의 기하학은 과학과 철학에 바친 삶에 견주면 한 때의 일에 지나지 않는다.

 

11. 페르마의자취
 데카르트의 경쟁자로 페르마가 있는데 그도 전문적인 수학자가 아닌 변호사로서 수학과 과학을 즐겼다. 1629년에 수학에서 중요한 발견을 하기 시작했고, 파푸스의 수작집성에 인용된 내용에서 아폴로니우스의 평면의 자취를 복원하는 일을 맡았다. 이 노력의 부산물로 1636년까지 해석기하학에 관한 기본원리를 발견했다.
 마지막으로 나오는 방정식에 미지량이 두개인 경우 우리는 직선이나 곡선인 자취를 얻는다. 이 심오한 명제는 데카르트의 '기하학'이 나타나기 한해 앞서 쓰였고, 페로마가 비에트의 해석을 아폴로니우스의 자취의 연구에 응용하면서 생긴 것으로 보인다.
 페르마는 먼저 비에트의 기호를 이용하여 일차방정식의 가장 간단한 형태- 지금 기호로는 \(Dx=By\)-를 그렸다. 이것은 원점을 지나는 직선이 아니고 원점에서 시작되는 반직선인데 페르마도 데카르트처럼 음의 좌표를 사용하지 않은데다가 일반적인 일차방정식 \(ax+by=c^{2}\)을 두 좌표축에 의해 잘린 1사분면의 선분으로 그렸다. 그리고 자신의 방법이 자취를 다루는데 뛰어나다는 것을 보이기 위해 새로운 방법으로 발견한 문제를 다음과 같이 발표했다.

 평면 위에 고정된 직선 몇 개가 주어질 때 한 점에서 주어진 선들에 각각 주어진 각도로 그어진 선분을 몇 배 한 것의 합이 일정하게 되는 점의 자취는 직선이다.

 위 명제는 선분이 그 좌표계에서 일차함수라는 사실과 모든 일차방정식이 직선을 나타낸다는 페르마의 명제에 관한 간단한 따름정리이다.
 다음으로 \(xy=k^{2}\)이 쌍곡선이고 \(xy+a^{2}=bx+cy\)형태의 방정식이 좌표축 평행이동으로 \(xy=k^{2}\)로 바꿀수
있음을 밝혔고, \(x^{2}=y^{2}\)를 직선/반직선 (1사분면만 생각), \(a^{2}\pm x^{2}=by\)는 포물선, \(x^{2}+y^{2}+2ax+2by^{2}=c^{2}\)는 원, \(a^{2}-x^{2}=ky^{2}\)는 타원, \(a^{2}+x^{2}=ky^{2}\)이 쌍곡선임을 밝혔다.
 그의 논문의 절정으로서 페르마는 다른 명제를 생각했다.

 고정된 직선 몇개가 주어질 때, 이 직선에 각각 주어진 각도로 그어진 선물의 길이를 제공한 것의 합이 일정하게 되는 점의 자취는 입체 자취(solid locus)이다.

 

 페르마는 '확정' 대수방정식의 근을 기하학적으로 작도하는 대신에 '부정'방정식의 해를 그리는데 역점을 두었다. 데카르트는 파푸스의 어려운 문제를 가지고 기하학을 세운 반면, 페르마는 '평면과 입체의 자취 입문'이라는 소논문에서 가장 단순한 자취에만 증명을 한정했다.

12. 고차원 해석기하학
 페르마의 소논문 '평면과 입체형의 자취 입문'은 페르마가 살아 있는 동안 출판되지 않아 많은 사람들은 해석기하학을 오로지 데카르트의 발명으로 생각했다. 페르마의 증명은 데카르트에 비해 체계적, 계몽적이고 그의 해석기하학이 어느 정도까지는 세로축을 가로에 대해 수적으로 잡는 현대 해석기하학에 더욱 가까웠기 때문이다. 또 데카르트처럼 페로마도 3차원 이상의 해석기하학의 존재를 깨달았다. 실제 삼차원의 기하학에서 실질적인 진전은 18세기가 되어서야 가능했다.

13. 페르마의 미분
 페르마는 일찍이 1627년에 그의 해석기하학에 도달했다고 생각되는데 자취의 연구와 관계 깊은 중요한 두 가지 발견을 했기 때문이다. 이들 가운데 더욱 중요한 발견은 2,3년뒤 '극대와 극소를 구하는 방법'이라는 논문에 기록되어 있으나 이 논문도 살아있는 동안에는 출판되지 않았다.
 페르마는 \(y=x^{n}\)형의 방정식으로 주어진 자취에 대해 연구했고, \(n\)이 양수이면 '페르마의 포물선', \(n\)이 음수이면 '페르마의 쌍곡선'이라고 한다.
 페르마는 \(y=f(x)\)형태의 다항식의 곡선에서 그 함수의 국내/국소점을 발견하는 방법에 주목했다. 그는 어떤 점에서 \(f(x)\)의 값과 그 근방의 점에서 \(f(x+E)\)의 값을 비교했다. 이 두 값은 다르나 매끄러운 곡선의 꼭대기(극대) 또는 맨 밑(극소)에서 이 두 값의 차이는 아주 작아 \(f(x)=f(x+E)\)로 놓았다. 두 점 사이의 간격 E가 작아질 수록 식 \(f(x)=f(x+E)\)는 참에 가까워진다. 그래서 페르마는 두 점 사이의 함숫값 간격 \(f(x+E)-f(x)\)를 \(E\)로 나눈 뒤, \(E=0\)이라고 해서 다항식의 극대점, 극소점 좌표를 얻었다. 본질적으로 이것은 오늘날 미분이라고 하는 과정이다.
 페르마의 방법은 식 \(\displaystyle\lim_{h\,\rightarrow\,0}{\frac{f(x+E)-f(x)}{E}}\)의 값을 구하여 0으로 놓는 것과 같다. 라플라스는 페르마로 해석기하학의 공동발전자이며 미분학의 발견자로서 칭송한다.
 페르마 극한의 개념을 갖지 않았으나. 극대, 국소의 방법은 기호의 사용 (\(E\) 대신 \(h\) 또는 \(\Delta x\))을 제외하면 현대 미분학의 방법과 아주 비슷하고, 이러한 페르마의 방법은 무한소 해석의 근본적 본으로 자리잡아 왔다.
 해석기하학을 전개하던 시기에 접선을 구하기 위해 페르마는 위의 과정을 \(y=f(x)\)형태의 대수곡선에 응용하는 방법도 발견했다.

 보기를 들어 왼쪽 곡선 \(y=f(x)\)위의 점 \(P(a,\,b)\)에서 접선을 구한다고 하자. 삼각형 \(TPQ\)와 \(TP'Q'\)는 닮음이므로 \(TQ=C\)라 하면 다음의 비를 얻는다.$$\frac{b}{c}=\frac{f(a+E)}{c+E}$$ 위 식의 양변에 분모를 모두 곱하고 \(b=f(a)\)인 사실을 이용해 \(c\)에 대해 풀고$$bc+bE=cf(a+E)\,\Rightarrow\,c\{f(a+E)-f(a)\}=bE\,\Rightarrow\,\frac{f(a+E)-f(a)}{E}=\frac{b}{c}$$ 마지막에 \(E=0\)으로 놓으면 \(c\)(접선영)를 구할 수 있다.
 페르마의 과정은 식 \(\displaystyle\lim_{E\,\rightarrow\,0}{\frac{f(a+E)-f(a)}{E}}\)이 \(x=a\)에서 곡선 \(y=f(x)\)의 기울기라는 사실을 말한다. 그러나 페르마는 이 과정을 충분히 설명하지 않았고 다만 극대/극소점을 구하는 방법과 비슷하다고 서술했다.
 데카르트는 페르마의 방법이 옳지 않다고 공격했고(메르센을 통해 알게됨), 페르마에 대한 도전으로 '데카르트의 엽선' 이라고 알려진 곡선 \(x^{3}+y^{3}=3axy\)를 제시했다. 결국 데카르트는 페르마의 접선 방법의 타당성을 인정했으나 페르마는 그가 받았어야 할 존경을 받지 못했다.

14. 페르마의 적분
 페르마는 1629년에 \(y=x^{m}\)형태의 곡선 아래의 넓이에 관한 정리-카발리에리가 1635년과 1647년에 출판한 정리- 도 발견했다. 이 넓이를 구할 때 페르마는 \(m\)이 임의의 양의 정수인 경우에 대한 결과를 이끌어내기 위해 다음의 부등식을 이용했다.$$1^{m}+2^{m}+3^{m}+\cdots+n^{m}>\frac{n^{m+1}}{m+1}>1^{m}+2^{m}+3^{m}+\cdots+(n-1)^{m}$$ 이 공식 자체도 카발리에리의 공식보다 발전된 공식인데 카발리에리는 \(m=1\)에서 \(m=9\)인 경우로 한정했기 때문이다. 이 방법은 \(m\)이 정수 일 때 뿐만이 아니라 분수 일 때도 쓸 수 있다.

 페르마는 \(y=x^{n}\)의 \(x=0\)에서 \(x=a\), \(x\)축 사이의 넓이를 구할 때 \(x=0\)에서 \(x=a\)까지의 구간에 점$$a,\,aE,\,aE^{2},\,aE^{3},\,...\,(0<E<1)$$을 차례로 잡아 무한히 많은 작은 구간으로 나누었다. 이것을 이용하여 직사각형의 합을 이용해 넓이를 근사적으로 계산했다. 이 직사각형들의 넓이는$$a^{n}(a-aE),\,a^{n}E^{n}(aE-aE^{2}),\,a^{n}E^{2n}(aE^{2}-aE^{3}),\,...$$으로 등비수열을 이루며 이들의 합은 다음과 같다.$$\frac{a^{n+1}(1-E)}{1-E^{n+1}}=\frac{a^{n+1}}{1+E+E^{2}+\cdots+E^{n}}$$ \(E\)가 1에 가까워지면 각 직사각형 넓이들의 합은 곡선 아래의  넓이에 가까워지고 \(E=1\)이라 하면 \(\displaystyle\frac{a^{n+1}}{n+1}\)이고 이 값은 \(x=0\)에서 \(x=a\)까지 \(y=x^{n}\)아래의 넓이이다.

 분수지수, 즉 \(\displaystyle n=\frac{p}{q}\)일 때도 성립함을 보이자. 이 경우$$a^{\frac{p+q}{q}}\left(\frac{1-E^{q}}{1-E^{p+q}}\right)=a^{\frac{p+q}{q}}\left(\frac{1+E+E^{2}+\cdots+E^{q-1}}{1+E+E^{2}+\cdots+E^{p+q+1}}\right)$$이고, \(E=1\)일 때 \(\displaystyle\frac{q}{p+q}a^{\frac{p+q}{q}}=\frac{a^{n+1}}{n+1}\)이 된다. 

 즉, \(\displaystyle\int_{0}^{a}{x^{n}dx}=\frac{a^{n+1}}{n+1}\)이고 \(\displaystyle\int_{a}^{b}{x^{n}dx}\)를 구하고 싶으면 다음의 식을 이용하면 된다.$$\int_{a}^{b}{x^{n}dx}=\int_{0}^{b}{x^{n}dx}-\int_{0}^{a}{x^{n}dx}$$ -1을 제외한 음의 정수 \(n\)에 대해서도 페르마는 비슷한 방법을 사용했다.
 다만 이 경우는 \(E>1\)로 택하여 1에 가까이 가져갔다. 그렇게 해서 얻은 넓이는 \(x=a\)에서 양의 무한대 까지의 구간에서 주어진 곡선 아래의 넓이, \(\displaystyle\int_{a}^{\infty}{x^{-n}dx}\)(\(n\)은 양의 정수)'에 해당된다. 따라서 \(\displaystyle\int_{a}^{b}{x^{-n}dx}\)를 구하고싶으면 다음의 식을 이용하면 된다.$$\int_{a}^{b}{x^{-n}dx}=\int_{a}^{\infty}{x^{-n}dx}-\int_{b}^{\infty}{x^{-n}dx}$$15. 성 빈센트의 그레고리
 \(n=-1\)인 경우 위에 언급한 과정은 실패했다. 그러나 페르마보다 나이가 많은 동시대 수학자 그레고리가 원과 원뿔곡선 제곱화에 관한 기하학적 연구'에서 이 경우를 해결했다.
 이 논문에서 그레고리는 \(x\)축을 따라 \(x=a\)에서 시작해 등비수열을 이루는 점들에서 쌍곡선 \(xy=1\)에 대하여 세로선을 세우면, 이웃한 세로선에 의해 나뉜 쌍곡선 아래의 넓이는 모두 같아지는 것을 보였다. 결국 가로좌표가 기하급수적으로 증가함에 따라 그 곡선 아래의 넓이는 산술적으로 증가하고 식$$\int_{a}^{b}{\frac{1}{x}dx}=\ln b-\ln a$$이 성립함을 알 수 있다. 그러나 불행히도 그레고리는 불가분량의 방법을 잘못 이용하여 원적 문제에 성공했다고 믿었는데 이 실수가 그의 명성을 떨어뜨렸다.
 페르마는 무한소 해석의 여러 분야인 접선, 넓이, 부피, 곡선의 길이, 중력의 중심에 관침이 있었다. \(y=kx^{n}\)의 접선을 구할 때 계속에 지수를 곱하고 지수의 차수를 하나 내리면 되고(\(y'=knx^{n-1}\)) 넓이를 구할 때는 지수의 차수를 올리고 그 차수로 나누면 됨을 알고 있었다\(\displaystyle\left(\int{x^{n}dx}=k\frac{x^{n+1}}{n+1}+C\right)\) 그러나 이 두 관계가 서로 역의 관계에 있다는 사실은 몰랐다. 연대순으로 보면 그의 연구중 적어도 양의 정수 \(n\)에 대해서는 적분이 미분보다 앞서고, 이것은 그레고리도 마찬가지였다(로그함수의 적분)

16. 수론
 페르마가 해석기하학과 무한소 해석에 이바지한 점은 그의 업적 중 단 두가지 측면 뿐이었다. 디오판투스의 '산술'은 16세기에 번역본이 몇 개 나왔으나 디오판투스의 성과가 실용가들에게는 비실용적이었고, 사색가들에게는 기계적이었으나 현대적 수론의 창시자 페르마에게는 상당히 매력적인 것이었다. 완전수와 친화수, 삼각수, 마방진, 피타고라스수, 합성수, 특히 소수에 관한 다채로운 내용이 그의 흥미를 끌었다. 그리고 페르마는 그의 정리 가운데 몇개를 무한강하법 (infinit descent)이라고 이름을 붙이고 증명했다. 이것은 일종의 역방향의 수학적 귀납법이고 페르마가 처음으로 사용했다.
 \(\sqrt{3}\)이 무리수임을 증명하는데 무한강하법을 이용했다.
먼저 \(\displaystyle\sqrt{3}=\frac{a_{1}}{b_{1}}\)(\(a_{1}>b_{1},\,a_{1},\,b_{1}\)은 양의 정수) 이라 하자, 식 \(\displaystyle\frac{1}{\sqrt{3}-1}=\frac{\sqrt{3}+1}{2}\)가 성립하므로 \(\displaystyle\sqrt{3}=\frac{a_{1}}{b_{1}}\)을 대입하면 식 \(\sqrt{3}=\frac{3b_{1}-a_{1}}{a_{1}-b_{1}}\)을 얻는다. 그리고 \(3b_{1}-a_{1}=a_{2}\), \(a_{1}-b_{1}=b_{2}\)라 하면, 부등식 \(\displaystyle\frac{3}{2}<\frac{a_{1}}{b_{1}}<2\)에 의해 \(a_{2},\,b_{2}\)는 각각 \(a_{1},\,b_{1}\)보다 작은 양의 정수이고 \(\displaystyle\sqrt{3}=\frac{a_{2}}{b_{2}}\)이 된다. 

 이 과정을 무한히 반복할 수 있고 그결과 \(\displaystyle\sqrt{3}=\frac{a_{n}}{b_{n}}\)을 만족하면서 감소하는 정수 an, bn의 무한감소수열을 얻을 수 있는데 이 사실은 최소의 양의 정수가 존재하지 않는다는 잘못된 결론을 이끈다. 따라서 \(\sqrt{3}\)이 정수의 몫 (유리수)이라는 전제는 틀린 것이다.
 이 무한강하법을 이용하여 페르마는 \(4n+1\)꼴의 모든 소수는 두 제곱수의 합으로 유일하게 나타낼수 있음을 증명할 수 있었다.

(역방향의 귀납적 관계를 이용하면 \(4n+1\)중 최소의 정수 5는 두 개의 제곱수의 합이 아니라는 틀린 결론이 나온다(\(5=1^{2}+2^{2}\)))

 다음으로 \(4n-1\)형태의 정수는 두 제곱수의 합이 될 수 없다는 사실과 2를 제외한 모든 소수는 \(4n+1\) 또는 \(4n-1\)의 형태 중 어느 하나가 된다는 사실은 쉽게 증명할 수 있으므로 페르마의 정리에 의해 소수는 두 제곱수의 합인 소수와 그렇지 않은 소수로 분류되는 것을 알 수 있다 (23은 그렇지 않고, \(29=2^{2}+5^{2}\))

 

17. 페르마의 정리
페르마는 무한강하법을 이용해 두 세제곱수의 합으로 분해 가능한 세제곱수는 존재하지 않음을 보였다. (\(x^{3}+y^{3}=z^{3}\)을 만족하는 양의 정수가, \(x,\,y,\,z\)는 존재하지 않는다) 이것을 더욱 발전시켜 '2보다 큰 점수 \(n\)에 대해 \(x^{n}+y^{n}=z^{n}\)이 되는 양의 정수 \(x,\,y,\,z\) 존재하지 않는다는 일반적 문제를 서술했다.
 이 정리는 페르마의 마지막 또는 대 정리로 알려졌으나 "여백이 좁아 증명을 쓸 수 없다"고만 써 놓았다. 이 정리는 영국의 앤드류 와일즈에 의해 증명되었고, 이 문제를 해결하려는 연구를 통해 3대 작도문제를 풀려는 노력이 가져다준 성과에 비해 뛰어난 수학적 성과를 얻었다.
 페르와의 시대보다 2000년 전 1보다큰 정수 \(n\)이 소수일 필요충분조건은 \(2^{n}-2\)가 \(n\)으로 나누어 떨어질 것이라는 중국의 가설이 있는데 충분조건(⇒)은 맞고, 필요조건 (\(\Leftarrow\))은 틀리다 (\(2^{341}-1\)은 341로 나누어 떨어지나 \(341=11\times31\))

 페르마의 '소정리'는 위의 충분조건을 일반화한 것이다. 즉 \(p\)가 소수이고 \(a\)와 \(p\)가 서로소일 때 \(a^{p-1}-1\)은 항상 \(p\)로 나누어 떨어진다는 정리이다. 다음으로 페로마는 \(n=0,\,1,\,2,\,3,\,4\)에서 귀납해 '페르마 수'라고 알려진 \(2^{2^{n}}+1\)형태의 수는 항상 소수라고 했으나 오일러가 \(2^{2^{5}}+1\)이 합성수임을 밝혔다.
페로마의 소정리의 증명은 라이프니츠의 원고에 담겼고, 1736년 오일러는 이 정리의 일반화된 정리를 증명했다