수학사 39-근대수학의 서막(1)

수학사 39-근대수학의 서막(1)

 

 

1. 프랑수아 비에트

 

 1575년 서유럽에는 오늘날까지 남아있는 고대의 중요한 수학책들이 대부분 복원되었다. 고대, 중세, 르네상스의 업적을 뛰어넘는 급속한 진보의 시기가 서서히 무르익고 있었다. 이 변화에 가장 중심적이고 위대한 역할을 한 인물은 프랑스 출신 비에트였다. 

 비에트는 법률가였으나 산술에서 60진 소수 대신 10진 소수를 제창했고, 소수점을 사용했다. 그는 지름이 200,000인 원에 내접, 외접하는 정사각형의 한 변을 각각 \(141,421^{\underline{356,24}}\)와 \(200,000^{\underline{000,00}}\)로, 그 평균은 \(177,245^{\underline{385,09}}\)로 썼다. 원둘레는 \(314.159^{\frac{265,35}{1,000,000}}\)로 표기하고 그 뒤에는 \(\mathbf{314,159},265,36\)로 정수부분을 굵게 쓰거나 세로선을 이용하여 \(314,159|265,36\)으로 썼다. 

 소수점은 20년 뒤에 네이피어가 사용할 때, 그때부터 널리 쓰이기 시작했다.

 

2. 표현 양식의 발달

 

 비에크가 가장 큰 공헌을 한 것은 대수학이고, 여기서 그는 근대적 사고에 가장 근접했다. 수학은 추론의 형식이지 디오판투스의 대수와 같은 비법의 모음이 아니다. 그러나 아라비아와 근대의 초반을 거치면서도 대수학은 아직까지 특별한 경우(방정식의 미지수)들만 다루는 데 정신이 팔려서 오랜 기간동안 이론적으로 진전이 거의 없었으나 미지수와 그 거듭제곱, 연산과 상등관계에 대한 표현양식에서는 진전이 있었다.

 기하학자라면 그림을 그리고 '삼각형 ABC'라 하여 모든 삼각형을 대표할 수 있었으나 대수학자에게는 모든 이차/삼차방정식을 대표하는 것은 없었다. 유클리드 이후 문자는 미지, 기지의 수량을 나타내기 위해 사용되었으나 기지량과 미지량을 구분하는 방법이 없었다. 비에트는 미지량이 모음문자, 기지량에 자음문자를 이용하여 대수학에서 처음으로 기지량과 미지량 사이에 명확한 구별이 생겼다.

 

3. 해석술

 

 비에트가 당시 이미 있었던 다른 기호를 채택했다면 모든 이차방정식을 \(BA^{2}+CA+D=0\)으로 나타낼 수 있다. 여기서 \(A\)는 미지수, \(B,\,C,\,D\)는 상수이다. 그러나 불행히도 그는 몇몇 경우에만 근대적이었고, 그밖에는 여전히 고대적, 중세적이었다(예를들어 미지량의 세제곱을 A cubes, 제곱을 A quadratus로 나타냈다).

 비에트는 대수(algebra)라는 말을 싫어했고, 미지량을 포함한 문제는 파푸스와 다른 고대 사람들이 '분석'이라고 부르는 절차를 따름녀 거의 해결된다는 점에 주목했다. 

 

예: \(x^{2}-3x+2=0\)을 인수분해 해서 \((x-1)(x-2)=0\)으로 나타낼 수 있고, \(x-2=0\) 또는 \(x-1=0\)이고 따라서 이 이차방정식의 해는 \(x=1\) 또는 \(x=2\)이다.

 

 그러나 해가 있다는 전제가 미리 증명된 것은 아니므로 위의 추론과정은 거슬러 올라가 수를 대입하지 않고는 두 수 가운데 한쪽 또는 양쪽이 방정식을 만족한다고 할 수 없다. 곧 분석 뒤에는 종합적인 증명이 이루어져야 한다. 대수학에서 위의 형식이 상당히 자주 사용된다는 사실에서 비에트는 대수학을 해석술이라 불렀다. 더 나아가 미지량이 특정 숫자나 기하학적 선분일 필요가 없다는 것을 깨닫고 대수학의 넓은 영역을 분명하게 인식했다.

 

 4. 근과 계수의 관계

 

 비에트의 대수학에서 기발한 면은 삼차방정식의 풀이에 새로운 접근 방법을 제시했다는 것이다. 일반 삼차방정식을 \(x^{3}+3ax=b\)꼴로 고치고(임의의 삼차방정식을 이 꼴로 고칠 수 있다), \(y^{2}=xy=a\), 곧 \(\displaystyle x=\frac{a}{y}-y\)를 만족하는 새로운 미지량 \(y\)를 도입했다. 또 그는 방정식의 근과 계수 사이의 몇 가지 관계를 알아냈으나 음의 계수, 음의 근을 생각하지 못해서 더 나아가지 못했다.

 지라르의 '대수학의 새발견'에는 일반적인 근과 계수의 관계가 실려있다. 지라르는 비에트와 달리 음의 근과 허근도 인정했다. 음의 근이 양의 근의 반대방향에 있다고 생각했는데 이것은 수직선 개념에 앞서는 것이다.

 지라르는 "기하학에서 음수는 후퇴를, 양수는 전진을 나타낸다"고 했고, 음의 근과 허근을 허용한 이유는 법칙에 모순을 가져오지 않는다는 이유에서였다. 또한 방정식은 그 차수만큼의 근을 갖는다는 것을 알았다.

 

5. 토마스 해리엇과 윌리엄 오트레드

 

 해리엇은 근과 계수, 근과 인수와의 관계를 알고 있었으나 비에트처럼 음의 근과 허근에는 주의를 기울이지 않았고, 이것은 방정식 연구에 장애가 되었다. 그러나 대소관계를 나타내는 부등호 \(<\,>\)를 도입했다.

 해리엇은 '해석술 연습'을 출판하려 했으나 엘리자베스 1세 말기의 정치분쟁으로 사망한 지 10년 후인 1631년에 출판되었다.

 1631년 오트레드는 '수학의 열쇠'를 출판했는데 여기에서 사용된 거듭제곱 기호는 비에트보다 한 걸음 더 후퇴했다. 해리엇이 AAAAAAA로 표기한 것을 오트레드는 Aqqc(A의 제곱 곱하기 제곱 곱하기 세제곱)로 표현했다. 오트레드의 기호 중 현재까지 널리 이용되는 것은 오직 하나, 곱셈기호 \(\times\)뿐이다.

 비에트 방정식의 동차성은 그의 사고가 항상 기하학에 가까웠음을 나타낸다. 그의 기하학은 고대의 아폴로니우스와 파푸스에 견줄 만한 높은 수준의 기하학이었다. 비에트는 기본적인 대수 연산을 기하학적으로 해석하면서 자와 컴파스로 제곱근을 작도할 수 있다는 것을 알았고, 두 양 사이에 등비중항을 두 개 넣을 수 있다면 세제곱근을 작도할 수 있고, 더 나아가 삼차방정식의 기하학적 풀이도 가능했다. 비에트가 부정방정식의 기하학적 연구를 회피하지 않았다면 해석기하학을 발견할 수도 있었다.

 

6. 호너법

 여러 측면에서 비에트의 업적은 과소평가 되었으나 한 가지는 과대평가되었다. 그의 말년의 저술 '방정식의 수학적 해법'에서 비에트는 방정식의 근사해를 구하는 방법을 제시했는데, 이것은 호너법과 사실상 같다.

 \(x^{2}+7x=60750\)을 풀기 위해 \(x_{1}=200\)(첫 번째 근삿값)을, 구했다. \(x=200+x_{2}\)를 대입해 \(x_{2}^{2}+407x_{2}=19350\)을 얻고, 이 방정식에서 두 번째 근삿값 \(x_{2}=40\)을 구하고 \(x_{2}=40+x_{3}\)을 대입해 \(x_{3}^{3}+487x_{3}=1470\)을 얻는다. 

 이 식의 양의 근은 \(x_{3}=3\)이므로 \(x_{2}=43\)이고 따라서 \(x=243\)을 얻는다.

 이차방정식은 완전제곱꼴로 만들어 풀 수 있으나 \(x^{6}+6000x=191246976\)도 같은 방법으로 풀었다. 곧, 이 방법의 이점은 하나의 실근을 갖는 어떤 실계수 다항방정식에도 사용할 수 있다는 점이다.

 

7. 삼각법과 합과 차의 법칙

 

 비에트가 문자를 사용하는 대수학의 실제 창시자였던 것과 마찬가지로 각도 측정법이라고 알려진 삼각법에 대한 일반적인 해석적 접근의 이바지라고 할 수 있다. 그의 저서 '수학 요람'에서 비에트는 6가지의 삼각하뭇에 대해 각을 최대한 잘게 나누어 상세하게 계산한 광범위한 표를 만들었고, 사인, 코사인 표에서 빗변을 100,000으로, 탄젠트, 코탄젠트, 시컨트, 코시컨트 표에서는 밑변과 높이를 100,000으로 잡았다.

 비에트는 수학 요람에서 이등변이 아닌 삼각형을 풀 때 직각삼각형으로 쪼개어 풀고 있고, 2~3년 뒤 '기하학에 대한 회답'에서 오늘날 탄젠트 법칙에 해당하는 다음의 공식을 싣고 있다.$$\frac{\frac{a+b}{2}}{\frac{a-b}{2}}=\frac{\tan\frac{A+B}{2}}{\tan\frac{A-B}{2}}$$ 비에트는 이 관계식을 사용한 최초의 인물로 여겨지나 최초로 인식한 것은 알려지지 않은 수학자 핑크(Finek)가 1583년에 출판한 '원형 기하학'이다.

 이 무렵 온갖 종류의 공식들이 유럽 전역에서 나오면서 삼각형의 풀이보다 삼각함수 사이들 사이의 관계에 중점이 두어졌다. 그 가운데는 합과 차의 법칙이라는 함수의 곱을 합과 차로 바꾸는 공식이 포함되어있다. 비에트는 다음 그림으로부터

 다음의 공식을 유도했다.$$\sin x+\sin y=2\sin\frac{x+y}{2}\cos\frac{x-y}{2}$$ \(\sin x=AB\), \(\sin y=CD\)라 하면 다음을 얻는다.$$\sin x+\sin y=AB+CD=AE=AC\cos\frac{x-y}{2}=2\sin\frac{x+y}{2}\cos\frac{x-y}{2}$$ 그리고 \(\displaystyle\frac{x+y}{2}=A\), \(\displaystyle\frac{x-y}{2}=B\)라 하면 다음의 식을 얻고,$$\sin(A+B)+\sin(A-B)=2\sin A\cos B$$ 또 각 \(x,\,y\)를 반지름 \(OD\)에 대해 같은 쪽으로 놓으면 다음의 공식을 얻는다.$$\sin(A+B)-\sin(A-B)=2\cos A\sin B$$ 공식$$\begin{align*}2\cos A\cos B&=\cos(A+B)+\cos(A-B)\\2\sin A\sin B&=\cos(A+B)-\cos(A-B)\end{align*}$$도 같은 방법으로 얻을 수 있다. 위 공식들을 '베르너 공식'이라고 하는데 베르너가 천문학에 주로 사용해서 그런 것으로 보인다.

 비에트가 삼각법을 각도측정법으로 일반화한 가장 두드러진 것은 배각공식이다. 사인, 코사인에 대한 배각공식은 톨레미도 알고 있었고, 톨레미의 공식을 반복하면 \(\sin nx\), \(\cos nx\)에 대한 공식도 유도할 수 있으나 엄청난 수고를 필요로 했다. 그래서 비에트는 직각삼각형과 다음의 항등식$$\begin{align*}(a^{2}+b^{2})(c^{2}+d^{2})&=(ad+bc)^{2}+(bd-ac)^{2}\\&=(ad-bc)^{2}+(bd+ac)^{2}\end{align*}$$을 이용하여 다음의 식을 얻었다.$$\begin{align*}\cos nx&=\cos^{n}x-\frac{n(n-1)}{1\cdot2}\cos^{n-2}x\sin^{2}x+\frac{n(n-1)(n-2)(n-3)}{1\cdot2\cdot3\cdot4}\cos^{n-4}x\sin^{4}x-\cdots\\ \sin nx&=n\cos^{n-1}x\sin x-\frac{n(n-1)(n-2)}{1\cdot2\cdot3}\cos^{n-3}x\sin^{3}x+\cdots\end{align*}$$ 위의 두 식에서 보면 각 항은 부호가 번갈아 바뀌고 계수를 보면 파스칼의 삼각형에 있는 \(n\)번째 행의 값이 두 식의 양쪽에 걸쳐 교대로 나타난다. 삼각법과 수론 사이의 놀라운 연결이다.

 

8. 삼각법에 의한 방정식의 풀이법

 

 비에트는 또한 자신이 구한 공식과 삼차방정식의 근 사이의 관계에 주목했다. 이미 벽(기약 삼차방정식)에 부딪혔던 대수학에 삼각법이 도움이 될 수 있다고 생각했다. 이 생각은 각의 삼등분 문제에서 삼차방정식이 유도되는 것을 알았기 때문이다. 방정식 \(x^{3}+3px+q=0\)에 \(mx=y\)를 대입하면 \(y^{3}+3m^{2}py+m^{3}q=0\)을 얻는다. 이 식을 3배각 공식$$\cos^{3}\theta-\frac{3}{4}\cos\theta-\frac{1}{4}\cos3\theta=0$$과 비교하여 \(y=\cos\theta\), \(\displaystyle 3m^{2}p=-\frac{3}{4}\)이라 하면 \(\displaystyle-\frac{1}{4}\cos3\theta=m^{3}q\)임을 알 수 있다. 이와 같이 삼각법을 이용하여 기약 삼차방정식을 푸는 비에트의 방법은 뒤에 지라르가 저술한 1629년의 저술 '대수학의 세 발견'에서 자세히 설명하고 있다.

 루멘 또는 로마누스라는 벨기에의 수학자가 45차 방정식$$x^{45}-45x^{43}+945x^{41}-\cdots-3705x^{3}+45x=k$$를 풀어보라는 도전장을 냈다. 비에트는 \(x=2\sin\theta\)일 때 \(k=\sin45\theta\)로 표현되는 식임을 알아내고 양의 근을 금방 구했다. 이와 같이 삼각법을 산술과 대수의 문제에 응용함으로써 비에트는 삼각법의 영역을 넓혔다. 배각 공식은 삼각함수의 주기성을 분명히 밝힐 수 있었지만 여기까지 나아가지 못했던 것은 비에트와 동시대 사람들이 음수를 인정 하는데 망설였기 때문이다.

 

참고자료:      
수학의 역사-상, (칼 B 보이어, 유타 C 메르츠바흐 지음), 양영오, 조윤동 옮김