[수리철학] 2. 수리철학의 역사

[수리철학] 2. 수리철학의 역사

수학 활동의 시작은 문자 발명 시기 이전의 오래 전 일이여서 인류 역사상 언제 시작되었는지 알아보는 것은 많은 의문을 낳고, 언제 어디서 수학이 일어났는가를 명확히 따지는 것은 위험한 생각이다. 때문에 이런 문제는 배제하고 문헌상에 나타난 증거만을 바탕으로 수학의 발자취를 찾는 방법을 택하겠다. 

그리스 수학은 철학을 동반한다. 

헤로도투스: 기하학은 땅을 측정하는 학문이며, 고대 이집트인이 나일강의 범람 후에 땅을 복원하기 위해 사용했다. 

탈레스는 삼각형과 원에 관한 몇 가지 성질을 알고 있었으며, 간접적인 측량에서 이러한 성질을 이용했고, 유클리드는 저서 '원론'에서 대부분 평면과 공간에서 도형에 관해 다루고 있고, 수론적인 면을 기하학적 용어로 나타내었다. 

수학적 추상개념의 본질에 대한 철학적 보고는 수학에 관한 모든 철학적 고찰의 중심적인 문제라는 것을 보여준다. 그리스의 사색가들은 수학, 존재, 확신, 진실, 자연에 대한 적용성에서 추상개념의 이해에 따라 정해지는 모든 사색적인 질문을 만족스럽게 대답하지 못했다. 

연역적인 수학의 확실성, 수학의 지각가능성과의 빈약한 관계, 수학의 정확성과 심오함은 우리들(읽는이)의 관심을 이끈다.

피타고라스학파는 연역적인 수학의 확실성의 우수함에 매료되어 수학주의의 첫 프로그램을 시작했을 때, 수학적 추상은 거의 완성되지 못했다. 이들은 사물의 다양성과 유동성을 수학과 형식의 엄격함과 판단의 범주 안에 넣으려고 노력했다.

이 당시 아리스토텔레스는 수학적 추상에서 다루는 대상에 실제적 존재성을 부여하는 것은 불가능하다고 주장하며 피타고라스학파와 틀라톤학파에 대응했다. 이는 성공적이지 못했으나 피타고라스학파의 실험은 사상의 역사에 자주 등장하는 주제이고, 모든 후기 과학과 철학적 사고에 큰 영향을 끼친 것으로 여겨진다. 

수학적 자세에서 수학을 연구하는 철학가 중 그러한 수학적 추상을 외부적으로 나타내며 연구하는 자들은 드물었다. 대부분의 사색가들은 수학의 본질은 자명하거나, 수학적 추상의 본질을 이해하는 것을 수학의 본질에 댛나 모든 토론의 기본이라고 여기지 않는다. 

르네상스 시대부터 확률론이 대두하기 시작했다. 당시 남유럽 지중해 연안 도시에는 많은 무역상인들이 몰렸고, 악천후로 항해를 못할 때 그 무료함을 달래기 위해 도박이 성행했고, 그 결과 주사위 문제가 생겼으며 이는 확률의 사상으로 이어진다. 이를 실제 문제로서, 이론적으로 연구한 최초의 사람은 3차방정식의 해법을 역설한 카르다노이다. 

카르다노의 결과: 주사위를 던지면 1의 눈이 나올 확률은 1/6이나 반대로 여섯번 던졌을 때 1의 눈이 반드시 한 번 나온다고는 할 수 없다. 그러나 던지는 회수를 충분히 늘리면, 예를들어 6,000번 던지면 대체로 1의 눈이 1,000번 가까운 회수만큼 나온다. 

피사의 사탑 실험을 한 갈릴레이는 다음의 확률에 관한 질문을 받았다.

3개의 주사위를 동시에 던졌을 때, 눈의 합이 9인 경우와 10인 경우의 수는 같은데도 불구하고 실제로 10인 경우의 확률이 큰 이유는?

17세기에 와서 프랑스의 페르마와 파스칼은 확률에 관한 연구를 했고, 그들 사이에는 확률에 관한 서신왕래가 있었다. 

15~16세기에는 향해술의 개선, 상업의 발달, 망원경의 발달로 인한 천체연구(갈릴레오)로 인해 큰 수를 다룰 필요가 있었다. 

이때 수학사상 3대 발견 중 하나인 로그(logarithm)계산의 발견이 영국의 네이피어에 의해 이루어졌다. 

이미 14세기경 프랑스의 오렘은 유리수에 대한 지수법칙 \(a^{m}a^{n}=a^{m+n}\), \((a^{m})^{n}=a^{mn}\)을 발견했다. 또한 등비급수와 등차급수의 비교로부터 출발해, 자연수와 자연수 사이에 분수를 삽입해 분수지수의 개념을 일반화했다. 독일의 수학자 슈티펠은 지수의 역함수인 로그에 관심을 두었고, 두 급수$$\begin{align*}&\cdots,\,-3,\,-2,\,-1,\,0,\,1,\,2,\,3,\,\cdots\\&\cdots\frac{1}{8},\,\frac{1}{4},\,\frac{1}{2},\,1,\,2,\,4,\,8,\,\cdots\end{align*}$$의 항을 대비시키고, 등비수열의 항에 대한 등차수열의 항을 지수라고 불렀으며, 분수지수와 음의 지수를 도입했으나 로그의 개념까지 발전하지 못했다. 

16세기 후반 덴마크는 항해나 천문에 관한 문제를 연구하는 중심지였고, 당시 덴마크의 수학자가 삼각함수표를 이용해 계산을 간편하게 하는 방법을 발표하자 네이피어는 여기에 힌트를 얻어 로그 계산의 원리를 발명했다. 그러나 당시 네이피어의 로그공식은 실제로 이용하기가 불편했는데 \(\log10^{8}=1\)로 되어서 \(\log1\neq0\)이기 때문이다. 이에 브리그스는 10진 로그, 즉 \(\log1=0\), \(\log10=1\)인 편리한 상용로그를 연구했다.

대수학은 중세기 말경에 중동에서 유럽으로 소개되었으며 르네상스 시대에 더욱 발전했고, 기하학은 17~18세기에 해석학의 발전에 더불어 대수학 및 해석학과 동등해졌다. 기하학적 도형은 해석기하학 방법인 좌표를 이용해 대수학적 또는 해석학적으로 표현할 수 있었다. 해석기하학은 모든 기하학적 문제를 대수적 문제로 요약한다. 

공간의 과학은 데카르트의 착상은 해석기하학의 기초가 되었고, 해석기하학은 18세기에 오일러가 2차곡선에 대한 대수적 이론을 확립해 상당한 발전을 했고, 18세기 말에 해석학은 기하학에 응용되어 미분기하학을 탄생시켰다. 

17세기는 사영기하학이라는 새로운 기하학이 데자그르와 파스칼에 의해 창조되었고, 19세기에 카르노를 등의 수학자들에 의해 발전했다. 사영기하학은 현재 만화영화 제작과, 영화관 스크린이 앞뒤좌우 천장에 있는 것은 사영기하학의 활용이며, 입체적인 필름을 제작하기 위한 인공위성의 입체적인 사직을 찍을 때도 사영기하학의 원리가 이용된다.

우리의 주위를 둘러싼 자연현상이나 사회현상은 많은 대상들이 서로 관련되어 상호작용하며 변화하고 있다. 함수적 사고란 수학적 사고의 일부로서 함수 전체에 대한 사고를 포함한 여러 가지 수학 내적, 외적 상황을 함수적인 관점으로 파악하고 처리하는 사고이다. 

함수는 미적분학이 발견된 17세기 경에 나타났다. 이렇게 늦게 수학에 나타난 이유는 함수가 변화하고 움직이는 양에 관련이 있기 때문이다. 함수개념은 고대수학과 근대수학을 구분하는 특징적 개념이라고 할 수 있다. 

그리스 사람들은 조화의 세계를 동경했기 때문에 변화/움직이기보다 안정되고 정지한 것을 이상적으로 생각했다. 그 때문에 움직이지 않는 도형의 성질을 탐구한 '기하학 원론'을 남겼으나 함수의 개념은 없다. 

르네상스 이후 자연과학이 발달하고 실험과 관찰이 학문을 하는 데 중요한 역할을 하개 되어 실제적인 어떤 현상을 일정 기간 동안 관찰해야 할 필요가 있는데 이러한 현상은 시간과 함께 끊임없이 변화하고 움직인다. 따라서 이러한 현상을 관찰하고 학문적으로 다루기 위해선느 어떤 변수와 함께 변동하는 양으로서의 함수개념을 필요로 하게 되었다. 

뉴턴은 별의 운동에 대한 케플러이 법칙을 밝히기 위해 미적분학을 발견했고, 데카르트가 해석기하를 만들어 점을 좌표로 나타낸 것은 뉴턴이 함수개념을 얻는 데 큰 구실을 했다. 

뉴턴과 같은 시기에 라이프니츠는 미적분학을 독립적으로 발견했고, 베르누이 등과 함께 함수를 수학적으로 발전시키는데 크게 공헌했다. 실제로 '함수'라는 용어는 라이프니츠가 베르누이 형제와 나눈 편지에 처음으로 사용했고, 기호 \(\displaystyle\frac{dy}{dx}\), 적분기호 \(\displaystyle\int{dx}\), 함수기호 \(f(x),\,g(x)\)를 사용했다. 

베르누이는 함수를 변수와 상수로 나타낸 어떤 표현이라고 간주하고, 오일러는 자신의 저서 '무한해석 입문'에서 함수를 "변수와 상수를 포함하는 해석적인 방정식 또는 식"이라고 했다. 

함수의 개념을 확장하려는 시도 아래 디리클레는 함수를 다음과 같이 정의했다.

\(X,\,Y\)를 집합이라고 하자. \(X\)의 각 원소에 \(Y\)의 원소가 오직 하나만 대응할 때, 이러한 대응관계 \(f\)를 \(X\)에서 \(Y\)로의 함수라고 하고 \(f:X\,\rightarrow\,Y\)로 나타낸다. 즉 \(X\)의 임의의 원소 \(x\)가 \(Y\)의 원소 \(y\)에 대응될 때 \(y=f(x)\)와 같이 나타낸다. 이때 \(y\)를 \(f\)의 \(x\)에 의한 상 또는 함숫값, \(x\)를 독립변수, \(y\)를 종속변수라고 한다. 또한 \(X\)를 \(f\)의 정의역, \(Y\)를 공역, \(f\)에 의한 \(X\)의 원소의 상 전체의 집합 \(\{y\,|\,y=f(x),\,x\in X\}\)를 \(f\)의 치역이라고 한다. 

또한 데데킨트는 두 집합 \(X\)와 \(Y\)가 주어졌을 때 \(X\)의 각 원소에 \(Y\)의 원소가 꼭 하나씩 대응되는 규칙이 있으면 이러한 대응규칙을 \(X\)에서 \(Y\)로의 사상이라고 하고, 특히 \(Y\)가 수(number)로 이루어진 집합이면 이 사상을 함수라고 한다. 이러한 데데킨트의 정의는 함수의 개념을 수 뿐 아니라 일반적인 원소의 두 집합 사이의 관계로 확장했다. 

부르바키는 두 집합 \(X,\,Y\)가 있을 때 모든 \(x\in X\)에 대하여 \(x\)와 주어진 관계에 있는 유일한 \(y\in Y\)가 존재하면 그 관계를 함수관계라고 정의함으로써 함수를 순서쌍의 집합 \(X\times Y\)의 부분집합으로 정의했다.$$X\times Y=\{(x,\,y)\,|\,x\in X,\,y\in Y\}$$미적분학이 더욱 발전하고 미분방정식을 역학, 물리학에의 응용함에 따라 함수의 개념을 확장시킬 필요가 있었다. \(x\)의 무한급수에 의해 표현된 함수 등 극한 셈법을 곁들인 함수의 연구가 필요했다. 함수를 나타내는 무한급수 중 대표적인 것으로 멱급수가 있다. 

\(x\)의 멱급수는 상수 \(a_{0},\,a_{1},\,a_{2},\,...,\,a_{n},\,...\)에 대해$$a_{0}+a_{1}x+a_{2}x^{2}+\cdots+a_{n}x^{n}+\cdots$$형태의 급수이다. 계수 \(\{a_{n}\}\)을 선택하는 방법에 따라 위의 멱급수는 여러 가지 함수를 나타낼 수 있다. 

멱급수로 표현되는 함수는 이미 뉴턴, 라이프니츠 시대에 알려져 있고, 실제로 뉴턴은 미분방정식을 풀기 위해 멱급수를 사용했다. 또한 다음과 같은$$a_{0}+a_{1}(x-\alpha)+a_{2}(x-\alpha)^{2}+\cdots+a_{n}(x-\alpha)^{n}+\cdots$$형태의 함수를 해석함수라고 하고, 어떤 함수 \(f(x)\)가 해석함수라는 것은 그 함수의 정의역 상의 임의의 점 \(\alpha\)에 대해 \(\alpha\)근처의 \(x\)에 대해 위의 급수의 형태로 \(f(x)\)가 표현됨을 뜻한다. 

19세기에는 \(a_{0},\,a_{1},\,a_{2},\,...,\,b_{0},\,b_{1},\,b_{2},\,...\)이 상수일 때$$a_{0}+a_{1}\cos x+b_{1}\sin x+a_{2}\cos2x+b_{2}\sin2x+\cdots$$형태의 삼각급수가 물리적 문제에 중요한 역할을 하는 것으로 밝혀졌고, 이 급수를 푸리에 급수라고 하는데 이 급수는 수렴하더라도 \(x\)의 연속함수를 나타내지 않는다. 푸리에급수로 표현되는 함수를 연구하는 것은 해석함수보다 훨씬 넓은 계층의 함수를 고찰하게 되는 것이다. 

해석함수가 아닌 함수의 발견은 함수가 반드시 식으로 표현되어야 한다는 조건에서 함수를 해방시키는 중요한 원인이 되었다. 

다음은 수학의 세 가지 위기라고 불리는 구분이다.

1. 인정을 받고 그것을 유지하기 위한 과학과 철학의 투쟁과 더불어 수학의 추상의 투쟁이 있었던 때이다. 

2. 느리고 분산됐지만 응집성 있는 발전으로부터 비롯되었지만 1637년에 데카르트의 해석기하학과 그의 수학주의 프로그램이 출판되면서 시작되었다. 이 시대의 대부분의 철학자는 수학을 어느 형태로든 다루어야만 할 의무나 다른 지식들이 수학적 특징을 가지고 있지 않더라도 왜, 어떻게 여전히 타당한지를 설명해야 할 의무를 가지고 있다고 느꼈다. 이러한 두 가지 형태의 지식은 형이상학과 형이상학의 궁극적 원인, 과학과 과학의 근접한 원인이다. 

3. 현재의 상태로서 수학과 과학 모두에 대한 자각심의 성장이다. 18세기에 미적분학과 무한급수의 이론의 기초에 관한 논의가 발생되었다. 산술화 프로그램은 많은 자가당착과 모순의 대를 이어간다.

1800년까지 여러 형태의 수가 이미 잘 알려져있기 때문에, 논리적 기초가 없어도 성질이 정당한지에 대한 관심이 없었다. 사실 2000년동안 잘 응용되어 왔기 때문에 논리를 사용해서 증명하는 데 실패한 것에 대해서도 보장이 되는 셈이었다. 반면 미적분학은 해석학의 원천인데, 여기에서 엉성한 증명, 역설, 모순까지 나타났으며 모든 결과의 기본이 되는 법칙이 없었다. 

곡면상의 기하학이 탄생한 것은 미적분학의 발전과정과 깊은 관계가 있다. 

많은 수학자들의 관심사는 원주율 \(\pi\)를 계산하는 문제였다. 다음은 그레고리가 \(\pi\)값을 다음과 같이 급수로 나타냈다.$$\frac{\pi}{4}=1-\frac{1}{3}+\frac{1}{5}-\frac{1}{7}+\cdots$$이 급수를 그레고리 급수라고 한다. 라이프니츠는 그레고리와 독립적으로 다음의 급수를 발견했다.$$\tan^{-1}x=x-\frac{x^{3}}{3}+\frac{x^{5}}{5}-\frac{x^{7}}{7}+\cdots+(-1)^{n}\frac{x^{2n+1}}{2n+1}+\cdots$$\(\displaystyle\tan^{-1}1=\frac{\pi}{4}\)이므로 위 급수식에 \(x=1\)을 대입하면 그레고리 급수가 된다. 

그레고리 급수는 수렴속도가 느리기 때문에 \(\pi\)의 근삿값을 계산하기에 부적합했다. 탄젠트 배각공식 \(\displaystyle\tan2\alpha=\frac{2\tan\alpha}{1-\tan^{2}\alpha}\)을 이용해서 \(\displaystyle\tan\alpha=\frac{1}{5}\)라고 하면 \(\displaystyle\tan2\alpha=\frac{5}{12}\), \(\displaystyle\tan4\alpha=\frac{120}{119}\)이므로$$\tan\left(4\alpha-\frac{\pi}{4}\right)=\frac{\tan4\alpha-1}{1+\tan4\alpha}=\frac{\tan4\alpha-1}{1+\tan4\alpha}=\frac{1}{239}$$이므로$$\begin{align*}\frac{\pi}{4}&=4\tan^{-1}\frac{1}{5}-\tan^{-1}\frac{1}{239}\\&=4\left(\frac{1}{5}-\frac{1}{3\cdot5^{3}}+\frac{1}{5\cdot5^{5}}-\cdots\right)-\left(\frac{1}{239}-\frac{1}{3\cdot239^{3}}+\frac{1}{5\cdot239^{5}}+\cdots\right)\end{align*}$$이고, 이것을 머신(Machin)의 공식이라고 한다. 이 공식으로 소수점 100자리까지 구했다. 

19세기 초에 볼차노와 아벨, 코시 세 사람은 각각 미적분학을 엄밀화하는 문제를 추구하려고 결심했으나 볼차노의 저작은 알려지지 않았고, 아벨은 27세로 요절했다. 아벨은 5차방정식의 일반적인 대수적 해법이 불가능함을 보였다. 

카르다노, 페라리, 오일러 이후 19세기 초기에 걸쳐 수많은 수학자는 5차 이상의 방정식에 관해 유사한 방법을 찾았으나 실패했고, 그 이후 가우스가 근이 존재함을 증명하고 이를 근거로 방정식론을 구축했다.

코시는 수학의 엄밀화 운동의 운동의 선구자이고 미적분학의 논리를 수 위에서 세우기로 했다. 영국에서는 미적분학을 기하학을 사용해 엄밀히 하려고 했으나 실패했고, 코시는 기하학이 근거가 되지 못함을 알았으며 대륙에서는 라이프니츠를 따라 해석적 방법을 사용했고, 이때만 해도 비유클리드 기하학(유클리드의 공리와 모순된 공리에 근거한 기하학)의 연구가 알려지지 않았다.

유클리드의 제 5공리: 직선 위에 있지 않은 점을 통과하는 단 하나의 평행선이 존재한다. 

비유클리드기하학 중 하나는 위의 유클리드 제 5공리와 달리 그러한 평행선이 존재하지 않음을 주장한다. 

코시는 극한의 개념으로 미적분학의 기초를 세웠고, 월리스의 저서와 달랑베르의 견해가 정당함을 입증했다. 해석학을 엄밀화하기 위해 함수, 극한, 연속성, 도함수라는 용어를 사용했는데 정의가 이 정의는 옳았어도 명료하지 못했다. 균등수렴성을 깨닫지 못해 조건의 충분성을 보이지 못했기 때문이다. 코시는 복소함수의 이론을 창시했으나 \(a+bi\,(i=\sqrt{-1})\)같은 식을 수로 다루는 것을 거부했고, 이러한 식은 아무런 의미가 없다고 했다. 

드 모르간은 음수와 복소수를 인정하지 않았고, 불(Boole)도 허수단위 \(i=\sqrt{-1}\)이 해석이 불가능하다고 말했으나 삼각법으로부터 해석가능하다. 

복소수를 인정하게 한 것은 논리가 아닌 베셀, 아르강, 가우스에 의한 기하학적 표현이었다. 가우스는 \(n\)차 다항방정식은 정확히 \(n\)개의 근을 갖는다는 대수학의 기본정리를 증명했고, 처음 세 개의 증명은 계수가 실수인 방정식을 다루었고, 부가적으로 좌표평면의 점들과 복소수 사이의 일대일대응을 가정했으나 그 대응을 명확히 정의하지 않았다(\(x+yi\)를 실제로 점으로 나타내지 않았고, 다만 \(x\)와 \(y\)를 점의 좌표로 보았다.). 또한 증명에서 복소함수론을 사용하지 않고 실수부와 허수부로 나누어서 증명했다. 1811년에는 베셀에게 보내는 편지에서 \(a+bi\)를 점 \((a,\,b)\)로 표시했다. 

복소수 \(z=a+bi\)를 점 \(P(a,\,b)\)로 대응시킬 때 원점 \(O\)에서 이 점 \(P\)까지의 거리는 \(r=\sqrt{a^{2}+b^{2}}\)이고, \(x\)축과 \(OP\)가 이루는 편각은 \(0\leq\theta<2\pi\)이다. 

위 사실로부터 복소수 \(z=a+bi\)가 주어지면, 그에 대응하는 \(r\)과 \(\theta\)의 값이 정해지고, 역으로 \(r\)과 \(\theta\)의 값이 주어지면, 점 \(P(a,\,b)\)를 구할 수 있다. 가우스는 복소수 좌표평면에 나타내었고, 기하학적 덧셈과 곱셈을 정의했고, 또한 당시에 '데카르트의 허수'라는 용어를 사용하던것을 '복소수'라는 용어로 도입하고 \(\sqrt{-1}\)을 \(i\)로 나타냈다. 

해밀턴은 실수와 복소수에 대한 논리적 근거를 처음으로 세웠고, 복소수가 한 평면상의 벡터를 표현할 수 있음을 알았으며, 공간 상의 벡터를 표현할 수 있는 3차원 수를 찾으려고 했다. 해밀턴은 \(i=\sqrt{-1}\)를 단위원 \((0,\,1)\)로 나타내었다.

복소수는 직선이 아닌 평면상의 점이기 때문에 대소관계를 따질 수 없으나 크기의 개념은 있다. 복소수 \(a+bi\)의 절댓값을 \(|a+bi|\)로 나타내고, 피타고라스 정리로부터 \(|a+bi|=\sqrt{a^{2}+b^{2}}\)이다. 

복소수 \(3+4i\)와 \(4+3i\)는 서로 다른 수이나 절댓값(크기)은 5로 동일하다. 

해밀턴은 복소수 \(a+bi\)로부터 순서가 붙은 3원수 \(a+bi+cj\)로 확장하려고 시도했고, 10년간의 노력 끝에 3원수 대신 \(a+bi+cj+dk\)로 확장했고, 이때 다음이 성립한다.$$i^{2}=j^{2}=k^{2}=-1,\,ij=k,\,ji=-k,\,jk=i=-kj,\,ki=j=-ik$$4원수는 곱셈 이외의 다른 연산법칙이 대수의 경우와 같이 성립한다. 

데데킨트와 칸토어는 유리수의 성질을 인정하고 무리수를 바르게 정의하고 여러 성질들을 정립했다.

오일러는 '방정식의 허근에 관한 연구'라는 논문에서 복소수 \(x+yi\)에서 \(y=0\)이면, 실수이므로 복소수는 실수를 포함한다고 했다. 그의 결과는$$\log(x+iy)=\log(\rho e^{i\theta})=\log\rho+i(\theta+2n\pi)$$(\(\log\)는 밑이 \(e\)인 로그이다)이고, \(\rho=\sqrt{x^{2}+y^{2}}\)이고 \(\theta\)는 원점에서 \(x+yi\)에 이르는 선분과 \(x\)축과의 교각을 나타낸다. 여기서 오일러는 복소수의 극형식이라는 용어를 사용했는데 당시 사람들은 이 오일러의 논문을 이행하지 못했다. 

크기와 방향을 갖는 양을 벡터라고 하는데, 벡터의 개념은 르네상스 이후 천체의 운동과 향해술과 관련해 생겼다. 

16세기에 향해술이 발달하고, 대양성에서 배의 위치나 기항지의 밀물과 썰물이 이는 시각을 정확히 알기 위해서는, 그 시각에서의 달이나 행성의 위치를 알 필요가 있었다. 또한 그들의 운동을 알기 위해서는 곡선의 방향, 즉 접선을 그을 필요가 있었다. 

두 개의 운동을 두 개의 선분의 길이와 그 방향으로 나타내면, 이러한 두 개를 합한 운동은 그 두 개의 선분을 두 변으로 하는 평행사변형의 대각선의 방향으로 진행하게 된다는 벡터의 합성법칙이고, 스테빈과 갈릴레이에 의해 발견되었다.

그러나 힘의 합성법칙을 명확히 한 것은 뉴턴의 프린키피아였다. 뉴턴 시대에 힘을 벡터로 나타내는 방법이 고안되어, 벡터 이론은 물리학과 더불어 발전했다.      

그 이후 노르웨이의 측량기사 베셀(Wessel)은 복소수를 벡터로 나타내는 방법을 발견했고, 처음으로 복소수를 방향을 가진 양으로 인정했다. 그 이후 독일의 그라스만은 벡터를 3차원으로부터 고차원까지 확장했다. 또한 이러한 방법은 해밀턴에 의해 발전되어 선형대수학이라는 현대의 벡터이론이 이룩되었다. 이처럼 벡터는 물리학과 복소수에 밀접한 관계를 맺고 있었다. 

질량, 온도, 밀도와 같이 크기만을 갖는 양을 스칼라, 힘, 속도, 가속도와 같이 크기와 방향을 동시에 갖는 양을 벡터라고 한다. 

벡터를 표시하기 위해 3차원 실수공간에서 시점과 끝점이 구분되는 유향성분을 사용하고, 두 점 사이의 거리를 벡터의 크기, 선분의 방향을 벡터의 방향이라고 한다. 이것을 점 \(P(x_{1},\,y_{1},\,z_{1})\)과 \(Q(x_{2},\,y_{2},\,z_{2})\)가 주어졌을 때 이 두 점을 원점을 시점으로 하는 위치벡터$$\overrightarrow{OP}=(x_{1},\,y_{1},\,z_{2}),\,\overrightarrow{OQ}=(x_{2},\,y_{2},\,z_{2})$$로 나타낼 수 있고, 이를 이용하여$$\overrightarrow{PQ}=\overrightarrow{OQ}-\overrightarrow{OP}=(x_{2}-x_{1},\,y_{2}-y_{1},\,z_{2},\,z_{2})$$로 나타낼 수 있다. 이때 벡터의 크기는$$\|\overrightarrow{PQ}\|=\sqrt{(x_{2}-x_{1})^{2}+(y_{2}-y_{1})^{2}+(z_{2}-z_{1})^{2}}$$이고, 크기가 1인 벡터를 단위벡터라고 한다. 

대부분의 수학자들이 수학 자체의 엄밀화에 열중하는 동안 일부는 사용되는 논리에 열중했다. 불(Boole)은 연산자의 계산법이라는 대수적 추론의 일반화에 관해 기술했다. 불은 대수학이 꼭 수만을 다룰 필요가 없다는 것과 대수학의 법칙들이 실수와 복소수의 법칙일 필요가 없다는 생각을 하고, 논리의 대수를 제안했다(이것을 불 대수(Boolean algebra)라고 한다). 

불은 순수한 대수적 연산을 이용해서 여러 분야에서 어떻게 추론을 수행하는 가를 보여주었다.

바이어슈트라스의 업적으로 해석학의 기초의 엄밀화가 완성되었다. 바이어슈트라스는 연속성이 미분가능성을 의미하지 않음을 알고 있었고, 이를 발표했다.

\(f'(c)\)가 존재하면 \(f\)는 \(x=c\)에서 연속이나 그 역인 "\(f\)가 \(x=c\)에서 연속이면 미분가능하다"는 반드시 참이 아니다. 

그 대표적인 반례로 \(y=|x|\)가 있고, 이 함수는 실수 전체에서 연속이나 \(x=0\)좌우의 미분계수의 부호가 달라서 미분계수가 존재하지 않고 따라서 미분가능하지 않다. 

위의 반례는 함수의 그래프에 뾰족한 모서리가 있으면 연속이나 미분가능하지 않음을 알 수 있다. 참고로 뾰족한 점은 미분가능하지 않지만 극점(극대/극소)이고, 반대로 꺾인 선은 미분가능하지 않고 극점이 아니다. 

참고로 어떤 점에서 접선이 수직이면 그 점에서의 미분계수 값이 무한대가 되어 미분가능하지 않다. 

수학의 엄밀함을 향상시키기 위해 기호논리학을 사용한 또 다른 인물로 페아노가 있다. 페아노는 개념, 한정기호, and, or, not과 같은 접속사에 대한 기호를 도입했고, 또한 그의 학파는 무모순성의 의문을 진지하게 다루었다. 이렇게 모순을 생기게 하고, 사람들로 오래된 분야에서의 모순에 눈을 뜨게 한 새로운 이론은 무한집합의 이론이었다. 

해석학을 엄밀하게 하려면 수렴하는(합이 유한인) 무한급수와 발산하는 무한급수의 구별을 해야 했다.

칸토어는 수의 집합에 대한 이론을 연구했는데 홀수 전체의 집합, 유리수 전체의 집합, 실수 전체의 집합과 같은 무한집합의 개수를 도입했다. 그러나 칸토어의 무한집합에 관한 이론은 반발을 일으켰다. 

칸토어는 초한수의 크기에 따라 순서를 정렬하기 위해서는 실수의 임의의 집합이 정렬가능하다는 정리가 필요했다. 어떤 집합이 정렬집합이려면 순서집합이어야 한다. 

자연수 전체의 집합은 정렬집합이고, 실수 전체의 집합은 보통순서(크기순서)에 관해서 정렬집합이나 정렬집합은 아니다. 그 이유는 0보다 큰 실수 전체로 구성된 부분집합은 첫째 원소를 갖지 않기 때문이다. 

푸엥카레는 수학적 귀납법을 논했다. 예를들어 모든 자연수에 대해 다음이 성립한다.$$\begin{align*}1+2+3+\cdots+n&=\frac{n(n+1)}{2}\\1^{2}+2^{2}+3^{2}+\cdots+n^{2}&=\frac{n(n+1)(2n+1)}{6}\\1^{3}+2^{3}+3^{3}+\cdots+n^{3}&=\left\{\frac{n(n+1)}{2}\right\}^{2}\end{align*}$$이것을 증명하자면 수학적 귀납법에 의해 \(n=1\)일 때 성립함을 보이고, 어떤 자연수 \(k\)에 성립함을 가정한 다음 \(k+1\)에 대해서도 참임을 보이면 된다. 

직관주의 철학의 창시자인 브로워(Brouwer)는 자연수 이외에도 덧셈, 곱셈, 수학적귀납법은 직관적으로 분명하다고 주장하고, 더욱이 자연수 1, 2, 3,...을 얻고 난 뒤 \(n\)에서 \(n+1\)로의 단계를 무한히 반복하는 가능성을 사용해 무한집합을 창조한다. 그러나 무한집합은 그 안에서 임의로 주어진 수의 유한집합에 더 큰 수를 항상 더할 수 있는 잠재적 무한집합이다. 

수학의 발전과 수학의 본질에 대한 분석, 수학의 다른 과학과 철학에 대한 관계의 기초를 다루는 사상의 학파는 다시 주요한 문제가 되고 있다. 

수학적 추상으로부터 비롯되는 결과의 내용은 수학의 과학의 역사이기 때문이다. 다음의 역사적 개요는 수학적 추상의 형이상학의 역사, 수리철학의 역사라고 하는 것이 더 정확한 용어이다.

이것은 다음의 두 질문으로부터 비롯된다.

1. 옛날 사색가들은 어떤 형이상학적 입장을 수학의 본질에 채택했는가?

2. 수학이란 무엇인가?

이러한 두 질문을 대답하는데 있어서 인간의 수학적 추상에 관한 이론을 조직적인 철학적 노력으로 간주함으로써 다음과 같은 역사적 개요는 두 가지 진실을 드러낸다.

1. 수학과 다른 종류의 과학적 추상의 상호관계이다.

2. 수학적 방법이나 추상과 다른 과학의 방법이나 추상을 고대, 근대, 현대에 혼동하거나 동일시하는 것이 다시 나타나는 것이다.

이것은 수학주의의 오류라고 주장한다. 그러므로 역사적 관점은 수학적 추상의 올바른 이해가 일반적인 이론적 진실에서 필요하고, 더 강조하면 수학의 과학으로부터 가지를 쳐서 내려오는 현재의 철학적 고찰을 위해 필요하다고 주장한다.

참고자료:

수리철학, 이건창, 경문사