[수리철학] 5. 수리철학의 현대 개념

[수리철학] 5. 수리철학의 현대 개념 

현대수학자들의 자각의 근본이 되는 많은 역사적 요인 중 18세기에 무한소 미적분학(infinitesimal calculus)의 토대에 관한 치열한 논쟁들이 무한급수의 이론 정립에 어려움을 가져왔고 수학에 대해 더 엄격히 접근하도록 박차를 가했다. 

바이어슈트라스의 수학적 분석을 산술의 기초 위에 세우려던 시도의 성공, 칸토어의 무한집합 이론의 도입, 페아노, 프레게, 데데킨트의 수학을 순수 논리 위에 구축하려는 의도는 빠른 속도로 서로를 계승했다.

크로네커는 이러한 관점, 특히 칸토어의 관점에 대해 격렬히 반대하며 모든 타당한 수학은 자연수와 관련해 표현할 수 있어야 한다고 주장했으나, 이 주장은 주목받지 못한 반면 칸토어의 사상이 우세하게 되었다. 

"자연수는 신이 만들었고, 나머지 모든 수는 사람이 만들었다."

일상생활에서는 유리수만으로도 충분하나 물리학, 화학, 통계학 등에서의 공식을 유도하기 위해서는 무리수가 필요하다. 

수의 체계에서 발전이 일어나고 있을 때, 뉴턴이나 라이프니츠에 의해 발견된 미적분학도 크게 발전했으나 무한에 대한 무지로 인한 문제로 인해 허다한 난점이 있었다. 

다음은 갈릴레이의 무한소의 양에 관한 설명이다.

"무한대는 크다는 점에서, 그리고 무한소는 작다는 점에서 우리의 유한한 이해를 넘어서는 것이다. 이 둘을 합치면 무엇이 될 것인지 상상을 해보게."

갈릴레이는 무한대에서 산술적 무한대(가산무한)로 이야기를 옮겨, 자연수가 커질수록 완전제곱수의 개수가 자연수보다 적음에도 불구하고 모든 자연수와 완전제곱수는 일대일대응이 성립함을 주장했으나 양쪽이 무한이라고 말할 수 있을 뿐 대소의 개념은 무한집합에는 적용할 수 없다고 결론지었다. 이것은 갈릴레이가 수학적 무한론의 영역을 문턱 앞에서 멈추었음을 뜻한다. 

무한집합의 연구는 칸토어에 의해 시작되었다. 칸토어는 집합에 대한 이론을 전개하면서 무한집합에 대한 연구를 했다.

"수학의 본질은 그 자유성에 있다-칸토어" 

칸토어의 집합론은 자가당착과 모순을 도입했고, 이로 인해 수학자들은 더욱 수학적 추상의 본질에 대해 비판적이 되었고 많은 사상의 학파가 일어났다. 

푸엥카레는 모든 수학적 사상은 한정적으로 정의될 수 있어야 하고 정의는 한정된 작업에 의해 실증될 수 있어야 한다고 주장했다. 

보렐, 르베그, 베르, 아다마르가 대표적인 파리학파는 함수와 측도이론의 연구에만 관심이 있었으나 당시의 무한과 유한의 철학적 고찰에 가세했다.  

페아노와 프레게의 작품으로부터 파생된 러셀과 화이트헤드의 '수학적 원리'는 수학의 타당성과 불변성을 원시적 논리의 개념 위에 구축하려고 시도했다. 

형식주의로 알려진 힐베르트 학파는 가정적 과정을 강조했고, 형식적 수하그이 전부를 형이상학의 개념의 도입을 통한 모순으로부터 떨어뜨림으로써 그것을 유지하려고 시도했다. 

칸트와 크로네커로부터 관점을 계승한 브로워는 모든 수학은 기초적, 수학적 직관으로부터 세워진다는 직관론적 관점을 제시했다. 

(* 1. 수리철학의 이해를 참고할 것)

과학 이전의 시각아래서 수리과학적 교리를 대중화하려던 많은 노력이 짧게 요약되어 첫 번째 그룹을 형성한다. 물리학에서 수학의 용도는 수학의 본질에 대한 고찰을 유발시켰기 때문에 과학자들과 철학자들의 자연에 대한 관점은 두 번째 그룹을 형성한다. 논리적 추상의 관점은 논리와 수학은 구분된다고 주장하는 관점들을 요약하고 세 번째 그룹을 형성한다. 

네 번째 그룹인 수학적 추상은 수학자들 자신에 의해 제시된 고찰들을 다룬다. 

러셀은 수학의 원리는 모두 논리학의 원리 및 집합과 논리의 관계로 환원시킬 수 있다고 생각해 이 대전제하에 수학의 모든 체계를 공리론적으로 재구성하려고 했다. 이러한 입장을 논리주의(logicism)라고 한다. 그리고 기초론에 관한 견해로 러셀의 논리주의 보다 영향이 큰 힐베르트의 형식주의이다. 

힐베르트는 자신의 저서 '기하학 기초론'에서 유클리드 기하학의 공리계를 더욱 계통적으로 철저히 검토했고, 여기서 기하학의 공리를 대수학 또는 실수론으로 치환하고 기하학의 실수론적 모델을 만들 수 있었는데 이것은 중요한 의미를 지닌다.

이렇나 치환으로 인해 힐베르트의 기하학적 공리는 모두 실수의 영역에서 성립하는 정리이고, 역으로 기하학의 올바른 추론은 모두 실수에 관한 올바른 추론이 된다는 것을 확인할 수 있고 따라서 실수의 이론에 모순이 없는 한 이러한 기하학의 체계에 모순이 생길 수 없다.

네덜란드의 수학자 브로워는 힐베르트의 형식주의와 러셀의 논리주의에 반대하는 세력을 대표한 수학자로 수학상의 원리나 공리는 임의로 정할 수 없음을 주장한 직관주의 학파의 창시자이다. 그의 주장에 따르면 언어나 논리는 수학의 전제조건일 수 없으며, 수학은 본래 직관을 바탕으로 삼는 학문이고 직관에 의해 개념이나 추론을 직접 밝히는 학문이라는 것이다. 즉, 어떤 성질을 지닌 대상이 존재한다는 명제는 그 대상을 유한회수의 단계를 거쳐서 풀 수 있거나 작도할 수 있는 방법이 이미 존재함을 뜻한다는 것이다. 

1. 과학 이전의 영향

당시의 숫자 신비주의(number-mysticism)와 천문학적 관습으로부터 생각할 때 수학과 과학 이전의 인간 사이의 관계는 수학을 대중화하려고 시도한 많은 책에서 볼 수 있다. 이러한 책은 수학적 사상을 대중화하는 것 외에 사회, 철학, 종교, 과학 즉 인간문화의 모든 분야의 본질에 대한 정의를 내리는 데에 관심을 두고 있다. 

증명되지도 않았고 증거도 없는 역사적 부정확과 선험적인 관점들이 수학적 사실, 과정, 내용과 섞여 있다. 이러한 관점에서 이러한 책들은 철학적인 목적을 더 많이 가진 수학에 관한 다른 종류의 책들과 비슷하다.

2. 자연과학자와 철학자

현대의 수리철학은 수학적 유형을 형성하는 많은 종류의 과학자와 우주론자, 역사학자의 자연의 본질에 관한 고찰로 이루어진다. 모든 유효한 지식은 수학과 공존하고 수학적 방법만이 사상을 정립하는 데에 확실한 방법이다. 이러한 이론은 다음과 같이 여러 표현으로 나타난다.

"수학자는 그의 과학을 창조한다. 수학자는 순수사상의 활동을 한다. 수학의 법칙은 모든 순수하고 정확한 사상의 법칙이다. 수학자는 모든 경험으로부터 수학을 독립적으로 장악한다."

이러한 종류의 수학주의에 대한 완벽한 제시가 공식적으로 명백히 증명된 것이 아니고 나중에 취소된다는 점을 아는 것은 보편적이나 필수불가결한 경고임에도 자연의 수학적 해석에 대한 일치는 이러한 방향으로 가는 관점에 대해 원인이 되는 것으로 보인다. 진스는 다음과 같이 주장했다.

"수학은 신성하고 창조적인 과정을 통해 우주에 진입하고 우리의 지식은 신성한 수학자(신)에 의해 창조된 수학적 우주에 대한 단계적인 동화에 지나지 않는다."

비록 아인슈타인은 이 관점에 대해 정의적인 공식을 제시하지 않았으나 많은 부분에서 진스는 이상주의를 대표하는 것으로 나타난다. 

수학은 정신이 물리학에서 이용하는 물리적 사상으로부터 구분되는 외부적인 연장이나 도구에 불과하다는 것은 수리물리학자들이 받아들인 대중적인 관점이다. 사실 인간의 지식의 진실은 현실과 일치한다는 것을 수용하지 못함으로써 대부분의 수리물리학의 경향은 수학과 물리학 모두의 진실과 타당성에 대해 회의주의적 태도를 가지고 있는 것으로 보인다. 

많은 과학자들은 일반적 지식과 철학적 지식의 진실을 받아들이지 않으며 물리학 자체는 진실을 빈약하게 하고 추측과 억측만을 초래할 뿐이라고 주장한다. 

에딩턴은 수학적 이상주의로 자주 비판을 받을지라도 수학을 물리학의 연장이나 도구로 보는 수리개념에 동조하는 것으로 보고, 심지어 기하학을 경험주의적 과학으로 여겼다. 이 관점에서 물리학은 수학자에 속하게 되었다. 에딩턴은 수학이나 물리 어느 것도 일반적 경험이나 신비적 경험으로 얻을 수 있는 세계의 진실한 지식을 줄 수 없다고 결론내렸다.

우주론자는 과학과 형이상학으로부터 구분되는 자연의 철학적 연구의 구분과 타당함을 고수하는, 비교적 그 숫자가 적은 사색가들을 말한다. 이들은 우주론적 관점으로부터 수학의 추상적 본질을 다루는 구분가능한 경향이 있다. 

과거의 인간과 인간의 문화적 노력의 변화와 우연적 이동성의 보편적인 원인과 추론을 이해하려는 과학인 역사는 물리학, 우주론, 심리학과 같은 추론적인 과학과 같은 수준에 위치한다. 

수리논리학자

"수학이란 무엇인가?"라는 질문에 대한 답으로서 "수학은 패턴을 연구하는 학문이다"라는 말이 있다. 수학의 특성은 연구대상, 연구방법 등에서도 찾을 수 있지만 "수학은 증명하는 학문이다"라고 말할 수 있다. 수학자가 어떤 사실을 발견했다면 그 사실은 반드시 증명되어야 한다. 물론 고찰에 바탕을 둔 추측(conjecture)을 만드는 것도 수학자의 업적의 중요한 일부이기도 하다. 이와 같이 수학의 증명에 관해 연구하는 학문을 수리논리학(mathematical logic)이라고 한다. 

논리란 증명 또는 추론의 과학이며 추론은 가설에서 결론에 이르는 과정이다. 올바른 추론에 의해 얻은 결론은 가설이 참(true)이라는 전제조건에서 참이 되어야 하나 추론은 의미를 묻지 않는 대신 형식만을 본다.

추론은 결국 명제의 모임 또는 부분순서집합에 어떤 체계를 준 것인데, 논리학에서는 명제의 의미를 다루는 부분을 의미론(semantics), 형식을 다루는 부분을 구문론(syntactics)이라고 한다. 의미론과 구문론의 분리는 현대적 의미의 수리논리학이 과거의 논리학과 구별되는 가장 큰 특징이라고 할 수 있다. 

수학자

수학자들에 의해 제시된 현재의 이론 중 첫 번째는 논리이고, 논리 안에서는 논리와 수학 사이의 밀접한 관계가 강조되고 있다.

라이프니츠는 인간이 상징만을 가지고 생각하고 추론하는 것을 가능하게 하는 수학의 상징주의(symbolism)에 유사한 모든 사상의 보편적 특징을 정립하기를 희망했다. 이러한 방향으로 라이프니츠의 노력은 드 모르간과 불에 의해 계승되었다. 그러나 현재의 논리주의가 발생한 이후 더 효과적인 방향은 프레게와 페아노에 의해 정해졌다. 

모든 연구에 근본적인 명제는 수학은 이전에 인식된 것보다 더 가까운 논리와의 관계를 가지고 있으며 수학은 근본적으로 논리에 기초한다는 것이다. 논리주의의 목적은 수학을 모든 수학적 명제와 개념들이 변환될 수 있는 논리의 본질의 기초 위에 연역적 체계로서 세우는 것이다. 

논리주의의 두 주요 관심사는 숫자 개념의 해명과 연속체의 개념이다. 이 둘을 논리적 본질과 공식으로 환원하려는 시도를 했고, 이 과정에서 많은 역설과 불일치, 모순이 발생해서 초논리적(extra-logical)원리들과 공리들이 제시되었으나 실패했다. 

형식주의(formalism)로 알려진 이론의 역사적 기원은 유클리드의 원소(elements)가 근원인 원리와 공리의 방법에 있다. 

유클리드는 '기하학 원론'을 저술해 오늘날 현대수학 발전의 기초를 구축했다. 유클리드는 이 원론을 전개하는데 우선 수학이라는 학문의 성격부터 규정하려고 시도했다. 유클리드는 "수학이라는 학문은 진리만을 다루는 학문이다"라고 믿었고, 원론을 전개하는 과정에서 이러한 특징을 살리기 위해 처음 출발점에서 10개의 진리(공리(axiom)라고 한다)를 설정해 놓고, 이 공리를 출발점으로 아리스토텔레스의 3단논법을 적용해 여러 결론을 유도해 나갔다. 이렇게 얻은 결론을 정리라고 불렀다. 따라서 정리 또한 진리이다. 이것이 유클리드가 택한 수학의 전개방법이다. 

유클리드의 10개의 공리 중 5번째는 평행선의 공리이다. 평행선의 공리를 가정하면 여러가지 기하학적 성질(정리)을 유도할 수 있다. 그런데 유클리드는 이러한 평행선의 공리를 공리로 설정했으나 이 공리가 나머지 9개의 공리에서 유도될 수 있다고 생각했다. 결국 이러한 공리를 증명과정에서 사용하게 된 것은 원론의 정리를 증명할 때였다. 

이러한 정리는 평행선의 공리를 사용하지 않으면 증명이 불가능한 것이었기 때문이다. 유클리드 자신도 이와 같이 생각했고, 그후 많은 수학자들이 평행선의 공리를 증명하려고 했으나 실패했다. 그 이후 가우스에 의해 평행선의 공리가 나머지 9개의 공리만으로 증명이 불가능함을 보었다. 즉 평행선의 공리는 나머지 9개의 공리와 독립적이다. 러시아의 수학자 로바체프스키와 헝가리 수학자 볼리아이 등도 평행선의 공리가 증명불가함을 보였다. 

"한 점을 지나서 한 직선에 평행한 직선은 무수히 많다"는 사실을 공리로 택해서 모순 없이 새로운 기하학을 전개할 수 있었으나 가우스는 친한 사람들에게만 편지로 알렸고, 이 기하학을 비유클리드기하학(non-Euclidean geometry)이라고 했다. 

로바체프스키는 평행선의 공리의 증명이 불가능함을 알고, 이 공리를 부정한 새로운 공리 "한 점을 지나 한 직선에 평행인 직선은 두 개 이상 있다"를 전제로 새로운 기하학을 발전시켰다. 이 기하학을 허기하학(imaginary geometry)이라고 불렀고, 헝가리의 볼리아이도 같은 내용의 새로운 기하학을 전개했는데, 이 기하학을 절대기하학(absolute geometry)이라고 불렀다. 

당시 물리학계는 뉴턴역학으로 모든 자연현상을 해결할 수 있다고 믿었고, 뉴턴은 모든 물리적 현상이 발생하는 공간을 유클리드공간이라고 생각했고, 이 공간이 절대적이고 유일하다고 믿었다. 

당시의 철학계의 선두 주자는 칸트의 비판철학이었고, 칸트는 인간들이 사는 공간은 유클리드 공간이고, 이러한 공간만이 절대적인 공간으로 다른 종류의 공간이 존재하지 않는다고 믿었다. 

그러나 비유클리드공간이 발견됨으로써 뉴턴이나 칸트의 생각과 같이 공간의 절대성이 부인되고, 동시에 진리에 대한 절대성까지도 주장할 수 없게 되었다. 결국 비유클리드기하학은 당시 인간의 사고방식이 잘못되었음을 입증했다. 

특히 20세기 초에 아인슈타인이 상대성이론(theory of relativity)을 전개함으로서 인간들이 사는 공간이 도리어 비유클리드공간일 가능성이 더 짙어졌다. 아인슈타인은 자신의 역학 이론을 전개할 때 물리학적 현상이 일어나는 공간을 비유클리드공간(실제로는 일반화된 리만공간)이라고 가정함으로써 상대성이론을 전개할 수 있었다. 

현대의 형식주의는 힐베르트의 형식주의로부터 유래되었으나 힐베르트는 유한수학의 실재를 믿었고, 무한수학을 정당화시키기 위해 초수학을 고안했다. 

무한수학에 대한 형식주의와 함께 유한수학의 실재는 여전히 일부 저자에 의해 옹호되나 형식주의자는 이러한 구별에 고민하지 않는다. 형식주의자는 수학을 "공리로부터 정리를 유도하는 형식적 추론의 과학"이라고 본다. 수학의 기본적인 용어에 대해서는 정의를 내리지 않고, 이것에 해석이 부여될 때까지 그것에 관한 명제는 전혀 내용을 갖지 않는다. 

형이상학자

수학에 대한 철학적 고찰의 분류는 회의주의(scepticism), 이상주의(idealism), 반지성주의(anti-intellectualism)와 독특하고 다양한 경향들의 마지막 그룹들로 나뉘어진다. 

회의주의는 여러 가지 형태로 나타나고 실재적 존재와 관련된 과학으로서의 수학과 수학의 완벽성은 지각의 감정으로부터 추출된 형태일 뿐이라고 주장하는 것으로서의 수학의 기능성을 부인하는 것으로 인식되어 왔다. 

정신의 창조적 능력에 대한 과도한 강조는 철저한 이상주의자들이나 이러한 방향의 경향에 의한 기초적 신념이나 최종적인 철학적 결정을 가진 자들이 보여주었다. 메이어슨은 과학에 대한 분석과 수학과 과학의 역사에 대한 비평과 실증주의와 과학자들이 제안한 철학적 신념에 대한 분석은 이상주의에 물들었다. 

다른 철학자들에게서 과학과 사상의 분야는 자생적으로 발생했고 수학은 순수하게 정신에 의해 창조된 과학으로 여겨진다

오늘날 널리 퍼진 반지성주의 이론은 수학에 대한 지적 진실을 부정하는 데에 있어서 모든 과학적 지식과 비슷하다. 

참고자료:

수리철학, 이건창, 경문사