초등학교에 입학한 후 약 십여 년 동안 수학을 배웠다. 초등학생 때는 덧셈 뺄셈에서 시작해서 사칙연산을 이용한 산수 문제를 많이 풀었던 것으로 기억한다. 반복되는 사칙연산이 매우 지겨웠던 초등학생 고학년을 지나 중학교에 입학하였을 때, 수학은 초등학교 때와 달리 강렬한 인상을 남겨주었다. 그간 수학이라고 부르기 어려운 산수 문제 풀이에서 방정식과 기하, 집합 등에 대해 다루어 단순히 숫자가 아닌 부분도 ‘수학’이라고 취급한다는 점과 정리에 대한 증명을 직접 풀이한다는 점이 흥미를 불러 일으켰다. 대단한 개념도 아니고 전문적으로 증명에 대해 기술하는 것도 아니었지만, 삼각형 내각의 합이 180도라던가 근의 공식을 유도하는 과정이 재미있었기에, 두각을 드러내지는 않았지만 수학 경시도 경험해 보았다. 돌이켜보면 이러한 과정에서 이과 쪽에 관심을 가지게 되고 관련 분야로 진학하지 않았나 생각된다. 이런 내게 수학이란 어떤 학문이라고 정의 내리기는 모호하지만 명제에 대한 참과 거짓이 명확한, 그렇기에 물리를 비롯한 모든 이공계 영역을 이루는 근간과 도구를 동시에 제공하는 논리적이고 명확한 학문으로 인식되었다. 그러기에 모든 난제는 시간 문제일 뿐 언젠가는 참과 거짓으로 증명된다고 생각했었다.

하지만 최근에 접한 쿠르트 괴델(Kurt Godel)의 불완전성 정리(incompleteness theorems)는 수학에 대한 기존의 인식을 변화시켰다. 불완전성 정리는 모든 문제를 수학적으로 풀어낼 수는 없으며 이는 수학의 형식화에 대한 한계성을 드러낸다고 한다. 이는 수학의 엄밀성이 완전무결하지 않음과 연관될 수 있다고 한다. 불완전성 정리는 다음 두 가지 정리를 말한다.

제 1 정리: 공리적인 방법으로 구성해내어 산술적으로 참인 명제를 증명할 수 있는 임의의 무모순인 이론에 대해, 참이지만 이론 내에서 증명할 수 없는 산술적 명제를 구성할 수 있다. 즉, 산술을 표현할 수 있는 이론은 무모순인 동시에 완전할 수 없다.

제 2 정리: 산술적인 참인 명제를 증명할 수 있는, 공리로부터 구성된 산술체계에 대하여 이 산술체계가 무모순이라면 이 산술체계는 스스로의 무모순성에 대한 진술을 포함할 수 없고 그 역도 성립한다.

이는 공리계 내에서 참과 거짓을 결정/증명할 수 없는 명제는 반드시 존재하며, 그렇지 않으면 해당 공리계에 모순이 있다는 점과 공리계 스스로 무모순성을 증명할 수 있다면, 그 공리계는 모순을 가짐을 얘기한다. 때문에 수학적인 명제는 1)참이고 증명가능하거나, 2)거짓이거나, 3)참이지만 증명가능하지 않거나 4)참이나 거짓을 증명가능하지 않거나 라는 크게 네 가지의 결과를 예상할 수 있다고 한다. 이러한 불완전성 정리는 가장 논리적이고 엄밀한 수준을 넘어 수학이 그 자체로 엄밀함과 논리성을 나타낸다고 생각했던 내게 충격으로 다가 왔다. 

 유명한 난제 중 하나인 “연속체 가설(continuum hypothesis)”의 경우 집합론공리로 해당 가설을 증명할 수 없음을 증명하였기에 불완전성에 대한 첫 번째 유의미한 사례라고 한다. 놀라운 점은, 쿠르트 괴델이 먼저 집합론공리로는 연속체 가설을 반증할 수 없음을 증명하였고, 이 후 폴 코헨(Paul Cohen)이 집합론공리로는 연속체 가설을 증명할 수 없음을 증명하였다고 한다. 대체 무슨 말인지... 불완전성 정리와 관련된 재미있는 이야기가 있는데 수학의 무모순성을 증명하기 위해 노력해왔던 힐베르트(David Hilbert)는 수학의 무모순성은 증명할 수 없다는 증명에, 증명되었다면 인정할 수 밖에 없다며 그간 해 오던 일들을 정리했다고 한다...

결과적으로 이해되지 않았지만, 이를 알아보는 과정이 매우 흥미진진했으며 비단 정리뿐 만 아니라 관련된 인물, 역사 등에 대한 이야기도 같이 접하니 지루하지 않고 유익한 시간을 보냈으며, 똑똑한 사람은 참 많다는 것을 알게 되었다. 어느 시점에서부터 학문에 대해 단순한 호기심으로 들여다 본 적이 없었기 때문에 더욱 그랬던 것 같다. 기회가 된다면 내가 현재 공부하고 있는 분야와 관련된 이야기들에 대해서도 이러한 과정을 통해 동기 유발 및 자극 받았으면 한다.