[독서광] 현대 수학의 아버지 힐베르트

오늘은 다비드 힐베르트의 일생을 그린 전기인 '현대 수학의 아버지 힐베르트'라는 책을 읽고 느낀 점을 정리해보겠다. 수학 역사에 관심이 있는 분이라면 누구나 힐베르트의 업적에 대해 들어봤을 텐데, 독자 여러분을 위해 요약 정리하자면, 바로 평생에 걸쳐 수학, 물리학 분야에서 완벽한 공리 체계 이론에 대한 토대를 쌓았다는 점이다. 물론 괴델(괴델, 에셔, 바흐의 바로 그 괴델이다)이 혜성처럼 등장해서 공리체계의 무모순성의 증명이 불가능하다는 사실이 밝혀질 때까지 사람들은 완벽한 공리 체계야말로 수학에 있어 가장 중요한 문제라 생각했다. 완벽한 공리체계를 추구하는 힐베르트는 무모순성과 관련해 다음과 같이 말할 정도였다.

"어떤 개념에서 모순적인 속성이 발견되면 나는 수학적으로는 그 개념이 존재하지 않는다고 생각한다."

책은 힐베르트의 어릴적 시절부터 노년기에 이르는 전 생애를 다루고 있는데, 본문 중에서 가장 감명 깊게 다가온 부분은 바로 1900년 파리에서 열린 제2차 국제 수학자 대회에서 연설한 '수학의 미래'라는 제목이 붙은 10장이다. 당대 최고의 수학자들이 모인 자리에서 힐베르트는 20세기에 수학자들이 풀어야 할 22가지 문제를 제시하면서 '모든 문제는 해결할 수 있다'는 세 시대의 희망을 피력한다. 그런데 정말 잘 쓰여진 명문이라 수학과 철학에 대해 특별한 지식이 없는 문외한(뭐 다들 아시겠지만... 'B급 프로그래머'를 지칭한다)조차도 읽으면서 명료하게 문제를 제시하고 군더더기 없이 배경을 설명하는 힐베르트의 능력에 대해 진짜 대단하다는 생각이 들었다. 수학이나 철학에 관심이 많은 분들께서는 다른 부분은 모르겠지만, '수학의 미래' 연설문은 꼭 읽어보면 좋을 것 같다.

불혹을 앞두고 대박을 터트린 힐베르트의 업적을 계속해서 따라가다보니 또 다른 흥미로운 부분이 눈에 들어왔다. 요즘과 같은 발전한 시대에 추상적인 물건(?)인 프로그래밍 언어를 사용하는 사람들에게는 그리 어렵지 않게 느껴질지 모르겠지만(리버싱이 어렵게 난독화된 코드를 보면 딱 이런 느낌이 들지도 모르겠다. 낄낄) 20세기 초반에 다음과 같은 말을 들은 사람이라면 화들짝 놀라는 것이 무척 당연했을테다.

힐베르트는 수학 체계의 대상인 수학적 정리와 증명을 기호 논리의 언어로 논리적 구조는 갖추되 내용이 없는 문장으로 표시한다는 형식화를 제의했다.

힐베르트는 직관주의에 맞서 "수학의 재고품을 하나도 손상함이 없이 오직 그 뜻을 근본적으로 새로 해석함으로써" 고전 수학 전체를 구제하는 작업을 예순(!)에 시작했는데 이는 정말로 대담한 시도라 하지 않을 수 없다. 수학에 있어서 무모순성이라는 세상을 확립하려던 힐베르트는 역으로 이런 무모순성에 대해 의문을 품는 일군의 수학자들을 배출했고, 양쪽 진영은 계속해서 자신들의 주장과 이를 뒷받침하는 이론을 발전시켜가면서 20세기 중반까지 발전에 발전을 거듭하는 상황이 연출되었다. 힐베르트가 없었다면 아마 컴퓨터도 이렇게 빨리 등장하지 못했으리라는 생각도 잠시 해본다(괴델의 불완정성 증명을 자신만의 방식으로 재해석하는 데 성공한 튜링의 업적을 또 다시 생각하게 만드네?). 요약 결론: 수학에 관심이 많은 분들께 추천한다.