20세기 초 수학의 위기는 "기초 위기(Fundamental Crisis)" 또는 "수학의 기초에 대한 위기"로 불립니다. 이는 수학이 얼마나 확실한 이론 위에 서 있는지에 대한 의문에서 비롯되었고, 19세기 후반부터 20세기 초까지 이어진 여러 수학적, 논리적 문제들로 인해 발생했습니다.
이 위기는 주로 다음 세 가지 중요한 문제에서 비롯되었습니다:
1. 칸토어의 집합론 문제
게오르그 칸토어는 집합론을 창시하며 무한 집합과 관련된 개념을 발전시켰습니다. 하지만 그는 곧 자기모순을 발견하게 됩니다. 대표적으로 러셀의 패러독스가 있습니다. 러셀의 패러독스는 "자신을 포함하지 않는 모든 집합의 집합은 자신을 포함하는가, 포함하지 않는가?"라는 질문에서 비롯된 모순으로, 이는 수학적 기초가 안전하지 않다는 신호를 주었습니다. 이러한 모순들은 수학의 근본적인 안정성에 심각한 의문을 제기했습니다.
2. 힐베르트 프로그램과 수리논리학
위기를 해결하기 위해 수학자 데이비드 힐베르트(David Hilbert는 수학을 완벽하게 엄밀하고 논리적으로 증명할 수 있는 체계로 만들려는 계획을 세웠습니다. 이를 **"힐베르트 프로그램"**이라 불렀습니다. 힐베르트는 수학이 일관성, 완전성, 그리고 결정 가능성을 갖추어야 한다고 주장했습니다. 즉, 모든 수학적 진술은 참이거나 거짓으로 판별될 수 있어야 하며, 이를 증명할 수 있는 명확한 절차가 존재해야 한다는 것입니다.
3. 괴델의 불완전성 정리
그러나 이 계획은 1931년 쿠르트 괴델(Kurt Gödel에 의해 큰 충격을 받았습니다. 괴델은 불완전성 정리를 통해 힐베르트의 목표가 원천적으로 불가능하다는 것을 증명했습니다. 불완전성 정리는 어떤 일관적인 형식 체계 내에서는 그 체계의 모든 참인 명제를 증명할 수 없다는 것을 보여주었습니다. 이는 수학의 체계가 근본적으로 불완전하며, 모든 수학적 진리를 증명할 수 없다는 뜻입니다. 이로 인해 수학은 근본적으로 모순 없이 완벽하게 체계화할 수 없다는 것이 밝혀졌습니다.
4. 직관주의와 형식주의의 대립
수학의 위기를 해결하려는 또 다른 시도로 브라우어(L. E. J. Brouwer가 제안한 직관주의(Intuitionism가 있었습니다. 브라우어는 수학적 진리는 인간의 직관에서 비롯된 것이며, 직관적으로 이해할 수 없는 무한 개념이나 비구성적 증명(어떤 존재의 증명을 보이지만 그 존재가 무엇인지 구체적으로 구성하지 않는 방식)은 수학에서 배제해야 한다고 주장했습니다. 반면, 힐베르트는 수학을 순수한 논리적 체계로 보며 무한 개념을 포함하는 형식주의(Formalism를 옹호했습니다. 이 두 입장 간의 대립은 수학자들 사이에 큰 논쟁을 불러일으켰습니다.
수학 위기의 영향
이러한 위기와 논쟁은 수학자들이 수학의 기초를 재정립하려는 다양한 시도로 이어졌습니다. 결과적으로 수학과 논리학의 철학적 기초가 더 깊이 탐구되었으며, 수리논리학, 메타수학, 집합론 등이 큰 발전을 이루었습니다. 또한 괴델의 불완전성 정리는 수학자들에게 수학적 지식의 한계를 인식하게 하였고, 이는 현대 수학의 연구 방향에 깊은 영향을 미쳤습니다.
이 위기를 통해 수학은 이전보다 훨씬 더 엄밀하고 깊이 있는 체계를 가지게 되었으며, 이후 컴퓨터 과학과 정보 이론 등 새로운 분야와의 연결도 이루어졌습니다.