백과

20세기로 바뀌는 시점에서 기초적인 연구는 수학적 이론의 본질과 수학적 방법의 관점에 대한 연구에까지 확대되었다.

역사적으로 수학에 대한 주요 접근법은 2가지가 있는데, 이는 공리적 방법과 발생학적 방법이다.

공리적 방법은 BC 330년경에 저술된 에우클레이데스의 〈기하학 원본 Stoicheia〉에까지 거슬러 올라가며, 학생들이 즉시 납득할 수 있도록 제안된 공준들의 집합으로 시작된다. 납득할 수 있도록 제안된 일련의 단순한 단계들에 의해 학생들은 다른 명제가 참이라는 것을 받아들이게 된다. 에우클레이데스는 연역법에 관한 자신의 접근법을 세웠으며, 이것은 이보다 2세기 앞서 피타고라스에 의해 시작된 것이다.

에우클레이데스는 점·선·면과 같은 기본 용어 또는 기본 개념의 도입으로 시작하여, 이들의 용어에 관한 어떤 원시명제 또는 공준을 주장했다. 그뒤 그는 공준으로부터 피타고라스 정리(定理)인 "직각3각형의 빗변이 아닌 다른 2변에 의해 작도된 정4각형 넓이의 합은 빗변으로 작도된 정4각형의 넓이와 같다"와 같은 '정리'라고 하는 더 발전된 명제들을 이끌어냈다.

공리적 방법은 공간이 굽어 있다는 이른바 비(非)유클리드 기하학의 기초가 된다.

가장 논란이 많았던 에우클레이데스의 공준 가운데 하나는 평행선 공준인데, 이 공준은 "직선 L 위에 있지 않은 점 P를 지나고 직선 L에 평행한 직선은 단 하나밖에 그릴 수 없다"라고 하는 정리의 기초가 된다. "평면 위의 한 점을 지나며, 그 점을 지나지 않는 직선과 만나지 않는 서로 다른 직선을 최소한 2개 이상 그릴 수 있다"는 또다른 평행선 공준들을 바탕으로 하여 다른 기하학을 만들 수 있음이 판명되었다.

결론적으로 에우클레이데스는 자신의 기하학으로 물리적 공간에 대한 실제적인 묘사가 가능하다고 보았지만, 그것은 단지 공리적 방법을 통해 전개될 수 있는 공간에 대한 또다른 가능한 여러 가지 수학적 모형(模型)가운데 하나일 뿐이다. 공리적 방법으로 만들 수 있는 여러 기하학들은 그 방법의 가치에 대해 의문을 제기할 것이다. 다른 기본 원시명제들을 바탕으로 하는 정리들의 전체집합을 만들 수 있는데, 이러한 모든 명제들의 증명 또는 반증은 불가능하기 때문에 모든 정리들이 타당한 것으로 보여질 수 있다. 그러나 이 접근법에 대한 효과는 그것이 만드는 결과에 있는 것이 아니라 연역법에 대한 응용에 있다.

즉 정리들이 원시명제를 바탕으로 한다는 이 방법은 중요한 논리적·수학적 장점 중 하나이다.

공리적 방법을 보완하는 것으로 발생학적 방법이 있다. 이것은 독일의 수학자 다피트 힐베르트가 이름을 붙였으며, 수의 체계를 도입하기 위해 종종 사용된다. 예를 들면 0과 자연수 1, 2, ……은 첫번째 대상 0에서 시작하여 여기에다 2번째 대상을 만들기 위해 정수 1을 더하고, 이 2번째 대상에 1을 더하여 3번째 대상을 만드는 식으로 계속 생성되는 대상들로서 발생학적으로 기술될 수 있다.

일반적으로 발생학적 방법은 수학적인 대상들을 질서정연하게 이끌어내기 위해 사용된다. 즉 대상들의 계가 갖는 성질을 표현하는 정리들은 연역법을 바탕으로 한다. 발생학적 방법은 무한한 대상들의 집합들을 비교할 때 매우 유용하며, 이것은 원소수(元素數)의 개념을 도입한 독일의 수학자 게오르크 칸토어에 의해 19세기말에 제안되었다.

만일 두 집합이 1 : 1 대응이라면, 이 두 집합은 원소수가 같다고 말한다. 예를 들면 양의 정수 1, 2, 3, ……, 양의 정수의 제곱 1, 4, 9, …, 그리고 정수 ……, -2, -1, 0, 1, 2, ……은 원소수가 모두 같다. 무한대는 단순한 개념이 아니라는 것을 증명함으로써, 칸토어의 연구는 수학의 범위를 넓혔으며, 이 분야의 일반적인 기초에 대한 관심을 증가시켰다.

그러나 칸토어의 방법에서 역설(逆說)이 계속 발견되자 수학기초론에 위기가 닥쳤다.

10년 동안의 연구에서 칸토어는 집합들의 자기 참조적 묘사로부터 역설들이 생겨남을 알게 되었다. 그것들은 언어학적 역설인 '내가 지금 말하고 있는 것은 거짓말이다'와 비슷한 역설이다. 이 문제에 대해 많은 연구가 이루어졌지만, 단순히 모두가 동의할 수 있는 허구를 지적함으로써 역설을 해결할 수는 없었다. 1905년경 프랑스의 수학자 앙리 푸앵카레와 영국의 수학자 버트런드 러셀은 역설에 대한 설명을 정의의 순환에서 찾을 수 있다고 주장했다.

또한 어떤 집합 안에 있는 대상은 단지 그 집합을 참조함으로써 정의된다는 비가술적(非可述的) 정의를 가능하면 사용하지 말아야 한다고 주장했다. 그러나 불행히도 그렇게 하는 것이 불가능할 때가 있으며, 독일 태생 미국의 수학자이자 물리학자인 헤르만 바일은 자신의 저서인 〈연속체 Das Kontinuum〉(1918)에서 "그렇게 하는 것은 종종 바람직하지 않다"고 지적했다.

20세기초 수학기초론에 대한 위기를 설명하고 해결하기 위해 3가지 사상이 생겨났다.

첫째, 논리주의는 모든 수학 개념을 추상적인 개념으로 바꿀 수 있고 수학이 기본 논리원리에서 유도될 수 있음을 증명하려고 했다. 둘째, 형식주의는 수학이 단순히 규정된 규칙에 따르는 유한 개의 기호배열을 다루는 것이라고 주장했다. 셋째, 직관주의는 수학을 자명한 법칙에 따르는 구성개념을 다루는 자립적인 지적 활동이라고 생각했다. 이러한 3가지 사상은 각각 러셀, 힐베르트, 그리고 네덜란드의 수학자 L. E. J. 브로우웨르에 의해 주도되었다.

각자는 수학에 대한 다소 전통적인 견해를 나타내고 있으며, 아무도 역설을 해결하기 위한 완전한 방법을 제시하지는 못했다.

1930년대에는 오스트리아의 논리학자 쿠르트 괴델과 영국의 수학자 앨런 튜링의 독창적인 연구로 이 3가지 사상에서 벗어나 논쟁이 확대되었다. 괴델의 정리란 '형식적 공리계는 그 공리 자체와 그것의 부정 어느 것도 증명될 수 없다는 하나의 명제를 포함하고 있어야 한다'는 것이다.

결론적으로 그 계에 대한 어떤 무모순성 증명은 그 계 자체보다 뛰어난 개념들과 방법들을 사용해야 한다. 튜링은 괴델의 연구를 컴퓨터 영역으로 확장시켰다. 그는 튜링 기계라고 하는 이론적인 자동기계를 발명했는데, 이 장치는 사용할 때 정해진 최대 자료저장량에 의해 제한을 받거나 기능장애를 일으키지 않는다.

튜링 기계의 작동은 다음과 같다.

각각의 순간에 이 기계는 내부상태들의 유한집합 중 하나를 가정한다. '수동'(受動)을 나타내는 것을 제외한 이러한 상태들 중 어느 하나에서 이 기계는 정4각형으로 나누어진 무한히 긴 테이프를 조사하는데, 이들 정4각형 각각은 비어 있거나 또는 유한 개의 기호 중 하나가 적혀 있다. 그뒤 이 기계는 조사된 정4각형에 적혀 있는 기호를 바꿀 수 있고, 테이프를 하나의 정4각형을 좌우로 움직여 주어진 순간과 그 다음 순간 사이에 또다른 상태로 바꿀 수 있다.

이러한 모든 동작은 기계의 내부상태와 주어진 순간에 조사된 정4각형에 적힌 기호에 따라 결정된다. 이 기계의 출력은 기계가 수동 상태에 도달하여 멈춘 뒤 그 테이프에 있는 기호들로부터 번역될 수 있다. 튜링 기계는 만능 컴퓨터라고도 알려져 있는데, 그 이유는 그것의 작동원리가 계산이론에 바탕을 두고 있기 때문이다. 1937년 발표된 튜링의 유명한 논문은 괴델의 정리를 바탕으로 하고 있으며, 튜링 기계의 고정된 유한과정으로는 풀 수 없는 몇몇의 수학 문제가 있음을 보였다.

수학적 체계가 근본적으로 불완전하고 몇몇 계산과정들이 결정 불가능하다는 것은 수학기초론에 대한 연구에 엄청난 충격을 주었으며 논쟁을 부채질하고 새로운 사상을 도입하게 했다.

1960년 이후 이 주제에 관한 연구는 주로 4개의 분야, 즉 재귀론(再歸論)·증명론·모형론·집합론으로 나뉘었다. 재귀론은 계산가능과 결정가능에 대한 이론과 관련이 있으며, 그 이름은 재귀함수를 바탕으로 한 논문으로부터 붙여졌다. 증명론은 초수학(超數學)으로도 알려져 있다.

이것의 더 새로운 발전 중 하나는 집합들의 성질이 고려되는 단계에서 결정적인 선택을 취하는 기법들을 세운 것이다. 모형론은 주어진 형식적 체계의 공리들을 만족시키는 설명 또는 모형과 관련이 있으며, 집합론은 칸토어의 연구에 있는 몇몇의 역설과 모순들을 수정하고자 한다.