백과

수학이 무엇인지, 또는 ‘수학에 해당하는 어떤 것이 실제로 있기나 한 것인지’ 한 번도 묻지 않은 채로 여기까지 왔다. 이것은 중요한 것을 간과한 것처럼 생각될지도 모른다. 하지만 인류에게 다가온 수학은 그 시작을 알리지 않은 채 자신과 자신의 터전을 만들었고, 덕분에 사람들은 그 주변에 문화적인 체계를 만들 수 있었다. 20세기가 되기 전까지 수학이 정말로 무엇인지 꼭 물어야 했던 구체적인 시점은 없었다.

하지만 20세기가 시작되면서, ‘수학이 무엇인가?’라는 근본적인 질문을 던지게 되었다. 가장 핵심적인 질문은 ‘수학은 발견된 것인가, 발명된 것인가?’로 요약될 수 있다. 이에 대해서는 세 개의 주요 입장이 있다.

플라톤의 현실주의 시각에서는 수학의 법칙이 자연의 법칙처럼 어디에서나 진실이고, 불변하는 것이라고 본다. 수학자들의 역할은 그 법칙들을 찾아내는 것이다.

다비트 힐베르트 같은 형식주의자는 ‘수학은 언어나 논리적인 증명을 통한 공리 위에 정리를 만들어내는 게임이다.’라고 말한다. 그리고 두 공리가 모두 참이라면 하나의 공리를 다른 공리보다 특별히 더 선호할 이유는 없다. 하지만 이러한 의견은 괴델의 불완전성 정리(어떠한 공리도 완전무결하거나 모순이 없을 수는 없다)에 의해 거의 무너질 정도의 타격을 받았다.

마지막으로 직관론자의 관점에서 보면 수학은 인간의 정신을 본떠 꾸며낸 것에 불과하다. 직관론자들은 우리가 발견하는 세계를 설명하기 위해 수학이 만들어졌지만 인류의 문화라는 것 말고는 그 존재나 타당성을 찾아볼 수 없다고 주장한다. 이 관점은 네덜란드 수학자 L. E. J. 브로우웨르에 의해 제시되었다. 이로 인해 그는 특히 힐베르트에게 가엾을 정도로 조롱당하고 박해를 당했다.

지난 백 년 동안 수학의 근본에 대한 질문은 아무런 답을 찾지 못한 채로 사람들에게서 잊혀졌다. 힐베르트의 형식주의 관점은 ‘불완전성 이론’의 공격으로 많은 타격을 받았다. 하지만 수학의 핵심에는 여전히 논리와 공리가 있다.

좀 더 현대적인 견해는 W. V. 콰인과 힐러리 퍼트넘이 이끈 경험주의이다. 그들은 숫자와 다른 수학적 개체가 존재한다는 것은 실생활을 관찰함으로써 추론해낼 수 있다고 주장했다. 이것은 현실주의와도 관련이 있지만 좀 더 현실과 인간의 문화에 기반을 둔 관점이다.

콰인의 견해에 따르면 수학은 ‘진실’인 것처럼 보인다. 왜냐하면 우리의 모든 경험과 과학이 수학과 맞물려 있고 수학이 진실이라는 것을 지지하는 것처럼 보이기 때문이다. 수학이 없다면 이 세계의 모형을 새롭게 만들어내는 일은 매우 어려울 것이다.

이에 대해 1980년대 미국 철학자 해트리 필드는 수학적 진술들이 모두 허구이고 과학이 수학 없이 만들어졌다는 주장을 내놓았다. 그의 허구주의 원칙에 따르면 수학적 진술들은 쓸모 있는 구조적인 도구일 뿐 말 그대로 진실로 받아들여선 안 된다.

그렇다면 왜 우리는 수학을 만들어낸 것일까? 체화된 정신 이론에서는 인간 정신 세계의 구조가 필연적으로 이것을 만들어내기 때문이라고 답한다. 인지 심리학을 기반으로 하는 체화된 정신 이론(embodied minds theory)은 미국의 인지 언어학자 조지 레이코프와 심리학자 라파엘 누녜스가 수학을 위해 개발한 것이다.

그들의 책 《수학의 기원(Where mathematics comes from)》(2000년)에 따르면 인간의 뇌 구조와 우리의 신체가 움직이는 방식이 수학을 발전시키는 방법들에 영향을 미친다는 것이다. 인지 과정 없이 세계를 관찰하기 위해 뇌를 우리 몸에서 떨어뜨려 놓을 수는 없기 때문에 수학이 인류 문화 외부에도 존재하는지는 말할 수 없을 것이다.

레이코프와 누녜스의 의견에 동의하지 않는 많은 사람들과, 다른 견해를 지지하는 사람들은 자신들만의 주장을 내놓을 것이다. 하지만 수학의 근본에 관한 질문은 우리가 일상에서 사용하는 수학에는 거의 영향을 미치지 않는다. 우리는 계속해서 복권을 살 것이고 항공기를 만들 것이며 외계 생명체를 찾으려 할 것이고 재난에 대비해 보험을 들 것이다. 수학이 정말 ‘실재’하는지, ‘그곳’에 존재한다는 것이 일리가 있는지 하는 등의 근본적인 문제와는 전혀 상관 없이 이집트인들이 피라미드를 짓고, 잉카인들이 자신의 라마를 세었듯이······.