백과사전 상세 본문
숫자 역사의 아주 초기, 그러니까 인류가 셈을 할 줄 몰랐던 시절에는 물체를 집합 단위로 비교했을 것이다. ‘사냥할 때 창을 한 사람당 하나씩 가질 수 있을까? 탤리 조약돌의 개수와 우리 안에 있는 양의 수가 같을까?’ 인류에게 점점 정교한 구분들이 필요해짐에 따라, 수학은 사물의 집합에서 멀어져 수라는 개념을 만들어냈다. 그로부터 수천 년 후 수학자들은 무한집합의 가능성을 발견하고 다시 집합으로 돌아왔다.
집합론의 기원
집합론은 1874년과 1879년 사이에 게오르크 칸토어에 의해 생겨났다. 그는 집합을 명확하게 구분되는 ‘생각이나 인식의 대상’들을 모아놓은 것으로 정의했다. 따라서 그 자체가 명확한 대상인 양의 정수는 집합이 된다. 한편, 소방관이나 탄화수소 등을 형성하는 분자 구조도 집합이 될 수 있다.
집합론의 기본 원칙은 아주 단순하지만, 논리적으로 접근해보면 수학과 철학의 경계선을 허무는 복잡한 개념이라는 것을 알 수 있다. 초기에 집합론을 비판하던 사람들은 집합론이 현실을 전혀 반영하지 않는 허구이기 때문에 종교 원칙을 파괴하고 비수학적이라고 비난했다. 집합론은 순수 수학에 속하며 일상생활에는 거의 적용되지 않는 것이 사실이다. 하지만 복잡한 수학적 개념을 다룰 수 있는 집합론은 엄청난 가치를 지니고 있다. 집합 논리를 집합 개념에 적용시켜, 그 자체를 정의하고 분석하고 개선하는 것도 집합론에서라면 가능하다.
공격적인 말들
칸토어와 집합론에 다음과 같은 공격적인 말들이 쏟아졌다. ‘수학을 감염시키는 치명적인 질병(푸앵카레)’, ‘완전히 터무니없는 소리’, ‘우스꽝스럽다’, ‘틀렸다.’ 또 수학이 “집합론의 악의적인 관용구에 질질 끌려다닌다.”고 말하는 사람도 있었다. 어떤 이들은 칸토어에게 ‘과학계의 사기꾼’, ‘변절자’, ‘젊은 영혼을 타락시키는 사람’이라고 했다.
집합의 기본 원칙
집합의 기본 원칙은 매우 간단하다. 사물이나 숫자의 모든 집단은 집합을 형성한다. 한 집합의 개별 원소들은 또 다른 집합의 원소일 수도 있다. 집합은 서로 겹치기도 하고(교집합) 다른 집합에 포함되기도 한다(부분 집합). 집합은 무한대의 원소를 가지기도 하는 데, 이 경우에는 무한집합이 된다.
집합의 계산은 숫자 계산과 거의 비슷하다. 두 집합을 더하면 새로운 집합이 탄생한다(합집합). 이 집합 안에는 두 집합의 모든 원소가 포함되지만 공통된 원소는 하나만 취한다. 교집합은 두 집합에 모두 포함되는 원소만을 갖는다. 원소가 하나도 없는 집합인 공집합은 Ø로 표시한다.
일반적으로 집합 내 원소의 순서는 중요하지 않다. 그래서 좌표의 (x, y)와 (y, x)는 서로 다르지만 집합의 {x, y}와 {y, x}는 같다.
칸토어는 집합이 유형에 상관없이 여러 객체를 하나의 독립체로 묶어놓은 것이며 각각의 객체들은 고유의 정체성을 유지한다고 정의했다.
모든 원소 x와 집합 A의 관계는 ‘x가 A집합의 원소이거나 원소가 아니다(x∈A 또는 x∉A).’로 나타낸다.
x∈A에서는 x가 집합의 원소를 정의하는 공식 S(x)에 부합할 때에만 참이다. 이것이 추상의 원리이다. 하나의 집합이 그 집합의 원소에 의해 정의된다는 것은 확장의 원리이다. 집합의 원소 개수는 기수라고 부른다. 그러므로 집합 {4, 5, 6}의 기수는 3이다. 집합 A의 원소 개수는 n(A)=3으로 쓴다. 모든 유한집합의 부분 집합은 원래의 집합보다 적은 원소 개수를 갖는다. 예를 들어 모든 자동차의 집합이 있다고 하면 부분 집합인 ‘빨간 자동차’ 집합의 원소 개수는 모든 자동차의 집합보다 작거나 같다.
게오르크 칸토어
독일의 수학자 게오르크 칸토어(1845~1919년)는 집합론의 창시자로 알려져 있다. 그의 부모님은 덴마크인이었지만, 1856년에 프랑크푸르트에 정착했다.
그의 수학적 능력은 십대 초반부터 두드러졌다. 칸토어는 베를린과 취리히의 대학에서 수학과 철학, 물리학을 공부했다. 그는 자신을 가르쳤던 바이어슈트라스의 해석학에 관한 연구에 깊은 감명을 받았다. 칸토어는 《수학에서는 훌륭한 질문이 문제의 해답보다 더 가치 있다(In mathematics the art of asking questions is more valuable than solving problems)》라는 논문으로 박사학위를 받았고, 1879년에 할레 대학의 교수가 되었다.
칸토어는 정수론을 연구하다가 삼각급수에 관한 연구로 방향을 바꾸어 베른하르트 리만의 연구를 발전시켰다. 그는 리하르트 데데킨트와 편지를 주고받으면서 자신의 가장 중요한 업적인 집합과 초한수라는 개념에 대해 연구하게 되었다.
그러나 이전까지 그의 멘토였던 레오폴트 크로네커는 칸토어의 연구를 반대했고, 그의 연구가 출판되는 것을 막았다. 크로네커는 칸토어의 연구가 쓸모없으며 초한수는 절대 존재하지 않는다고 믿었다.
한편, 칸토어의 연구가 신이라는 유일하고 무한한 존재에 도전한다는 이유로 교회에서도 그를 반대했다. 이로 인해 칸토어는 젊은 학자들의 새로운 가능성에 관심을 가지고 기존의 보수적인 체계에 맞서 그들을 돕고 격려했다.
칸토어의 연구 덕분에 집합론은 수학의 한 분야로 확립되었고 20세기 수학이 발전할 수 있는 초석이 되었다.
논리적으로 말해서, 우리가 알고 있는 수학 전체를 하나의 출처, 집합론에서 이끌어내는 것이 가능하다.
– 니콜라스 부르바키, 1939
무한집합
동치라는 개념(같은 수의 원소를 가지는 두 집합은 동등하다)이 유한집합에만 해당되는 것은 아니다. 양의 정수 집합과 음의 정수 집합은 무한하지만 동치 집합이다. 왜냐하면 모든 양의 정수에 음의 정수를 각각 대응시킬 수 있기 때문이다.
칸토어는 각각의 자연수가 제곱이 될 수 있다는 것을 깨달으면서 자연수의 무한집합과 자연수 제곱의 무한집합이 있다는 것을 알게 된다. 하지만 제곱수는 자연수의 부분 집합이다. 갈릴레오는 1638년에 내린 결론에서 ‘동치인’, ‘~보다 큰’, ‘~보다 작은’이라는 개념을 무한에 적용시키지 않았다. 하지만 칸토어는 다양한 크기의 무한을 인정하는 초한수라는 개념을 만들어냈다.
집합의 공리
집합론의 중심에 있는 모순들을 해결하기 위해 공리적인 집합론이 생겨났다. 이것은 집합론의 기본 법칙을 이루는 공리를 만들기 위한 것으로, 삼각법의 기본 법칙을 이루는 유클리드의 공리와도 같다. 이 과정에서 몇 개의 상반되는 공리가 제안되긴 했지만 공리로 사용되기에는 너무 복잡했기 때문에 인정받지 못했다. 공리로 인정받을 수 있는 기준은 다음과 같았다.
• 일치성: 증명된 진술에 반대되는 진술이 증명되어서는 안 된다.
• 타당성: 집합에 대한 일반적인 믿음과 조화되어야 한다.
• 칸토어의 집합론의 결과들을 이끌어낼 수 있어야 한다.
공리적인 집합론은 논의되는 집합이 무엇인지 알 필요가 없기 때문에 칸토어식 집합론보다도 현실 세계와 더 벌어지게 되었다. 또한 다소 모호한 방식으로 집합과 집합의 특성을 다루었으므로 집합론이 허구를 다룬다고 비판했던 소수 수학자들의 주장에 힘을 실어주었다.
집합론은 20세기 수학의 많은 분야에 영향을 미쳤지만 여전히 혼란에 싸여 있다. 인정받을 수 있는 집합의 공리를 찾아내려는 노력은 비유클리드 기하학에서 새로운 모형과 규칙을 찾으려 했던 기하학자들이 맞닥뜨렸던 어려움을 떠오르게 한다. 하지만 이 문제는 여전히 해결되지 않고 있다.
본 콘텐츠를 무단으로 이용하는 경우 저작권법에 따라 법적 책임을 질 수 있습니다.
위 내용에 대한 저작권 및 법적 책임은 자료제공처 또는 저자에게 있으며, Kakao의 입장과는 다를 수 있습니다.
