0. 들어가며

 

무한은 정말 오랫동안 인류와 함께했지만, 한편으로는 인류가 완전히 이해하지 못한 주제였다.

 

아르키메데스(BC 287 ~ BC 212)가 구분구적법을 개발하여 적분과 유사한 개념을 만들었고,

아이작 뉴턴(1642~1727)이 '극소'라는 개념을 도입하여 미적분학을 창시하는 등

인류는 꽤 오랜시간 직관이 허용하는 영역에서 무한을 다뤄왔다.

 

하지만 아이작 뉴턴 본인도 자신이 개발한 극한의 개념이 엄밀하지 않음을 알았고 (위키백과)

저명한 수학자 프리드리히 가우스(1777~1855)는 "무한은 신의 영역이다."라고 말할 정도로 (정확한 출처는 찾지 못함)

무한을 엄밀하게 다루는 것은 어려운 일이었다. 

 

게오르크 칸토어(1845~1918)는 집합론에 기반하여 무한을 정의하고 다루기 시작했는데, 이것이 현대적인 무한의 정의라고 평가받는다.

기원전 200년부터 다뤄지기 시작한 무한이 1800년대 말에서야 엄밀하게 정의되기 시작한 것이다.

약간 과장 보태서 2500년의 수학 역사에서 무한이 제대로 이해되기 시작한 것은 불과 100년 남짓이라 할 수 있다.

 

이번 글에서는 무한이 '크기 비교'가 가능하다는 것이 어떤 뜻인지,

그리고 교양 수준에서 이해할 수 있는 가장 아름다운 크기 비교 증명인 '대각선 논법'을 소개하겠다.

 

1. 힐베르트의 호텔

 

힐베르트의 호텔은 수학에 관심이 있는 사람이라면 한 번쯤은 들어봤을, 무한을 다루는 가장 유명한 예시이다. 

모르는 사람이 있을 수 있으니 일단 힐베르트의 호텔 예시를 소개한다.

 

객실이 무한 개가 있는 호텔이 있다. 이 호텔의 방에는 1번부터 번호가 쭉 달려있고, 모든 방에는 투숙객이 머무르고 있다.

 

그런데 새로운 투숙객이 방문했고, 남는 방이 있는지 묻는다.

당연히 남는 방이 없는데, 과연 이 투숙객은 호텔에 머무를 수 있을까?

 

만약 호텔의 방이 유한하다면, 가령 10개의 방이 있다면 10명의 투숙객이 있다면?

새로운 투숙객이 방을 구하는 것은 누군가를 내보내지 않는 이상 당연히 불가능하다.

(굳이 증명하자면, 비둘기집의 원리를 사용하면 된다.)

 

하지만 방이 무한 개라면?

놀랍게도 기존의 투숙객을 쫓아내지 않고도 새로운 투숙객이 방을 구하는 것이 가능하다.

 

1번 방 투숙객은 2번 방으로,

2번 방 투숙객은 3번 방으로,

3번 방 투숙객은 4번 방으로,

...

이런 식으로 투숙객들의 방을 이동하면

모든 방 투숙객은 새로운 방을 찾을 수 있으며,

1번 방이 남게 되므로 새로운 투숙객은 1번 방에 들어가면 된다.

 

방이 무한 개라는 조건이 이런 신기한 현상을 만들어낸 것이다.

 

 

그렇다면 만약 무한 명의 새로운 투숙객이 온다면 어떨까?

한 번 더 놀랍게도, 이 경우에도 모든 투숙객을 수용하는 것이 가능하다.

 

1번 투숙객은 2번 방으로,

2번 투숙객은 4번 방으로,

3번 투숙객은 6번 방으로,

...

기존의 투숙객들을 방 번호에 2를 곱한 방으로 이동시키면

홀수번 방들이 모두 남으므로 이 방에 무한 명의 투숙객을 새로 수용할 수 있게 된다.

(1000번 방 투숙객은 2000번 방으로 이동하느라 꽤 오래 걸어가야 할테니 애도를 표한다.)

 

 

심지어 무한 개의 버스에 각각 무한 명의 투숙객을 태우고 오는 것과 같은 극단적인 상황에서도

이 모든 투숙객을 수용할 수 있는 방법은 존재하며, 방을 남기는 것조차 가능하다.

(자세한 방법은 생략하겠다.)

 

 

힐베르트의 호텔 예시에서 호텔이 수용한 투숙객의 수를 '무한의 크기'라고 생각해보자.

이미 무한 명의 호텔을 수용하던 호텔은, 한 명을 더해도, 무한 명을 더해도, 심지어 무한 x 무한 명을 더해도 여전히 투숙객을 수용할 수 있다.

그렇다면 무한 + 1 = 무한, 무한 + 무한 = 무한, 무한 + 무한 x 무한 = 무한... 이라는 것 아닌가?

 

아무리 해도 무한을 벗어나지 못하는 것 같은데...

이 글의 주제인 "무한의 크기 비교"는 도대체 어떻게 가능하다는 것일까?

 

2. 집합으로써의 무한

 

물론 무한이라는 개념을 다루기 위한 천재들의 수많은 시도가 있었을 것이며, 

이 중에 왜 '집합론'이 현대적 무한의 기초가 되었는지 그 역사는 필자도 모른다. 

다만 집합이 무한을 기술하는 최고의 수학적 도구라는 것을 받아들여주길 바란다.

 

원활한 이해를 위해 유한한 집합에서 시작해보자.

{1, 2}라는 집합과 {3, 4, 5}라는 집합은 크기가 같은가?

당연히 전자는 원소가 2개이고, 후자는 원소가 3개니까 후자가 더 크다.

 

그렇다면 무한집합은 어떨까?.

[자연수들의 집합]과 [짝수들의 집합]은 크기가 같은가?

유한집합의 예시에서처럼, 각각의 원소의 개수를 세려고 했는데,,,

아차. 둘 다 원소의 개수가 무한이라 '수'로 표현할 수가 없다.

(무한은 '수'가 아님을 잊지 마라!!)

 

다른 접근 방식을 생각해보자. 

아! [자연수들의 집합]은 [짝수들의 집합]을 포함하니까, [자연수들의 집합]이 더 크다고 할 수 있을 것 같다.

즉 '포함관계'가 성립하는 경우에 크기 비교가 가능하다고 정의하는 것이다.

하지만 이러면, 기초적인 예시인 {1, 2}와 {3, 4, 5}조차도 크기 비교가 불가능해진다.

둘 사이엔 포함관계가 없지 않은가!

 

2.1. 일대일 대응을 통한 크기 비교

 

다행히 수학자들은 유한집합에서 무한집합으로 확장할 수 있는 '크기 비교의 규칙'을 만들어냈다.

게오르크 칸토어는 "일대일 대응이 가능하면 집합의 크기는 같다"라는 정의로 크기 비교를 설명한다.
(일대일 대응의 정의는... 상식선에서 이해해도 괜찮으니 생략. 전단사 함수까지 언급하긴 솔직히 귀찮음.)

 

자연수와 짝수 예시는 어떻게 적용될까? 

아래 그림 한 장으로 거의 설명된다. 모든 자연수가 어떻게 모든 짝수와 대응되는 지 살펴보자.

 

 

그렇다면 집합 A가 집합 B보다 크다는 것은 어떤 의미일까?

집합 B에서 화살표를 쏴서 아무리 집합 A에 대응시키려고 노력해도, A에 원소가 남는다는 것이다.

(좀 더 정확하게는, B에서 A로 가는 단사함수가 존재한다...로 정의된다.)

 

2.2. 자연수 vs 다른 무한 집합

 

몇 가지 다른 예시를 살펴보자.

자연수와 정수도 아래와 같이 일대일 대응이 가능하다.

 

심지어 유리수도, 유리수가 '분수 표현이 가능한 수'라는 정의를 상기하면,

유리수는 (분모, 분자)로 대응되는 좌표공간 상의 점으로 표현할 수 있고,

모든 점을 아래와 같이 자연수로 numbering이 가능하니 일대일 대응이 가능하다.

 

요약하자면, 자연수, 짝수, 홀수, 정수, 유리수 등은 모두 '무한 집합의 크기'로써는 같은 것이다!

증명은 생략했지만 소수(prime number)도 가능하다.

 

자연수와 유리수를 각각 수직선에 점을 찍었다고 생각해보면 이 결과가 조금 더 놀랍게 느껴진다.

자연수는 누가봐도 듬성듬성 점이 찍히지만,

유리수는 꽤나 빽빽하게 점이 찍혀 빈 공간의 (거의) 없어 보인다.

그런데 점의 갯수가 같다니!?

 

 

3. 하지만 실수는 강력해서 자연수보다 크다. 왜? 대각선 논법

 

자연수는 이미 정수와 유리수까지 맞먹는다는 것을 알고 있기에,

잘하면 실수도 맞먹지 않을까? 라는 생각이 들 수 있다. (솔직히 나도 그랬다. 자연수가 너무 강력해보였다.)

 

다행히도 우리 현대적 무한의 창시자, 게오르크 칸토어는 대각선 논법을 사용하여

실수의 크기가 자연수의 크기보다 크다는 것을 증명해냈다. 

 

먼저 실수의 힘을 많이 줄여서, 0부터 1 사이의 실수만 생각해보자.

0부터 1 사이의 실수만으로도 자연수보다 크다는 것을 증명하면, 당연히 실수 전체는 훨씬 클 거니까.

 

3.1. 대각선 논법

 

귀류법을 사용하자. 결론을 먼저 부정해보자.

자연수와 0~1의 실수가 일대일대응이 된다고 가정하는 것이다.

그럼 위에 나온 그림들처럼, 모든 0~1 실수에 '번호'를 붙이는 것이 가능하다.

 

그런데 만약, 어떤 식으로 번호를 붙여도 항상 '번호가 아직 안 붙은 남는 실수'가 있다면?

내가 아무리 번호를 잘 붙이려고 노력해도, 남아있는 실수가 '너의 넘버링은 나를 포함하지 못하니 틀렸어!'라고 한다는 거다.

 

일단 넘버링을 했다고 해보자. 

 

a1 = 0.451837229....

a2 = 0.129568237...

a3 = 0.923781832...

a4 = 0.348127932....

...

 

자 이제 이런 넘버링에 포함되지 않는 새로운 실수 r을 '잘 찾아내면' 된다.

생각보다 쉽다.

 

r도 0.abcde... 의 형태로 만들어내는데,

a는 a1의 첫째자리인 4가 아닌 수를 고르고,

b는 a2의 둘째자리인 2가 아닌 수를 고르고,

c는 a3의 셋째자리인 3이 아닌 수를 고르고,

...

 

이걸 반복하면 r은 a1와도, a2와도, a3와도 다른 '새로운 수'가 탄생하는 것이다.

다시 말해, a1, a2, a3, ..로 이어지는 넘버링은 실수 r을 포함하지 못했다.

 

아래 사진을 보면 좀 더 쉽게 이해된다. (출처 위키백과)

(사진은 2진법을 기준으로 했다)

 

이렇게 소숫점의 대각선을 이용해 새로운 숫자를 뽑아내는 것은,

우리가 넘버링을 아무리 정교하게 해도 항상 가능하다. 

 

즉, 0~1을 넘버링하는 것 자체가 불가능하다는 결론이 나오는 것이다.

즉, 실수집합은 자연수 집합과 일대일 대응이 불가능하다.

즉, 실수집합은 자연수 집합보다 크다.

 

(3.1.1. 무리수)

 

다음 단락으로 넘어가기 전에, 무리수도 한 번만 검사하고 넘어가자.

집합으로써 실수 = 유리수 + 무리수이다. 무리수의 정의가 애초에 '분수로 표현할 수 없는 실수'니까.

그렇다면 무리수는 자연수와 크기가 같을까?

 

정답은 아니다.

만약 무리수도 자연수와 크기가 같다면, 유리수와 무리수가 모두 자연수와 크기가 같으므로,

힐베르트 호텔에 무한 명의 새로운 투숙객이 왔을 때처럼

유리수 + 무리수도 자연수로 일대일 대응이 가능해진다.

그렇다면 실수 = 유리수 + 무리수니까, 실수도 자연수와 일대일 대응이 가능해진다는, 우리가 앞서 이미 반증한 결론에 도달한다.

그러므로 무리수는 자연수와 일대일대응이 불가능하며, 자연수보다 크다.

 

3.2. 셀 수 있는 무한과 셀 수 없는 무한

 

한 번 정리해보자. 편의상 ~을 '크기가 같다'라고 쓰겠다.

그리고 복소수도 증명을 생략하고 실수와 크기가 같다는 것을 받아들이겠다.

(무한집합은 무한집합의 제곱과 크기가 같다는 정리가 있다.)

 

자연수 ~ 짝수, 홀수, 소수, 정수, 유리수

실수 ~ 무리수, 복소수

 

이제 우리에게 익숙한 수 체계는 모두 무한의 크기로써 위계가 정리됐다.

 

수학자들은, 아니 솔직히 수학자 뿐만 아니라 모든 학문영역에서

이런 상황에서 '이름 붙이기'를 참을 수 없다.

다행히 수학자들은 매우 직관적이고 예쁜 이름을 붙여놨다.

(항상 한글이름이 더 별로인 것 같은 느낌이 든다.)

 

자연수 ~ 짝수, 홀수, 소수, 정수, 유리수 : 셀 수 있는, 가산, countable

실수 ~ 무리수, 복소수 : 셀 수 없는, 불가산, uncountable

 

3.3. 칸토어 집합 (Cantor Set)

 

독자들의 머리를 한 번 어지럽히기 위해서, '셀 수 없는 집합' 중 가장 불가사의한 놈을 하나 소개한다.

 

수직선에 점을 찍는 놀이를 하고 있다고 생각해보자.

 

자연수, 홀수, 소수, 정수 모두 점을 찍어보면 듬성듬성 찍힌다.

수직선에 마치 격자가 눈에 보이는 것처럼.

 

유리수부터는 coutable임에도 수직선에 점이 빼곡하게 찍힌다. 빈공간이 보이지 않는다.

무리수, 실수는 당연히 uncountable이니 유리수보다 빼곡해진다.

(하지만 더 빼곡해졌다는 것을 우리 눈은 눈치채지 못한다.)

 

그런데 만약, 점이 듬성듬성 찍혀서, 자연수마냥 온 수직선이 비어있는 것처럼 보이는데도

uncountable인 집합이 있다면 믿을 수 있겠는가?

당연히 있으니까 단락까지 분리하며 소개하는 것이며, 그 이름이 바로 칸토어 집합이다.

(왜 칸토어 집합이 uncountable인지 증명은 생략한다. 왜 이것이 직관과 반하는지만 소개하겠다.)

 

칸토어 집합을 만들어내는 것은 매우 쉽다.

먼저 0~1의 모든 실수에서 시작한다.

여기서 1/3과 2/3 사이의 모든 수를 제거한다. (이 때 경계에 있는 1/3과 2/3은 제거되지 않는다.)

그 다음, 남아있는 두 개의 조각 중 또 가운데 1/3씩을 제거한다. 1/9~2/9, 7/9~8/9가 제거된다.

또 남아있는 네 조각 중 가운데 1/3을 도려낸다.

...

 

이 과정을 시각화 하면 아래와 같다 (위키백과)

 

위 사진은 불과 7단계만 거친 것인데, 맨 아랫줄은 벌써 꽤나 듬성듬성해보인다.

 

칸토어 집합은 어떠한 구간도 포함하지 못한다. 

여기서 구간은 '1부터 2까지 모든 실수'와 같이 수직선에 '선'과 대응되는 영역을 말한다.

우리가 구간을 아무리 작게 잘 잡아도, 위 그림처럼 1/3씩 제거하는 과정을 반복하면 결국 그 구간도 언젠간 제거되거나 분리된다.

 

심지어 칸토어 집합은 조밀성조차 만족하지 않는다.

유리수는 아무렇게나 두 수를 뽑아도 그 사이에 새로운 유리수가 반드시 존재한다.

하지만, 칸토어 집합은 두 수를 뽑으면, 가령 1/3과 2/3을 뽑으면 그 사이에 아무런 원소도 존재하지 않는다.

 

수직선에 그려진 그림상으로는,

아무리 봐도 유리수보다도 덜 빼곡하고 작아보이는 이 칸토어 집합이, 

집합의 크기로써는 uncountable이므로 유리수보다도 훨씬 큰 것이다!

증명하진 않지만, 심지어 칸토어 집합은 유리수보다 클 뿐 아니라 실수 집합과 크기가 같다.

 

개인적으로, 칸토어 집합을 배웠을 때가 해석학을 배우는 중 처음으로 머리가 멍해진 순간이었다.

당연히 수학과 직관이 반하는 경우가 있을 것이라고는 생각했지만,

이 정도로 심각하게 직관에 반할 줄은 예상하지 못했던 것이다.

 

심지어 칸토어 집합에 기반한 칸토어 함수라는 것까지 배우면, 

우리가 직관적으로 알고 있는 길이와 부피와 같은 '크기' 개념까지 뒤틀어버리는 미친 짓들이 튀어나온다.

 

4. 연속체 가설과 초한기수

 

수학의 역사에 절대 빼놓을 수 없는 정리 중에, '불완전성의 정리'라는 것이 있다.

수학의 논리 체계가 완전할 수 없다는 것을 증명한,,, 처음 들으면 '뭔 소리야 그게 증명 가능한 거야?'라는 생각이 드는 정리이다.

(솔직히 필자도 아직 정확하게는 모르겠다)

 

변태같을 지언정 적어도 논리적으로는 완전하다고 알려졌던 수학이, 사실은 완전하지 않다는 것이 알려짐으로써

비슷한 시기 발표된 불확정성의 원리와 함께 당대 과학계뿐만 아니라 철학계까지도 뒤흔들어버린 것으로 유명하다.

 

불완전성의 정리는, 우리가 아무리 수학 체계를 견고하게 세워도 '증명도 반증도 불가능한 명제가 존재한다'는 것을 말한다.

 

마치 황희 정승의 '너 말도 맞고 쟤 말도 맞구나'를, 무려 수학에서 할 수 있는 것이다.

아니,,, 우린 분명 중학생 때 배우지 않았나? 명제란 참과 거짓을 구분할 수 있는 문장을 말한다.

아니 그런데 증명도 반증도 불가능하다니?

 

불완전성의 정리의 놀라움은 일단 뒤로하고, 불완전성의 정리는 그런 변태같은 명제가 '존재한다'는 것만 말해주지,

실제로 어떠한 이 정리에 명제가 해당되는지는 알려주지 못한다.

 

그리고 이번 단락에서 소개하고자 하는 연속체 가설이 바로, 불완전성 정리의 가장 대표적인 예시이다.

쿠르트 괴델에 의해 1938년 반증 불가능함이 증명되었고,

폴 코언에 의해 1963년 증명 불가능함이 증명되었다. (폴 코언은 이 공로로 수학의 노벨상, 필즈상을 받았다.)

 

4.1. 연속체 가설

 

연속체 가설은, 자연수보다는 큰데, 실수보다는 작은 무한집합이 없는가?라는 질문이다.

앞에서 말했듯 연속체 가설은 증명도 반증도 불가능함이 알려졌기 때문에,

있다고 해도 맞고 없다고 해도 맞다.

 

좀 tough하게 말하면,

연속체 가설이 참이라고 믿을지 거짓이라고 믿을지 결정하는 것은

마치 판타자 세계의 세계관에 설정을 추가하는 것과 같다.

 

내가 어떠한 수학 체계 위에서 연구를 진행할 지 내가 결정할 수 있는 것이다.

내가 어떠한 세계관에서 살지를 내가 결정할 수 있는 것이다.

 

위키백과에 따르면, 

2006년 얀 미치엘스키라는 수학자가 '연속체 가설을 참이라 믿는 것이 합리적이다'라고 주장한 것을 보면,

지금 수학자들 사이에서 대세인 세계관은 연속체 가설이 참인 세계관인 것 같다.

 

4.2. 초한기수

 

수학자들의 연구 덕에, 무한들끼리의 크기 비교에도 넘버링이 가능하다는 것이 밝혀졌다.

(정확하게는 자연수에 대응하는 '넘버링'은 아닌데, 편의상 '넘버링'이라고 하겠다.)

 

즉, 무한 중 가장 작은 무한을 N_0이라고 하고, 그 다음으로 작은 무한을 N_1이라고 하고, 
N_2, N_3, ...등등 이름을 붙여나갈 수 있음을 증명한 것이다.

이러한 표기법을 '초한기수'라고 한다.

(원래는 N이 아닌 '알레프'라고 하는 아래 사진처럼 생긴 기호이다.)

 

 

좀 더 자연어스럽게 표현하자면, 

'가장 작은 무한'이 있고,

'그 다음으로 큰 무한'이 있고,

또 '그 다음으로 큰 무한'이 있는 것이다.

 

아이언맨의 딸이 고등학생쯤 되어 '3000만큼 사랑해!'가 아닌 '무한대만큼 사랑해!'라고 했을 때,

아이언맨이 '알레프 1만큼 사랑해!'라고 딸에 대한 더 큰 사랑을 어필할 수 있는 것이다.

(이게 뭔 개소리야)

 

한편, 초한기수는 연속체 가설과도 떼어놓을 수 없다.

초한기수는 무한끼리의 순서를 나열할 수 있음을 기호화한 것인데,

연속체 가설이 바로 가장 대표적인 무한인 '자연수'와 '실수'의 크기 비교와 관련된 가설이니까.

 

(4.3. 뒤늦은 해명)

 

사실은 연속체 가설이 초한기수에 기반한 2^(N_0) = N_1 이냐... 이기 때문에,

초한기수를 먼저 설명하지 않으면 연속체 가설을 설명할 수 없다.

하지만 이미 실수 = 2^자연수 = 2^(N_0)임이 알려져 있기 때문에,,,

초한기수를 설명하지 않고 연속체 가설을 먼저 설명해도 된다고 생각했다.

 

절대로 연속체 가설을 먼저 써버려서 지우기 귀찮은 것이 아니다.

 

5. 마치며

 

먼저 0.999... = 1 글이 반응이 꽤 괜찮았던 것 같다. 읽어주신 분들께 너무너무 감사드린다.

댓글도 매우 좋았다. 글 자체를 좋아하신 분들도 고맙지만, 의견일 제시해주신 분들은 더더욱 고맙다.

 

전 글에서는 '무한표현', '무한급수'와 같이 일단 '무한'이라는 개념을 받아들인 이후의 개념을 다뤘다면,

이번 글은 칸토어의 대각선 논법을 중심으로 '무한' 그 자체를 다루고자 했다.

독자들에게 '무한' 2탄으로써 재미있게 읽히길 바란다.

 

읽을 거리 판에 글을 쓰는 목적 자체가 '수학을 전공하지 않은 사람들도 이해할 수 있는 글'이다보니

주제가 한정되고 내용 전개 방식도 꽤나 한정되는 느낌을 많이 받는다.

 

전 글의 댓글을 통해 '수렴의 정의', '해석적 확장과 라마누잔 수', '선택공리와 바나흐-타르스키 역설' 등등

써봄직한 주제들이 꽤 되는데, 실제로 어떤 식으로 전개해야 재미있을 지는 좀 더 고민해보겠다.