0. 들어가며

 

전공수학을 공부하지 않은 일반인을 대상으로 한 수학과 관련된 굉장히 오래된 떡밥이 있다.

 

그것은 바로

왜 0.9999.... = 1이 성립하느냐이다.

 

인터넷에 보면 참 다양한 증명방법들이 언급되는데, 

사실 수학에 관심있는 사람이라면 이름 정도는 들어봤을 입실론-델타 논법을 제외하면 모두 틀린 증명이다.

 

입실론-델타 논법은 아래 영상에 매우 잘 설명되어 있지만

수학을 좀 깊이 공부한 사람들이 아니면 영상 1분 10초부터 뇌정지가 매우 쎄게 올 것이다.

https://www.youtube.com/watch?v=oV21qqf0KaM

 

"어? 내가 다른 증명들도 몇 개 봤던 것 같은데 걔들이 다 틀렸었다고?" 라는 생각이 든다면

이 글을 읽으면 된다.

 

대부분의 사람들은 애초에 이걸 궁금해하지도 않는다.

이런 질문을 한 것만으로도 당신은 정답에 굉장히 근접한 것이다.

미리 감사하다는 인사를 전한다.

 

 

1. 그 증명들은 도대체 왜 틀렸는가

 

일단 수학자들이 정말 변태같은 정도로 엄밀함에 집착하는 것은 이해해주길 바란다.

왜 수학자들이 변태가 되었는가...는 글이 하나 따로 필요할 정도로 장황한 설명이 필요하다.

 

일단 0.999... = 1라는 명제는, '실수'의 굉장히 중요한 성질을 담고 있는 명제이다.

앞서 말한 엄밀함을 지키기 위해, 우리가 사용할 수 있는 증명의 재료들을 먼저 나열해보겠다.

 

1. 실수는 덧셈과 곱셈이 잘 정의된다 ('체'로써 실수의 성질)

2. 실수는 크기 비교가 가능하다 (실수의 순서 공리)

3. 실수에서의 수열이 수렴한다면, 그 수렴값도 실수이다. (실수의 완비성)

 

우리는 증명에 진짜 이거 3개 말고는 아무것도 못 쓴다고 생각해야 한다.

하다못해 그림도 그릴 수 없다. 

 

이제 시작해보자.

 

1.1. 0.3333... = 1/3이니까 양변에 3을 곱하면 0.999... = 1이다.

 

꽤나 흔하게 보이는 증명방법이다.

하지만 논리를 조금 공부했다면 순환논증의 오류라는 것을 바로 눈치챌 것이다.

 

'그럼 왜 0.3333... = 1/3이야?'라고 역질문하면 바로 증명이 원점으로 돌아가버린다.

부디 '0.333... = 1/3이라는 건 중학교 때 배우잖아'라고 반론하는 사람은 없길 바란다.

 

아 물론 0.3333... = 1/3이 틀렸다는 말은 아니다. '증명의 재료로 사용할 수 없다'는 것이다.

 

같은 논리로, 0.1111.... = 1/9에서 시작하는 증명도 틀렸다고 할 수 있다.

 

1.2. 0.9999.... = 1 - 0.00000....1 인데 0.000....1 = 0이니까 0.999... = 1이다.

 

1.1.과 마찬가지로 순환논증의 오류이다. 0.0000...1은 왜 0인가? 라고 역질문하면 끝난다.

 

오히려 0.000....1이 남으니까 0.9999... != 1이다라고 주장하는 사람들도 꽤나 자주 보이는데,

0.000....1은 0이 무한히 붙어가고 있으므로 도저히 1이 자리잡을 곳이 없으므로

'그냥 어딘가에 1이 붙어있는 존나 작은 수'가 아니다. 

 

0.000...1의 정체를 좀 더 자세히 설명하는 것은 0.999...의 정체를 자세히 설명하는 것과 같으므로,

후술할 0.999... = 1의 제대로 된 증명으로 그 설명을 대신하겠다.

 

1.3. 0.9999.... = x 이라고 하면 9.9999... = 10x이고, 식끼리 빼면 9 = 9x 이므로 x = 1이다.

 

안타깝게도 이것 역시 엄밀하게는 틀린 증명이지만, 중고등학교 수준에서는 맞는 증명이라고 생각한다.

 

완전히 같은 논법을 숫자만 바꿔보면 도저히 말도 안 되는 결론이 나온다.

 

11111.... = x

(x - 1) / 10 = 11111... = x

x = (x - 1) / 10

10x = x - 1

x = -1/9

 

근데 1111... = -1/9 는 누가봐도 거짓이지 않은가?

도대체 어디서부터 잘못된 것인가?

 

정답은 0.9999... = x라고 선언한 것이다.

 

아니 그냥 "어떤 수에다가 이름만 붙인 건데 이게 왜?" 싶을 것이다.

문제는 0.999...가 '어떤 실수'라는 보장이 없다는 것이다. 

마치 1111...이 실수가 아닌 것과 같다. 

 

그렇다면 0.999... 가 실수라는 것을 따로 증명해주면 이 증명은 맞는 증명이 되는가?

놀랍게도 그것조차 부족하다.

0.999... = x의 양변에 10을 곱하는 연산이 왜 가능한가.. 까지 별도로 증명해주어야 한다.

무한의 세계에서는 +1 과 같은 간단한 연산조차도 함부로 다룰 수 없는 것이 엄밀한 수학의 현실이다.

 

1.4. 0.999...와 1 사이에 다른 수가 들어갈 수 없으므로 둘은 같은 수이다.

 

꽤 그럴 듯해 보인다.

하지만.... '어 왜 다른 수가 들어갈 수 없어?'가 다시 질문으로 남는다.

 

0.999...와 1 사이에 다른 수가 들어갈 수 없다는 게 너무 당연해 증명이 필요없어 보인다면

실수의 성질 1, 2, 3번을 다시 읽어보길 바란다.

우리는 저 세 개의 문장만으로 증명을 완료해야 한다.

 

 

2. 0.999... = 1의 제대로 된 증명

 

그렇다면 제대로 된 증명은 무엇인가. 당연히 답은 입실론-델타 논법이다. 

하지만 이 글에서 어려운 수학 기호들을 쓸 생각은 없다. 입실론-델타 논법을 설명할 생각도 없다.

 

그냥 1번 항목에서 가장 헷갈릴만한 포인트인, 0.999... = x라고 선언하는 것조차 안 된다는 부분에 대해 좀 더 설명하고자 한다.

결론부터 말하자면, 0.999... = x라고 선언하는 것은 약간의 논증을 거치면 가능하다.

 

먼저 "0.999..."라는 표현이 도대체 무엇을 말하는 것인지부터 생각해봐야 한다.

저 놈의 "..."이라는 표현이 직관적으로는 쉽게 이해되지만, 수학적으로 엄밀하게 표현하는 것은 매우 어렵다.

 

진짜 엄밀하게 말하면 덧셈의 항등원인 0과 곱셈의 항등원인 1을 이용하여

수를 10진법으로 표현하는 방식을 정의하고,

이 정의에 기반해 소숫점 표현과 분수 표현을 정의하는 것부터 시작해야 한다...

 

적당히 넘어가고, 수학자의 눈에는 "0.999..."라는 표현이 아래 수열의 극한으로 보인다는 것을 받아들여주길 바란다. (*1)

0.9    0.99    0.999    0.9999    0.99999    .....

 

여기에 수학과 2학년 해석학 수업에서 배우는 정리를 하나 적용할 수 있다.

"위가 막혀는데 계속 커지는 수열은 수렴한다."

 

우리는 실수의 성질 2번에서 실수는 크기 비교가 가능하다고 했다.

크기 비교조차도 막 변태같은 방식일 것이라고는 걱정하지 않아도 된다.

우리가 생각하는 상식적인 크기 비교이다.

 

이 수열이 계속해서 커지는 수열임은, 크기 비교가 가능하다고 했으니 자명하다.

 

위가 막혀있다 함은, 수열 전체보다 큰 어떤 상한을 잘 잡을 수 있음을 의미한다.

이 수열에서는 1이 그 역할을 할 수 있다.

1은 0.9보다도, 0.99보다도, 0.999보다도 크거나 같다.

하지만 9가 무한히 뻗어나가는 0.999... 보다도 크다는 얘기는 아니다.

수열의 원소들은 모두 9가 유한하게 뻗어있다.

100번째 원소는 9가 100개, 1000번째 원소는 9가 1000개이다.

수열의 '모든' 원소는 9가 무한하지 않으며, 이것들이 1보다 작다는 것은 자명하다.

 

앞 두 문단으로 인해, 언급한 정리를 적용할 수 있고, 이 수열이 '수렴함'이 증명된다. 

여기에 실수의 3번 성질에 의해 0.999...는 실수값임을 알 수 있고,

비로소 0.999... = x라고 선언하는 것이 가능하다는 것을 증명한 것이다.

 

(*1)

수열이 뭔데? 극한이 뭔데?라고 반문하는 사람이 있을 수도 있다고 본다.

수학은 엄밀하니까! 수열이나 극한이라는 표현도 못 써야 하는 거 아니냐!

충분히 좋은 지적이다. 하지만 용어를 새롭게 정의하는 것은 엄밀함에 반하는 행동이 아니다.

그 용어의 정의가 수학적으로 명확하면 된다.

본문에서는 수열이 뭔지 극한이 뭔지까지 정의하면 너무 길어지니까 생략한다.

 

 

3. 그런데, 0.999... = 1이 아닐 수도 있다?

 

여기부터는 진짜로 변태같은 영역이니 솔직히 안 읽어도 된다.

읽는다고 하더라도, 처음 보는 분이라면 이해가 안 되는 것이 당연하니 낙담하지 않아도 된다.

 

3.1. 위 모든 논의의 숨겨진 가정, "실수"

 

만약 위의 모든 논의를 "실수"가 아닌 영역에서 전개한다면 정말 머리가 깨질듯이 아픈 상황이 펼쳐진다.

우리가 생각하는 "실수"란, 사실 1, e, pi와 같은 수뿐만 아니라 그들 사이의 연산, 크기 비교, 거리 계산 등이 모두 포함된 개념임을 받아들여야 한다.

만약 수들은 그대로 유지하되, 크기 비교가 불가능하다면? 혹은 거리 계산이 불가능하다면? 바로 대환장 난장판이 펼쳐진다.

수학자들은 덧셈과 곱셈, 크기 비교, 거리 계산, 완비성 등등 무엇이라도 하나를 빼먹으면 그것을 "실수"라고 부르지 않는다.

 

3.2. 아니 그러면 "실수"가 아니라는 게 도대체 뭔데?

 

만약 0.999... = 1의 모든 증명을 "실수"가 아니라 "복소수"의 원소로써 생각하고 시작했다고 해보자.

복소수와 실수의 가장 큰 차이점은, 복소수에서는 크기 비교가 가능하지 않다는 것이다.

 

만약 우리가 손가락으로 숫자를 세서 자연수를 익히고,

곱셈과 나눗셈을 배워 유리수를 익히고,

(어찌어찌) 실수를 익히고, 

-1 제곱근이라는 미친 짓을 보며 복소수를 익히는

이러한 교육과정을 따르지 않고 처음부터 복소수부터 배웠다고 생각해보자.

 

그렇다면 우리는, 수는 원래 2차원 공간에 흩뿌려져 있으며, 수 사이의 크기 비교는 원래 안 된다고 생각하는 게 익숙할 것이다.

 

이 상태에서 위의 증명을 본다면?

"1이 0.9보다 크다고? 왜?" 라는 질문이 가장 먼저 나오게 된다.

똑같이 0.999...와 1이라는 숫자들을 다루고는 있지만,

크기 비교가 불가능하니까 증명의 가장 중요한 부분이 박살나버리는 것이다.

 

허허.. 미치고 팔짝 뛴다. 

 

3.3. 그래도 어찌어찌 잘하면 똑같은 결과, 그러니까 0.999... = 1를 증명할 수 있지 않을까?

 

불행하게도 아니다.

다시 말해, 실수의 성질을 받아들이지 않으면 0.999... 과 1은 다르다는 결론을 만들어낼 수 있다.

 

위에서 필자가 사실은 '수렴한다'라는 단어를 정의하지 않았음을 눈치챘는가?

'수렴한다'는 표현은 사실 수학적으로 '거리가 가까워진다'를 함축하고 있다.

즉, '거리'가 잘 정의되어 있으면 그걸 기반으로 '수렴한다'를 정의할 수 있는 것이다.

 

하지만 위상수학이라는 수학 분야에서는, 이것을 비틀어버린다.

'거리'를 정의하지 않고도 '수렴한다'를 정의할 수 있도록 새로운 체계를 구축해버렸다.

 

0.999...라는 표현은 사실 "0.9, 0.99, 0.999, ...으로 이어지는 수열의 극한"이라는 것을 다시 떠올려보자.

그런데 위상수학에서 lower limit topology라는 것을 채택하면, 이 극한은 수렴하지 않는다.

다시 말해, 극한값이 존재하지 않는 것이고, 0.999...라는 표현은 애초에 '수'가 아닌 것이다.

그냥 숫자와 "..."을 그럴 듯하게 써놓은 '표현'에 불과해진다.

 

 

4. 엄밀함에 대한 변명

 

필자는 수학과 학부를 졸업했다.

공부를 잘하지는 않았지만, 그래도 학부 수준의 순수수학들의 개념은 대부분 파악했다고 자부한다.

 

수학을 그래도 남들보다는 많이 공부한 나에게, "수학 그거 공부해서 어따 쓰는데?"라는 질문이 들어올 때가 종종 있다.

그냥 "수학"이라고 하면 써먹는 곳이 너무너무 많다. 선형대수학과 간단한 미분방정식만 배워도 공학 분야에서는 써먹을 곳이 넘쳐난다.

하지만 앞서 말한 '엄밀함'에 관해서는, 정말로 쓸 곳이 없다. 아무리 생각해봐도 진짜 없다.

 

그렇다면 이런 쓸데도 없는 짓을 수학자들은 왜 하고 있느냐...

나도 엄밀함에 관한 논쟁이 있을 때의 논문이나 서적을 읽어보진 않았기에 정확한 역사의 흐름은 모른다.

하지만, '엄밀하지 않으면 난장판이 된다'를 수학자들이 경험했기 때문일 것이라 추측한다.

심지어 엄밀함에 엄밀함을 추구해도 온갖 역설이 등장하여 수학의 근간을 흔들어댔으니 말이다. (바나흐-타르스키 역설, 불완전성 정리)

 

또한 엄밀함의 끝에서 등장한 '집합론'은 모든 수학 체계의 가장 기초에 자리잡는 데 성공했고,

해석학, 위상수학, 미분기하학, 대수학 등 적어도 내가 경험한 모든 수학 분야에서

기본적인 용어 및 개념의 정의에 사용되며 모든 수학 분야의 '공통 언어'로써 작동하고 있다.

수학자들에게 있어, '엄밀함'은 일종의 '만국 공통 언어'인 셈이다.