무한소에 대하여
고등학교의 교육 과정에서 미적분을 배우면서 항상 궁금한 것이 있다.
왜 무한대는 있으면서 무한소는 없는 걸까?
이번 글에서는 그래서, 이 무한소에 대해서 얘기 해 보려고 한다. 실제로 여러 과학의 분야에서는 무한소의 개념을 활용하기 때문이다. 그렇다면, 이에 대한 어느 정도의 논리적 토대가 있어야 되지 않을까?
아르키메데스 원리 : 실수에는 무한히 작은 수가 없다.
실수에 대한 공리적 정의는 다음의 글을 확인하기를 바란다.

여기서는 이 실수의 정의로부터 아르키메데스 원리를 이끌어 내려고 한다. 그리고, 아르키메데스 원리의 의미를 살펴볼 것이다.
아르키메데스 원리는 다음과 같다.
\(\forall \epsilon > 0, \exists N \in \mathbb{N} \mathsf{such that} N \epsilon > 1 \)
즉, 실수 내의 아무리 작은 양수라도 충분히 큰 자연수를 곱해주면, 그 곱이 1보다 크다는 뜻이다. 이 명제의 마지막 부분은 다음과 같이 바꿀 수도 있을 것이다.
\[N > \dfrac{1}{\epsilon} \]
양변에 양수 \(\dfrac{1}{\epsilon} \)을 곱한 것이다. 그러면, 이러한 서술로 읽을 수도 있다. 어떠한 양의 실수라도 그보다 큰 자연수가 존재한다. 다시 말해서, 자연수는 위로 유계가 아니다.
귀류법으로 증명하려고 한다. 만약, 증명을 읽지 않고, 직관적으로 받아들이기로 했다면, 이 다음 두 문단은 넘어가도 좋다.
자연수가 위로 유계라고 하자. 그러면, 실수의 상한 공리에 의해, 상한 \(M \)이 존재한다. 그러면, \(M - 1 \)은 \(M \)이 상한이라는 사실로부터, 마땅히 상계가 아니다. 즉, 어떤 자연수 \(n \)에 대해, \(n > M - 1 \)이다.
여기에서 실수의 순서 공리를 적용하면, 양변에 1을 더했을 때에도, 부등식이 성립해야 한다. 다시 말해, \(n + 1 > M \). 그런데, 어떤 자연수에 1을 더한 수도 자연수이므로, \(M \)은 자연수 \(n + 1 \)보다 작다. 이는, \(M \)이 상계라는 가정에 모순되므로, 자연수는 위로 유계가 아니다.
그렇다면, 아르키메데스 원리가 의미하는 것은 무엇일까? 바로, 실수에는 무한히 작은 수라는 것이 없다는 사실이다. 무한히 작은 실수가 있는데, 이것보다도 더 작은 실수가 있다는 것은 좀 어폐가 있다. 그리고 또한, 무한히 작은 실수를 유한 번 더해서 1보다 더 크게 만들 수 있다는 것도 많이 이상하다.
다시 말해, 무한히 작은 실수란 없다. 무한대가 무한히 커지는 상태이지, 수가 아닌 것처럼, 무한소도 무한히 작아지는 상태라고 얘기할 수는 있어도, 무한히 작은 수가 아니다.
그럼에도 무한소는 수다! : 비표준해석학
그럼에도 무한소를 수로 취급하고 싶을 때가 있다. 이를 위해 존재하는 것이 비표준해석학이다. 이 글은 비표준해석학에 대한 전문적인 글이 아니기 때문에, 간단하게 서술하려고 한다.
먼저, 비표준해석학과 표준해석학 사이에는 이러한 관계가 성립한다.
비표준 해석학에서 증명되는 명제는 표준해석학에서도 증명가능하고, 표준해석학에서 증명가능한 명제는 비표준 해석학에서도 증명가능하다.
결국, 어떻게 보면 입장의 차이라고 생각하면 된다. 공리로부터 유도되는 결과는 두 모델이 같다.
비표준 해석학 상에서는 무한히 작은 수가 존재한다. 하지만, 이 수는 대부분 실수에 존재하는 것이 아니라 초실수 \(\mathbb{R}^* \)에 존재하는 것이다. 비표준 해석학에서는 무한소를 다음의 서술로써 정의한다.
\[\forall x \in \mathbb{R}, 0 \le \epsilon < x \]
물론 정의로부터, 0은 실수이면서 무한소인 유일한 수가 된다.
위의 정의로부터 또한, 임의의 무한소 \(\epsilon \)에 대해서 아르키메데스 성질을 만족하지 않음을 알 수 있다. 무한소 \(\epsilon \)은 말 그대로 무한히 작은 수이기 때문에, 아무리 더한다고 하더라도, 그 합은 어떠한 임의의 실수보다도 작다. 만약, \(N \)번 더해서 어떠한 실수 \(x \)보다 커진다고 한다면, 그 수는 결국 실수 \(\dfrac{x}{N} \)보다 크기 때문이다. 따라서, 정의에 의해, 무한소는 아무리 더해도 무한소가 된다.
또한, 비표준 해석학에서는 무한대도 수로 가져올 수 있다. 이때, 무한대 \(H \)의 정의는
\[\forall x \in \mathbb{R}, x < H \]
이다.
마지막으로, 비표준 해석학을 맛 보기 위해서는, \(\sim \)이라는 기호를 정의해야 한다. \(x \sim y \)라는 것은 \(|x - y| \)가 무한소라는 의미이다.
그러면, 이런 정의들로부터, 함수의 연속, 미분, 적분 등을 무한소의 관점에서 얘기할 수 있게 되고, 여타의 과학에서 논하는 미소라는 개념에 대한 논리적인 근거가 생긴다. 예컨대, 함수 \(f(x) \)에서 \(x \)가 실수 \(a \)로 갈 때의 극한은 다음과 같이 정의된다.
모든 \(x \neq a, x \sim a \)인 초실수 \(x \)에 대하여, \(f(x) \sim L \in \mathbb{R} \)이면, \(L \)을 함수 \(f(x) \)의 \(x \)가 실수 \(a \)로 갈 때의 극한값이라고 한다. 이러한 \(L \)이 존재하지 않으면, 극한은 없다.
0.999... = 1
이것에 대한 증명은 상당히 많이 찾아볼 수 있고, 또한 널리 알려져 있다. 중학교만 나온다고 하더라도 \(0.\dot{9} = 1\)임을 안다. 하지만, 이는 실수 위에서 같은 것이다. 사실상 \(0.\dot{9} \)가 주는 느낌은 \(1 \)보다 작은 느낌이다.
비표준 해석학의 무한소를 도입하여, 이런 느낌을 표현하면, 무한소 \(h \)에 대해서,
- \(0.\dot{9} < 1\)
- \(0.\dot{9} + h = 1\)
- \(0.\dot{9} = 1 - h\)
라고 할 수 있다. 결국, 비표준 해석학 상에서 무한소의 범주까지 들여다보면, \(0.\dot{9} < 1 \)이다라는 주장을 할 수 있다.
그러나, 비표준 해석학에서는 또한, \(\mathsf{monad} \)라는 것을 도입한다. 정의는
\[\mathsf{monad}(x) = \{y\in \mathbb{R}^* | x \sim y \} \]
결론적으로, 실수 \(x \)와 무한히 작은 차이가 나는 모든 초실수 \(y \)를 뜻한다. 위의 논의로부터 우리는 \(0.\dot{9} \)가 \(1 \)의 \(\mathsf{monad} \)에 속한다는 것에 동의할 수 있다. 여기서 \(\mathsf{monad} \)가 의미하는 바가 무엇일까?
\(\mathsf{monad} \)는 사실상 우리가 2개의 수를 다르다고 생각할 수 없다는 뜻이다. 그 간격이 너무 작아서 (무한히 작아서) 우리는 그 둘이 차이가 있다는 사실을 인지할 수 없다.
결론적으로, 위의 논의로부터, 우리는 \(0.\dot{9} < 1\)이라는 주장을 할 수는 있지만, 이것이 사실상 전혀 차이가 있지 않기 때문에 (차이가 무한히 작기 때문에) \(0.\dot{9} \)와 \(1 \)이 동치라고 결론을 내린다. 우리의 인식 체계에서는 \(0.\dot{9} = 1 \)이다.
결론
이 글은 비표준 해석학이나 표준 해석학에 대한 전문적인 글이 아니었기 때문에, 전문성을 원하는 독자들에게는 큰 실망감을 안겨주었을 것이라고 생각한다. 그렇지만, 이 글을 읽고, 많은 독자들이 비표준 해석학이나 무한소의 개념에 관심을 가지고, 더 자세히 찾아볼 것이라고 믿는다. 또한, 일반적인 독자의 경우, 다른 학문에서 사용했던 미소라는 개념을 잘 정립할 수 있었던 기회였기를 바란다.
참고문헌
[1] 표준해석학과 비표준해석학의 패러다임 관점에서 본 ‘제논의 역설’ (2018.06.20) 백승주(가재울고등학교), 최영기(서울대학교)
[2] A Friendly Chat About Whether 0.999… = 1 (2016.05.13) Kalid.
URL : https://betterexplained.com/articles/a-friendly-chat-about-whether-0-999-1/