[강신철]아름다운 수학의 세계로 떠나는 '타임머신'

칸토어·피타고라스·아르키메데스 등 고대 천재수학자들의 고뇌 담아

[백북스와 함께 읽는 책- 무한의 개념]

이 책의 저자 애머 악첼은 과학전문 저술가이자 수학자이다.
'신의 방정식', '페르마의 마지막 정리' 등 여러 권의 과학서적을 펴냈으며, 그의 저서들은 프랑스, 독일, 이탈리아, 중국, 스페인 등 전 세계에서 출간되었고, 우리나라에도 이 책들이 번역되어 출간되었다. 애머 악첼은 대학원에 다닐 때 친구가 보여준 무한수열 수식에 매료되었는데, 이때부터 실무한의 개념과 연속체 가설이라는 현대 수학의 기초를 맨 처음 제안한 칸토어의 생애에 관심을 갖기 시작해서 25년간 자료를 수집하여 이 책을 썼다고 한다.

저자가 이 책을 쓰게 된 동기는 물론 칸토어에서 시작되었지만, 고대로부터 무한의 개념이 어떻게 형성되어 왔고, 갈릴레오, 볼차노, 리만, 바이어슈트라스 등 칸토어 이전에 무한의 개념을 발전시켜온 유명한 수학자들의 생애와 업적을 자세하게 소개하고 있다.

칸토어 이전의 수학자들은 무한의 개념이 가상적으로만 존재한다고 하는 '가무한'의 개념에 머문데 비해, 칸토어는 무한의 개념을 수학적으로 그 크기를 비교하고 연산할 수 있는 '실무한'의 개념으로 바꾸어 놓음으로써 현대수학의 기초를 확립하게 되었다. 현대수학, 특히 해석학은 칸토어의 무한개념이 없이는 존재할 수 없다고 할 정도로 무한 개념이 중요한 위치를 차지하고 있다.

초기 무한의 개념은 철학자 제논의 '아킬레스와 거북'이라고 하는 패러독스가 가장 잘 알려져 있다. 고대인 가운데 가장 발이 빠른 아킬레스에 비하면 거북은 너무 느리기 때문에 얼마간 앞에서 출발한다. 거북이 처음 출발한 지점에 아킬레스가 도착할 무렵이면 거북은 얼마쯤 더 기어갔을 것이므로 발 빠른 아킬레스가 느린 거북을 결코 앞지를 수 없다는 것이 제논의 패러독스다. 제논 이전에도 피타고라스가 √2라고 하는 무리수를 발견하여 수의 무한 개념을 처음으로 구체화시켰다. 그 이후 에우독소스와 아르키메데스라는 학자들이 무한소 개념을 이용하여 넓이와 부피를 잼으로써 무한의 개념을 확장시켰다.

중세에 신학에서 신의 능력을 표현하기 위해 무한의 개념을 이용하기도 했지만, 실무한의 핵심 속성을 처음 생각해 낸 사람은 갈릴레오 갈릴레이였다. 갈릴레오는 원을 무한개의 변을 가진 다각형이라고 정의함으로써 무한의 개념에 다가섰고, 정수의 제곱수가 모든 정수와 일대일 대응한다는 것을 발견하여 무한집합의 핵심 속성을 발견하였다. 그 이후 체코의 성직자, 볼차노와 독일의 수학자 바이어슈트라스가 제한된 공간 내에서 무한수열은 극한점을 갖는다고 하는 볼차노-바이어슈트라스 속성을 발견하였는데, 해석학 분야에서는 매우 중요한 무한 개념이다. 이어서 독일의 수학자 베른하르트 리만이라고 하는 사람이 적분을 발견하여 무한의 개념을 확장시켰는데, 적분은 곡선에 둘러싸인 면적을 구하는 방법이다. 리만적분의 무한합이라고 하는 개념이 나중에 칸토어가 무한 연구를 하는 출발점이 된다.

흔히들 수학은 과학의 언어라는 말을 확대해서 수학자와 과학자를 동일시하는 오류를 범하는데, 엄밀히 말하면 수학과 과학은 전혀 별개의 영역이다. 과학은 실험과 관찰이 수반되어야 하는데 수학은 실험과 관찰이 없어도 얼마든지 상상력만으로도 가능하기 때문이다. 수학의 아름다움은 인간의 감각이나 인식능력으로 볼 수 없는 세계를 논리적 사고만으로 무한의 세계까지 들여다 볼 수 있다는 데 있는 것을 말한다.

우리나라의 수학교육이 학교성적이나 대학입시를 위해서 수학문제를 푸는 훈련만 시키다보니 정작 정신적 쾌감을 만끽할 수 있는 수학의 아름다운 세계로 들어가기도 전에 눈을 감아버리게 만드는 것은 아닌가 하는 생각이 든다. 많은 분들이 이 책을 읽고 칸토어라는 한 수학천재의 인생을 통해, 수학은 우리 삶에 직업 연관이 없다거나 그저 복잡하고 어려운 것이라는 막연한 고정관념에서 벗어나 인간이 느낄 수 있는 최고의 지적쾌감을 맛볼 수 있는 학문이라는 것을 깨닫게 되기를 바란다.