[사이언스칼럼]수학, '틀리지 않음'의 미학

윤강준 국가수리과학연구소 산업수학전략연구부장

윤강준 국가수리과학연구소 산업수학전략연구부장

'수학' 하면 우리는 먼저 복잡하고 어려운 계산을 떠올리고 또 문제를 풀기 위해선 복잡한 공식을 외워야 하는 어려운 학문이라고 여긴다. 그래서 초중등 교육과정에서 많은 학생이 수학을 포기하며 그나마 나머지 학생들은 수학을 잘하기 위해서 학원이나 과외에 의지해 수학교육이 항상 사교육 문제의 핵심 골칫거리가 됐으며 수학의 기능은 대입 수능에서 실력 있는 학생을 구별하는 변별력을 주는 것 외에는 딱히 떠올려지지 않는다.

수학이 계산과 밀접한 관련이 있는 건 맞지만 계산이 수학의 전부는 아니며 정작 수학은 논리적으로 사고하는 방식이고 그 행위다. 여기서 논리적 사고라는 것은 주어진 상황에서 '틀리지 않는 결론'을 얻어내는 것이며 틀리지 않음은 전개과정에 모순이 없다는 뜻이다. 이러한 논리적 사고력을 배양하기 위해서 수학을 배우는 것이며 이런 논리적 사고력은 현재 인공지능이 주도하는 지능정보화시대에 주어진 상황에서 최적의 해법을 얻어내는 핵심역량이다.

그러면 '논리적으로 사고한다'의 의미는 무엇일까? 논리적 또는 수학적 사고란 모순없이 주장들을 전개해 나가며 그 과정에서 얻어진 결론은 옳다고 여기며 전개과정 중에 모순이 발생하면 주장이 틀렸다고 결론을 내리는 것을 뜻한다. 이에 대한 이해를 돕기 위해 다음의 예를 가지고 설명하고자 한다.

한 변의 길이가 1인 정사각형에 대해서 그 대각선의 길이 χ는 피타고라스의 정리에 의해서 χ²=2을 만족하며 그 수를 √2로 나타내며 이 수는 무리수다. 이 주장이 중요한 이유는 피타고라스 이전까진 그리스에서는 모든 수는 유리수라고 믿었기 때문이다. 이런 이유로 필자는 수학의 발전과정에서 피타고라스 정리를 수학의 가장 위대한 순간 중의 하나로 여기고 있다.

이제 χ²=2를 만족하는 수 χ(χ=√2)는 무리수임을 수학적 사고를 통해 증명해 보자. 이 주장에는 χ²=2와 무리수라는 개념이 있다. χ²=2의 정의는 'χ라는 수를 두 번 거듭 곱하면 2'고 무리수의 정의는 유리수가 아닌 수다. 그러면 유리수의 정의 또한 살펴봐야 하는데 양의 실수 χ가 χ=q/p로 표현할 수 있는 자연수 p, q가 존재하면 χ를 유리수라고 정의한다. 따라서 √2가 무리수임을 증명한다는 의미는 √2가 유리수가 아님을 증명한다는 것이다. 모든 수는 유리수거나 유리수가 아니기에 √2가 유리수라면 √2=q/p을 성립시키며 1 이외의 약수를 공유하지 않는 자연수 p, q가 존재한다. 양변을 p로 곱해 (p√2=q), 그 양변을 제곱하면 2p²=q²다. 따라서 q²은 2의 배수가 돼 짝수다. 그런데 짝수 곱하기 짝수는 짝수, 홀수 곱하기 홀수는 홀수이기에 2의 배수인 q²는 짝수고 따라서 또한 2의 배수인 짝수며, 따라서 q=2k인 자연수 k가 존재한다. 이를 2p²=q²에 대입하면 이 2p²=4k²이되며 양변을 2로 나누면 p²=2k²을 얻는다. 같은 논리를 적용하면 p 또한 짝수여야만 하며 결국 p, q는 모두 짝수가 돼 2로 나누어지므로 p, q가 1보다 큰 약수를 공유하지 않는다는 것에 모순이다. 따라서 √2가 유리수라는 주장은 틀렸으며 √2는 무리수라고 결론지을 수 있다. 이런 일련의 과정을 수학적 사고라 한다. 이러한 관점으로 수학문제의 풀이나 증명을 보면 수학이 다시 보일 것이며 생활 속에서 틀리지 않게 생각을 이어가려고 노력하다보면 수학의 의미를 새삼 깨닫게 될 것이다.

또한 논리적 사고에는 역으로 문제에 내재된 모순을 이용해 상황을 해결하는 경우도 있다.플라톤이 소크라테스에게 '당신은 거짓말쟁이다'라고 하자 소크라테스는 '당신 말이 맞다'라고 했다. 이때, 소크라테스는 거짓말쟁일까, 아닐까? 독자 여러분이 맞춰 보길 바란다. 윤강준 국가수리과학연구소 산업수학전략연구부장