“강이 흐르는 도시에 7개의 다리가 놓여 있습니다. 이 다리를 한 번씩만 건너서 원래 자리로 돌아올 수 있을까요?”
붓을 종이에서 떼지 않고 한 번에 그림을 그릴 수 있느냐를 묻는 ‘한붓 그리기’로 친숙한 이 문제는 1736년 수학자 레온하르트 오일러가 풀어낸 ‘쾨니히스베르크 다리 문제’에서 비롯됐다. 누구나 연필을 들고 도전할 수 있다 보니 초등학생들도 잘 아는 문제가 됐지만, 이게 콩팥(신장) 기증자와 환자를 연결하는 데 활용된다는 사실을 아는 사람은 많지 않다.
《수학의 이유》는 이렇게 ‘터무니없는’ 수학의 효용성에 관한 책이다. 저자 이언 스튜어트는 영국 수학자이자 세계에서 가장 널리 알려진 대중 수학책 작가다. 국내에 출간된 그의 책만 10여 권에 이른다. 어려운 수학을 쉽고 재미있게 설명하는 것으로 유명한 그는 이 책에서 ‘쓸데없는 수학’이 어떻게 현대 사회를 바꿔 놓았는지를 보여준다.
수학은 원래 실용 학문이었다. 뚜렷한 목적으로 시작됐다. 수를 세기 위해 숫자를 만들었고, 땅을 측정하고 세금을 매길 목적으로 기하학을 고안했다. 삼각법은 천문학, 항해술, 지도 제작을 위해 생겨났다. 그런데 어느 순간 실용적인 목적이 없는 수학이 나타났다. 소수, 복소수, 추상 대수, 위상수학 같은 것들이다.
오일러의 다리 문제도 그런 예다. 1736년 그는 이 문제의 답을 수학적으로 풀어냈다. 오일러의 방법을 쓰면 5000개의 다리가 5000개의 섬과 연결돼도 해법을 찾을 수 있었다. 하지만 이 방법이 콩팥 기증자와 수혜자를 연결하는 데 쓰일지는 오일러 자신을 포함해 아무도 몰랐다.
‘가족이나 친척 사이라도 콩팥 이식이 적합하지 않은 경우가 많다’는 사실을 알게 된 게 출발점이었다. 반대로 가족이 아니더라도 거부반응 없이 이식받을 수 있는 사례가 많다는 것도 확인된 터였다. 그래서 영국은 2004년 친척이 아닌 사람에게도 콩밭을 기증할 수 있도록 법을 바꿨다. A가 가족인 B에게 직접 콩팥을 줄 수 없다면 타인인 C에게 콩팥을 기증하고, B는 또 다른 타인 D로부터 받을 수 있도록 한 것이다. 이는 다리를 연결하는 문제와 똑같다. 사람은 땅이고, 기증은 한 번만 다리를 건너는 것과 같다.
우리는 초등학교에서 정수론(number theory)을 배운다. 정수론은 숫자의 성질을 연구하는 수학 분야다. 자연수, 정수, 소수, 최대공약수, 최소공배수 같은 것들이다. ‘피타고라스의 정리’를 3 이상의 지수로 확장한 ‘페르마의 마지막 정리’도 정수론에 해당한다. 정수론은 학교 시험 문제로 내기에는 좋지만 실용성이 없었다. 당대 최고의 수학자였던 고드프리 해럴드 하디가 1940년 자신이 연구한 정수론에 대해 “쓸모 있는 적용 분야가 전혀 없고, 앞으로도 그럴 것”이라고 말할 정도였다.
아이러니하게도 하디가 그런 말을 하기 2년 전인 1938년 영국 비밀정보부 MI6는 블레츨리 파크 저택을 사들여 여기서 암호 해독을 연구하고 있었다. 그 기반이 된 것이 정수론이었다. 암호는 주로 소수를 이용한다. 예컨대 50자리 소수 2개를 곱해 99~100자리 숫자를 얻는 건 쉽다. 하지만 100자리 숫자를 하나 받아서 이를 구성하는 소수(소인수)를 찾는 건 쉽지 않다. 1978년 개발돼 지금도 쓰이는 RSA 암호는 ‘페르마의 소정리’를 이용한다. 1640년 페르마가 증명한 정리가 300여 년이 흐른 후 빛을 발한 셈이다.
게임이나 영화에 쓰는 3차원(3D) 그래픽도 170여 년 된 수학에 빚을 지고 있다. 영국 수학자 윌리엄 로원 해밀턴이 1843년 고안한 사원수(四元數) 덕분이다. 3차원 공간을 표현하기 위해 2차원에 머물던 복소수를 4차원으로 확장한 수 체계다. 해밀턴 자신과 소수의 추종자를 제외하면 그 중요성을 이해하는 사람은 거의 없었다. 1985년 켄 슈메이커가 논문을 통해 컴퓨터 그래픽에 사원수가 쓰일 수 있다는 것을 보여주고 나서야 널리 쓰이게 됐다.
이 밖에도 이미지 파일인 JPG, 컴퓨터 단층촬영(CT), 위성항법장치(GPS), 광통신 케이블 등에도 이런 예상치 못한 수학의 활약이 숨어 있다. 결국 책은 ‘쓸데없는 수학’이란 없다고 말한다. 현실과 동떨어진 수학이라도 언젠가 쓰임새가 생길지 모르기 때문이다. 수학뿐 아니라 다른 학문도 마찬가지다. 왜 순수 학문이 중요한가. 이 책에 그 답이 있다.
임근호 기자 eigen@hankyung.com