정수론의 대가 김민형 옥스퍼드대 교수가 ‘수학책은 따분하다’는 인식을 깨트릴 책을 들고 돌아왔다.『 소수공상』(안재권옮김, 반니출판사 刊)이 바로 그 주인공. 기존의 많은 수학 관련 서적들이 수학의 유용함을 강변해왔지만, 이 책은 기존에 우리가 해왔던 수학의 방식을 완전히 뒤집고 있다. 사실 우리가 의미도 모른 채 공식을 외우고 문제 풀이에만 급급했던 수학의 개념들을 김 교수는 아주 색다른 방식으로 설명하고 있기 때문이다.

실용적인 쓰임새로만 수학이 필요한 것이 아니라 우리가 사는 세계를 해석하는 한 방법이 바로 수학이라는 전제하에 김 교수는 수의 의미, 곱셈과 덧셈의 차이 같은 우리가 지극히 당연한 것으로 여겼던 개념들을 사유하는 과정을 매우 설득력 있게 풀어내고 있다. 수란 무엇이고, 수학적 사고란 어떤 것이며, ‘수학 한다’는 것의 진짜 의미가 무엇인지에 대한 저자의 사유를 따라가다 보면 어렵기만 하던 수학의 숨겨진 이면을 발견할 수 있다. 김 교수의 자유로운 연상과 물 흐르는 듯한 유추과정을 지켜보면, 어느새 수학이 철학과 문학, 역사, 물리학과도 통하는 근사한 학문으로 보이고, 우리가 사는 세상은 근본적으로 수학을 통해 표현되는 것은 아닌가 하는 지극히 ‘수학자다운’ 생각에까지 미치게 된다.

수많은 수학자를 매료시킨 ‘素數’

책의 제목에서 짐작할 수 있듯이 김 교수는 여느 수학자들처럼 ‘소수’에 몰두한다(관련기사 <교수신문> 696호, 「소수 쌍둥이 추측과 張益唐」). 주지하다시피 소수는 약수가 1과 자신뿐인 자연수다. 어떤 수가 소수인지는 이미 결정돼 있지만 무작위로 등장하는 것처럼 보일 정도로 소수는 매우 불규칙하게 나타난다. 소수의 바로 이 특성이 지난 수천 년 동안 수학자들을 매료시켰다. 리만 가설이나 소수 쌍둥이 추측, 골드바흐 추측 등 수학사의 유명한 난제들도 소수와 관련된 경우가 많다.

	김형민 옥스퍼드대 교수

소수가 지닌 매력에 대해 김 교수는 “질서와 혼돈 사이의 불안한 경계를 연상시키는 소수의 이해하기 어려운 구조로 인해 어쩌면 수학자들이 소수에 더욱 매료되는지도 모른다”라며 “경계적 조건이 이 주제에 기이한 활력을 부여하는 것은 분명하다. 하지만 소수 연구에서 어떤 것들을 기대할 수 있을지 보다 명확히 안다면, 어쩌면 오히려 그런 매력이 사라져버릴지도 모르겠다”라고 답하고 있다. 수학자들의 심오한 통찰과 끈기 있는 연구를 요구하는 유명한 수학의 난제들도, 풀리지 않았을 때 더 매력적이라는 뜻으로 읽힌다. 소수의 매력은 바로 그 구조의 이해하기 어려운 본질에 있다.

소수를 만드는 규칙은 어떻게 찾을 수 있을까. 과연 찾을 수는 있는 것일까. 정수론의 대가인 김 교수는 이 책에서 수와 공간을 연결시키는 독특하고 색다른 발상으로 소수가 가진 특별한 매력을 보여준다. 2천 년 전 그리스의 수학자 유클리드는 어떤 소수 목록을 제시하든 목록에 없는 새로운 소수를 제시할 수 있음을 증명했다. 소수의 무한함이 증명된 것이다. 하지만 유클리드 이후로 많은 수학자들의 다양한 방식으로 소수의 미세한 구조를 밝히려 노력했지만, 여전히 소수의 구조와 분류에 대한 문제는 수수께끼로 남아 있다.

‘0’에 수의 지위 부여 꺼린 이유는?

소수 외에도 우리가 수학에 대해 궁금했던 많은 점들에 대해 김 교수는 때론 유려한 사유로, 또 한편으로는 직관적인 해답을 제시한다. 우리가 보통 사용하는 숫자‘0’. 수많은 논란으로 점철된 역사를 갖고 있는‘0’에 사람들이 수의 지위를 부여하는 것을 극도로 꺼린 이유에 대해 그는“그리 어려운 이유가 아니다. 당시 수는 어떤 양을 표현했다. 그렇다면 아무런 양도 표시하지 않는 수라는 것이 어찌 존재하겠는가?”라고 말한다.

김 교수는 수학계의 최대 난제 중 하나인 ‘페르마의 마지막 정리’를 새로운 접근 방식으로 해결해 세계적인 수학자로 인정받고 있다. 또한 그는 현대 수학의 최고 분야인 ‘산술기하’의 난제를 해결하기 위해 위상수학적 방법론을 도입했는데, 이는 순수수학분야에서 금세기 최고의 업적이라는 평가를 받고 있다. 2011년 9월 국내 수학자로는 최초로 옥스퍼드대 정교수로 임용돼 화제를 모았고, 지난해에는 호암과학상을 받기도 했다.

여전히 수학자들에게 매력적인 소재인 소수. 언젠가 소수의 비밀이 풀리는 날에 수많은 세계의 수학자들은 어떤 감정을 느낄까. 프랑스의 위대한 산술학자 앙드레 베유(1906~1998)의 말로 이 책의 소개를 마무리 짓는다. “모든 수학자들이 아는바, 모호한 유추, 즉 어떤 이론이 다른 이론으로 흐릿하게 반영된 것만큼 아이디어가 풍부한 것은 없다. 연구자에게 이보다 더 큰 즐거움을 주는 것은 없다. 언젠가 오해가 사라지고 예감이 확신으로 바뀌면 두 개의 이론은 공동의 원천을 드러내고 나서 없어진다. 바가바드기타의 가르침대로, 지식과 무심은 동시에 도달된다. 형이상학이 수학이 돼 논문의 주제를 형성할 준비가 되면, 그 냉정한 아름다움은 더는 우리를 흥분시키지 못한다.”

윤상민 기자 cinemonde@kyosu.net