1993년 뉴욕 타임스와 르 몽드, 가디언 등 세계 각국의 주요 일간지들은 1면 머릿기사로 ‘페르마의 마지막 정리가 증명됐다’는 기사를 보도했다. 이 기사를 본 이들은 당시 “페르마의 마지막 정리가 대체 뭐길래” 하는 궁금증이 컸을 것이다. 기자는 외신들이 국내 신문들과 달리 이색적으로 과학기사를 1면 머리로 비중 있게 다룬 것을 생생히 기억한다.
몇 달 뒤 증명이 잘못됐다는 보도가 이어지면서 증명에 관한 극적인 요소도 덧붙여졌다. 과학저널리스트 사이먼 싱의 <페르마의 마지막 정리> (박병철 옮김·영림카디널 발행)는 이 모든 궁금증을 풀어주고, 정리에 얽힌 수학적 의미를 이해할 수 있는 책이다.
피에르 드 페르마(1601~1665)는 17세기 프랑스의 아마추어 수학자다. 공무원이었던 그에게 수학은 즐거운 취미였다. 하지만 말이 아마추어지 그의 수학적 통찰력은 천재적이었다. 그는 고대 그리스의 철학자인 디오판토스가 쓴 <아리스메티카> 를 읽고 책의 여백에 자신의 풀이를 끄적이며 수학을 즐겼다. 이 여백에 쓴 문제 중 하나가 바로 마지막 정리다.
문제 자체는 초등학생이라도 이해할 수 있을 만큼 간단하다. X의n제곱+Y의n제곱=Z의n제곱에 대해 n이 3 이상이면 정수 해는 없다는 것으로 피타고라스의 정리(n=2일 경우)를 변형한 것이다. 페르마는 이 문제를 만들어 <아리스메티카> 의 여백에 적어넣고는 그 유명한 말을 덧붙였다. “나는 경이적인 방법으로 이 정리를 증명했다. 그러나 책의 여백이 너무 좁아 여기에 옮기지 않겠다.”
이 책의 주인공으로 94년 페르마의 마지막 정리를 증명한 수학자 앤드루 와일즈는 정말 초등학생 때 이 문제를 보고 일생의 목표로 삼았다.
페르마는 생전 논문 발표는커녕 증명과정을 깨끗하게 정리조차 해두지 않았다. 그대로 묻힐 뻔한 그의 정리들은 그의 장남이 <페르마의 주석이 달린 디오판토스의 아리스메티카> 를 펴냄으로써 후대에 전해졌다. 이는 후대의 수학자에겐 고통이기도 했다. 많은 정리들이 증명되고 확인됐지만 마지막 정리는 300년 넘게 난제로 남았다.
이름난 수학자들이 증명의 일부만 해결한 뒤 손을 들거나, 문제를 정복했다고 착각했다가 꼬리를 내린 경우가 허다하다. 와일즈 역시 논문 심사 도중 발견된 오류가 1년 넘게 해결되지 않아 일생의 노력이 물거품이 될 뻔한 악몽을 겪었다.
와일즈의 증명은 고대부터 현대까지의 수학 각 분야를 활용하고 통합시켰다. 증명의 핵심은 타원방정식과 모듈형태가 일대일로 대응한다는 ‘타니야마-시무라의 추론’을 증명한 것이다.
모듈형태란 ‘시계 대수학’으로도 불리는데 마치 시계를 볼 때 10시부터 4시간 뒤를 2시(14시가 아니라)라고 하는 것처럼 주기적인 성질을 가진 수학이다. 만약 모든 타원방정식을 시계 대수로 바꿀 수 있다면 해를 구하는 계산은 훨씬 쉬워진다.
이러한 방법은 오늘날 수학자들이 많이 쓰는 것으로, 즉 전혀 다른 영역으로 알려졌던 정수론과 기하학이 다른 형태의 같은 수학이라는 사실이 밝혀지면서 보다 쉬운 방식으로 해를 찾는 것이 가능해졌다. 와일즈의 증명으로 수학은 함께 진보한 셈이다. 하지만 여전히, 페르마가 어떤 경이로운 방법으로 이를 증명했는지는 미스터리로 남아있다.
김희원기자
기사 URL이 복사되었습니다.
댓글0