페르마의 마지막 정리를 통해본 정수론 

 글 이정훈

페르마의 마지막 정리이란?

'일반적으로 3이상의 지수를 가진 정수는 이와 같은 지수를 가진 다른 두 수의 합으로 표현될 수 없다.'
 즉, 3이상의 정수 n에 대하여 위 방정식을 만족하는 정수해가 존재 하지 않는다.
이 것이 '페르마의 마지막 정리'입니다.

마치 피타고라스의 정리(x의 제곱 + y의 제곱 = z의 제곱)의 일반화 된 형태라 볼 수 있습니다.
수많은 수학자들이 도전하고 하였던 아주 유명한 문제입니다.

페르마는 위 정리의 증명이 여백이 좁아 남기지 않는다 하였고 그 이후 1996년까지 증명이 되지 못하다 앤드류 와일즈에 의하여 증명이 되었습니다. 

당시 페르마 마지막 정리의 연구 상태는 알기 위해서는 배경지식이 필요합니다.
일단 처음 소개할 내용은 '타니야마-시무라 추측' 입니다.

모든 타원곡선은 유리수위에서 모듈러 커브이다.
(All elliptic curves are modular curves over rational number)

아마 이 추측이 왜 필요한지 이해가 가지 않으실 겁니다. 저도 이 쪽 분야하는 공부하는 사람으로서 대학원 생활을 하면서도 이해가 전혀 가지 않았기 때문입니다. 그래서 간단히 설명을 해보겠습니다.

타원곡선은 간단히 말해 y^2=x^3+ax+b 형태의 방정식으로 정의되는 대수곡선이고 이때, 계수가 유리수로 갖는 상태가 위 추측의 가정입니다.
모듈러 곡선은  복소평면 상의 상반평면(허수부가 0보다 큰 부분)의 모듈러 군(Modular Group)의 부분군에 대한 몫공간(Quotient Space)인 리만 곡면(Riemann surface)입니다.

정의만 이해하려도 현대대수학, 위상수학, 다양체론 등등 다양한 것을 알아야 하는 상태여서 받아들이기 힘드실 것으로 예상됩니다.

쉽게 위 그림의 왼쪽이 타원곡선, 오른쪽이 모듈러 곡선 이라고 생각하시면 됩니다.

둘은 전혀 다른 형태를 가지고 있지만 실제로 같은 상태가 된다는것이 타니야마-시무라의 추측입니다.

그래서 저 추측이 페르마 마지막 정리랑 무슨 관계라는 걸까요?
전혀 관계없어 보이죠? 그래서 다음 정리가 필요합니다.

타원 곡선에 대한 타니야마-시무라의 추측이 참일 경우 모든 정수 n 에 대하여 
페르마의 마지막 정리 역시 참이다.

이제 페르마 마지막 정리의 증명에 대해 직접적으로 공부해 볼 준비가 끝났습니다.

1993년, 아이작 뉴턴 수리과학 협회에서 3번의 강의를 통해서, 자신의 연구 결과를 발표하게 됩니다.
와일스는 특히 불완전한 타원곡선(Elliptic curves) 대한 타니야마-시무라 추론의 증명을 제시하면서, 타원곡선 추론에 대한 리벳의 증명을 함께 도입해서 페르마의 마지막 정리를 증명하게 됩니다. 그러나 와일스의 이러한 증명을 검증하는 과정에서 오류가 발견되어 실패하게 됩니다. 오류를 수정하기 위하여 와일스는 그의 제자였던 리처드 로렌 테일러는 도움을 받아 예전에 콜리바긴-플라흐 방법을 도입하면서 포기하였던 이와사와 이론(Iwasawa Theory)과 헤케 대수학(Hecke algebra)를 이용하여 증명을 완성하였습니다. 

여기에 나오는 타원곡선, modular form, Iwasawa Theory, Hecke algebra 등의 내용들을 공부하고 싶으면 대학원이상의 내용을 공부하셔야 하기 떄문에 설명은 생략하도록 하겠습니다.        

정수론이란?

학부과정에서 배우는 초등정수론(Elementary Number Theory) 이외에도
복소해석학을 기반을 둔 해석적 정수론(Analytic Number Theory)
현대대수학을 기반을 둔 대수적 정수론(Algebraic Number Theory)
대수기하학의 스킴의 언어를 사용하는 디오탄토스 기하학(Diophantine Geometry)
수론에 등장하는 계산의 알고리즘을 연구하는 계산적 수론(Computational Number Theory)
등이 있습니다.

정확히는 수론(Number Theory)에 대한 연구를 어떤 Tool를 가지고 하냐고 분류의 기준이 되고, 
위의 앤드류 와일즈는 대수적 수론을 통하여 페르마 마지막 정리를 증명했다고 보시면 됩니다.

학부과정을 공부하시면서 대수학, 위상수학, 해석학 등을 구분 짓고 전혀 다른 과목등으로 생각하시는 분들이 계실 겁니다.
하지만 현대수학은 다른 과목끼리도 긴밀한 연결이 되어 있어서 통합적으로 공부하는게 수학공부하는데 도움이 됩니다.

대표적인 예를 생각해보시면 대수학의 기본정리(Fundamental Thoerem of Algebra)를 증명하는데 가장 핵심적인 정리는
복소해석학의 리우빌의 정리라는 사실을 생각해보시면 이유가 충분할 거라 생각됩니다.