'페르마의 마지막 정리', 수학사 최고의 난제였던 문제 해결 역사.

페르마의 정리라고 들어 보았는가? 수학 분야에 문외한인 이들도 페르마란 단어는 들어보았을 정도로 극악의 난이도를 자랑하던 풀리지 않던 난제였다. 하지만, 이 난제는 영국의 수학자에 의해서 풀렸다. 많은 이들을 머리 싸매고 고민하게 했던 페르마의 정리 해결 역사에 대해서 알아본다.

'페르마의 마지막 정리', 수학사 최고의 난제였던 문제 해결 역사

1. 페르마란 누구인가?

피에르 드 페르마는 17세기 프랑스의 법관이자 아마추어 수학자였다. 어디까지나 본 직업은 법관이고 수학은 취미로 했기 때문에, 그냥 가끔가다가 지인들에게 증명에 대한 설명은 없이 ''나 이거 증명했으니 한번 풀어 봐라''는 식으로 어려운 문제를 주고 골탕먹이는 걸 즐겼다고 한다. 그렇지만 그가 수학에 남긴 업적은 매우 대단한데, 대표적으로 페르마의 원리(광학), 페르마의 소정리(정수론) 등 여러 분야에 기여했다고 한다.

2. 페르마의 마지막 정리

《N이 3 이상의 정수일 때, 이 방정식을 만족하는 정수 X, Y, Z는 존재하지 않는다》. 이 공식이 바로 300여년 동안 수많은 수학자들을 머리 싸매고 보내 버렸던 페르마의 마지막 정리. 그러나 페르마는 이 어려운 문제를 만들고서도 " ........나는 이에 대한 실로 놀라운 증명법을 발견했다. 그러나 이걸 여기다 다 적기에는 책의 여백이 부족하므로 적지는 않겠다." 라며 증명을 생략해버림으로써 그때부터 300년에 걸친 낚시가 시작된다.

3. 페르마의 마지막 정리를 풀기 위한 시도

겉으로 보기에는 일반인도 풀 수 있을 만큼 쉬워보이는 외형, 웬만한 프로 수학자들도 어려워하는 극악의 난이도, 그리고 "17세기의 아마추어 수학자도 푸는 문제를 내가 못 풀게 뭐가 있을까?" 하는 착각으로 수많은 사람들이 이 문제에 낚였다고 한다. 

이 문제를 가지고 '증명이 가능하다'와  '증명이 불가능하다'를 가지고 싸우다가 결국 권총으로 결투를 하다가 죽은 사람 등의 사건이 있었다고 한다. 수학 전공자들을 비롯한 수많은 사람들이 이 문제에 평생을 낚여서 매달렸었으나 300년이 지나도록 아무도 풀지 못했다고 한다. 그렇다면 그 당시에 풀었던 페르마는 얼마나 대단한 사람이었던가 가늠이 가지 않는다. 수학자로써 매진 하였다면 오히려 진일보하는 공을 남겼을 수도 있겠다.

4. 페르마의 마지막 정리의 증명

페르마의 마지막 정리를 증명하는 데, 첫 번째 성과가 나오기까지는 무려 133년이 걸렸다고 하는데, 가장 먼저 단서를 발견한 수학자는 바로 이름 한 번쯤은 들어봤을 것 같은 오일러이다. 오일러가 말하기를, N=3일 경우에는 성립한다. 귀류법으로 N이 3일 경우의 증명을 성공한 오일러는 같은 방법으로 N이 5일 경우를 증명하려고 했으나 끝내 해내지 못했다고 한다.

이후 몇십년에 한번씩 작은 성과가 있었긴 하지만...가브리엘 라메가 말하기를, N=7일 경우에도 성립한다. 소피 제르맹은,  N<197까지는 모두 성립한다고 말했다. 위의 성과에도 불구하고 모두 근본적인 문제인, 모든 N값이 성립하지 않는다는 것은 증명하지 못했다. 그렇게 시간이 지나고 페르마의 정리는 사람들에게 점점 잊혀져 가게 되었다.

5. 페르마의 마지막 정리, 드디어 증명되다.

그러던 중 하나 둘 씩 새로운 돌파구가 열리기 시작한다. 게른하르트 프레이가 말하기를,  타니야마-시무라 추측이 증명되면 페르마의 마지막 정리를 만족하는 정수해는 존재하지 않게 된다. 그런데 문제는 이 추측이 사실상 증명이 불가능해 보이는 난이도 극악의 내용이란 것이 문제였다. 그러던 1999년, 드디어 페르마의 마지막 정리를 증명하는 사람이 나오게 된다.

그는 바로 앤드류 와일즈라는 영국의 수학자. 그는 357년동안 풀리지 않았던 페르마의 마지막 정리를 드디어 해결한다. 와일즈의 증명은 무려 109페이지가 넘는 분량이라고 한다. 와일즈는 이 증명을 완성하기 위해서 7년 동안을 방구석에 틀어박혀서 연구만 했다고 한다. 하지만 그러는 와중에도 다른 연구를 하는 것처럼 논문을 미리 만들어놓고 6개월마다 하나씩 제출해놔서 아무도 와일즈가 페르마의 마지막 정리를 연구하는걸 몰랐다고 한다.