페르마의 마지막 정리: 파인만의 접근

Silvan Schweber의 책 “QED and the Men who made it”에서 리처드 파인만이 페르마의 마지막 정리에 대해 쓴 2페이지짜리 글이 있다고 언급되었다고 한다. 책에는 그 내용이 대략적으로 서술되었다고 하는데, Luis Batalha가 이것을 설명한 블로그 글이 있어 이를 요약하고자 한다.

이 글이 언제 써졌는지는 불명이나, 파인만이 1988년 사망했으므로 FLT가 증명되기 전 시점임은 확실하다. 파인만은 이 문제를 확률론적으로 접근하려 했다. 먼저 파인만은 어떤 자연수 이 완전 제곱수일 확률을 구했다. 이를 위해서 그는 연속한 두 자연수의 제곱근의 차이 를 주목했다. 이 값은 테일러 전개를 통해

이 되고, 를 통해 을 얻는다.

여기서 파인만은 어떤 자연수 이 완전 제곱수일 확률이 바로 로 근사됨을 유도했다. 이에 대해서는 자세한 설명이 기록되지 않았다고 하는데, 아마 구간 이 정수를 포함할 확률로 생각해서 구한 것이 아닐까 싶다. (길이 인 구간이 정수를 포함할 확률은 구간의 시작점의 소수점이 (편의상 범위에서 생각) 에 있을 확률이므로 가 된다)

따라서 이 완전 제곱수가 될 확률은 이 된다. 파인만은 인 구간에 대해 이 값을 적분해서 그 확률을 표현하기로 했고, 그 값은 이 된다. 여기서 이다. (치환적분을 통해 얻을 수 있다)

이제 로 설정하고 의 값을 바꾸면 이 정수가 될 확률은 다음과 같이 나타난다.

소피 제르맹이 이미 에 대해 해가 없음을 보였고, 충분히 큰 에 대해 이 되므로 이 고정되어있을 때 정수해가 존재할 확률은 이 되어 에서 정수해가 존재할 확률은 가 된다. 파인만은 이렇게 확률적으로 정수해가 존재할 확률이 적다고 끝맺으며 FLT가 참일 것 같다고 언급했다.

물론 위의 접근법은 단순히 정수해가 존재할 확률의 상한에 대한 이야기이고 수학적으로 엄밀하지 않으며 이것이 진짜 해가 존재하는지 여부를 바로 연결해줄 수는 없다. 그저 그도 FLT에 대해 이것저것 생각해봤다 정도로만 여기고 그 관점의 전환(유효한지 아닌지는 차치하더라도)을 주목하고 일종의 공상수학 정도로 즐기는게 좋을 듯. 블로그 글에서 파인만을 인용해 끝낸 것을 빌어 여기서도 같은 인용으로 글을 끝맺고자 한다.

이론물리학자가 주로 하는 일은 빨리 자기 자신이 틀렸다는 것을 증명하는 일이다.