과학에 있어 귀납법은 늘 진리는 아니다.

포여 추측의 반증

일반인들에게 유명한 수학자는 대부분 서구권 출신이고, 그것도 대부분은 서유럽, 즉, 프랑스, 독일, 영국, 이탈리아 출신들이다. 상대적으로 동유럽 출신 수학자들이 덜 알려진 감이 없잖아 있지만, 동유럽 출신 수학자 중에도 꽤 유명한 분들이 있다. 그중 가장 대표적인 나라가 헝가리인데, 일반인들에게도 잘 알려진 천재 수학자 존 폰 노이만 (John von Neumann) 같은 사람을 포함하여, 그래프 이론과 에르되시 수로 유명한 에르되시 팔 (Paul Erdős), 노벨 물리학상 수상자인 유진 위그너 (Eugene Paul Wigner), 비유클리드 기하학의 창시자 중 한 명인 보여이 야노시 (Bolyai János) 같은 사람이 있다. 상대적으로 좀 덜 알려진 수학자 중에 포여 죄르지 (George Pólya)라는 수학자가 있다. 이 양반의 업적은 조합론, 정수론, 수치해석, 확률론 등 다방면을 아우르고 있으며, 수학 교육법에도 관심이 많아, 2차 대전 중에도 '어떻게 풀 것인가 (How to Solve It)' 같은 책을 쓰기도 했다.

이 양반이 내놓았던 추측 중에, 포여 추측 (Pólya conjecture)이라는 것이 있다. 이 추측을 쉽게 설명하면 다음과 같다. 2부터 어떤 자연수 N까지, 각각의 자연수를 소인수분해했을 때, 그들 중, 소수의 개수가 홀수인 자연수의 개수는 N/2보다는 크다는 것이다.

예를 들어, 2는 소인수분해하면 2이므로, 소수의 개수는 1이고, 이것은 홀수이므로, 일단 백분율은 100%다. 3 역시 3으로 소인수분해되므로, 소수의 개수는 1이고, 이것도 홀수이므로, 3까지의 모든 자연수의 소인수 개수는 모두 홀수가 되어, 백분율은 100%다. 4는 2*2로 소인수분해 되고, 소수의 개수는 두 개, 즉 짝수이므로, 이에 해당하지 않고, 따라서 4까지의 자연수 중, 소인수 중 소수가 홀수개 있는 수의 비율은 66.6%다. 이런 식으로 계속 찾다 보면, 20까지 계수했을 경우, 백분율은 65%가 된다. 이러한 경험적 관찰을 기반으로, 포여는 어떤 자연수든, 그 자연수 이하의 모든 자연수들의 소인수분해 결과, 소수가 홀수개 있는 자연수의 비율이 50% 이상일 것이라고 추측한 것이다.

1919년에 이 추측이 포여에 의해 처음 제시되었을 때만 해도*,

*Pólya, G. (1919). "Verschiedene Bemerkungen zur Zahlentheorie". Jahresbericht der Deutschen Mathematiker-Vereinigung (in German). 28: 31–40.

그간 알려져 있던 소인수분해 사례에 대해서는 포여의 추측이 맞는 것처럼 보였다. 물론, 그 이상의 숫자에 대해서는 이 추측이 참인지 여부는 명확하게 증명되지 않았고, 강력한 컴퓨터도 없었으므로, 수치해석적으로도 테스트하기 어려웠으나, 1950년대 들어, 컴퓨터가 본격적으로 수학 연구에 활용되기 시작하면서부터, 이 추측에 대한 검증이 시작되었다. 1958년, 영국의 젊은 수학자 브라이언 하셀그로브 (C. Brian Haselgrove)는 리우빌 함수 (Liouville function)의 해석기법에 기반, 케임브리지 대학의 컴퓨터 EDSAC1과 맨체스터 대학의 MARK I 컴퓨터를 이용하여, 적어도 1.845*10^361 이하의 자연수 중, 포여 추측이 만족되지 않는 자연수가 있음을, 즉, 포여 추측이 틀렸음을 증명하였다.**,***

**https://zariski.files.wordpress.com/.../a-disproof-of-a...

 ***Haselgrove, C. B. (1958). "A disproof of a conjecture of Pólya". Mathematika. 5 (02): 141–145. doi:10.1112/S0025579300001480  

안타깝게도, 이 수는 너무 커서, 정확히 어느 숫자부터 포여 추측이 틀릴 것인지에 대해서는 여전히 오리무중이었다. 최초로 포여 추측이 틀렸음을 증명했던 젊은 수학자 하셀그로브는, 안타깝게도, 반증을 제시한 지 6년 후, 뇌종양으로 38세라는 젊은 나이에 세상을 뜨는 바람에, 그의 연구는 더 진전되지는 못했다. 그러나, 하셀그로브의 증명이 나온 지 얼마 되지 않아, 1960년, 미국 버클리 대학의 수학자 셔먼 레만 (Sherman Lehman)은 그 상한선을 10억 미만, 즉, 906,180,359라는 구체적인 숫자까지 줄였으며, 그로부터 20년 후, 일본인 수학자 미노루 다나카 (Minoru Tanaka, 田中實)는 이 숫자를 906,150,257으로 조금 더 낮추는 데 성공했다.****

****Tanaka, M. (1980). "A Numerical Investigation on Cumulative Sum of the Liouville Function". Tokyo Journal of Mathematics. 3 (1): 187–189.

흥미롭게도, 906,150,257-906,488,079 사이의 대부분의 자연수는, 포여 추측의 반증을 많이 만들어 내고 있는데, 이는 리우빌 함수의 특성, 즉 이 범위에서 리우빌 함수가 최댓값에 도달한다는 특성)에 기인하는 것이기도 하다 (아래의 첨부 그림 참조). 결국, 리우빌 함수의 특성 때문에, 포여 추측의 반증은 906,150,257부터 시작된 것이다.

906,150,257-906,488,079 사이에서 리우빌 함숫값의 변화 양상

내 연구 분야와 그다지 상관도 없는, 포여 추측 이야기를 길게 한 까닭은, 수학뿐만 아니라, 과학 연구에서도 이러한 사례를 종종 만날 수 있기 때문이다. 뭔가, 경험적 법칙으로 끌어낸 법칙이, 의외로 정확하게 잘 맞고, 엄청나게 큰 수 (혹은 엄청나게 넓은 범위, 혹은 엄청나게 다양한 조건, , ..to whichever equivalent) 등에 대해 잘 맞는 것처럼 보인다고 해도, 그것을 100% 믿었다가 낭패를 보는 경우가 있을 수 있다. 대략 9억 정도까지는 포여 추측이 맞으므로, 아마, 대부분은, 9억이라는 큰 숫자까지 이 추측이 맞았으니, 그 이후에도 잘 맞으려니 생각하겠지만, 사실 9억에서 얼마 못 가 (즉, 6백만 정도..), 반증이 나올 수도 있는 것이다. 물론, 9억까지의 모든 경우에 대해 다 통과했으므로, 이것이 참일 가능성이 높다고 가정하는 것도 일견 합리적이나, 그보다 더 근본적으로 합리적이고 더 논리적인 입장은, '그럼에도 불구하고, 완벽한 증명이 발견되기 전까지는, 이 추측이 틀릴 수도 있다는 것'일 것이다.

아직 풀리지 않은 밀레니엄 문제 중, 리만 가설 (리만 제타 함수의 모든 자명하지 않은 영점의 실수부가 1/2이라는 추측) 역시, 경험적으로는, 지금까지 굉장히 큰 소수까지 테스트를 통과하였고, 지금은 아마도 대부분의 수학자가 리만 가설이 참일 것이라 믿고 있을 것이다. 그럼에도 불구하고, 이것이 명확하게 참이라고 증명되기 이전에는, 이 가설이 틀릴 수도 있다는 (즉, 영점의 실수부가 1/2에서 아주아주 살짝이라도 벗어나는 경우가 있을 수도 있다는) 반증 가능성은 상존하며, 역시 대부분의 수학자들은, 아마도 이러한 반증 가능성에 대해 열려 있을 것이다.

수론뿐만 아니라, 다른 경험적 과학 법칙에 대해서도 마찬가지인데, '다양한 데이터와 경우에 대해 잘 적용되는 방법 혹은 레시피 혹은 분석 혹은 공식 to whichever equivalent'라고 해도, 그것의 범용적 적용 특성이 명확하게 증명되지 않는 한, 언제든, 적어도 과학자라면, 반증 가능성을 염두에 두고 있어야 하며, 반증 시도에 대해서도 열려 있어야 한다. 물론, 그 반증 시도 역시, 회의주의적 관점에서, 역으로 언제든지 배격당할 준비를 해야 하는 것은 마찬가지다.