인간다움의 외주화
컴퓨터와 인공지능은 인간 본연의 창의력의 확장인가? 외주인가?
x^n + y^n +... = K (n은 자연수) 같은 형태의 부정 다항 방정식의 해 중, 정수해 x, y,... 를 찾는 방정식을 디오판투스 방정식 (Diophantine equation)이라고 한다. 잘 알려진 케이스는 피타고라스 정리 3^2 + 4^2 = 5^2 같은 이차 방정식의 정수해 조합이고, 보다 어려운 케이스로는 페르마의 마지막 정리로 유명한 x^3 + y^3 = z^3 같은 방정식이 있다. 물론 페르마의 마지막 정리는 1993년에야 앤드류 와일즈에 의해 증명되었다 (즉, x^3 + y^3 = z^3을 만족하는 정수해 [x, y, z]는 존재하지 않는다는 것.).
방정식 모양이 비교적 간단하고, 해의 특성을 정수로 한정지었기 때문에 금방 이해할 수 있지만 사실 페르마의 정리를 비롯하여 고차 다항식의 정수 해를 찾는 것은 매우 어려운 문제다. 페르마의 마지막 정리에 흥미를 가져 디오판토스 방정식의 여러 유형을 연구한 유명 수학자 중에는 오일러가 있다. 오일러는 페르마의 마지막 정리를 증명하지는 못 했지만, n이 4일 경우 x^n + y^n = z^n을 만족하는 정수 쌍은 존재하지 않음을 증명했다. 이에 천착한 1769년 오일러는 재미있는 추측을 하나 발표했다.
'0이 아닌 정수의 n제곱의 합이, 0이 아닌 다른 정수의 n제곱이 되게 하려면 n개 이상의 수가 필요하다'
이 추측은 x1^n + x2^n +... + xk^n = y^n의 디오판토스 방정식의 정수 쌍 해가 존재하려면 k가 n보다 크거나 같아야 할 것이라는 뜻이다.
예를 들어 3^2 + 4^2 = 5^2는 기하학적으로 보면 2차원 평면 상에 놓인 직각삼각형의 각 변의 관계식으로 해석할 수 있다. 2차원이니까 지수도 2, 그리고 좌변의 항도 2개인 것이 자연스러워 보인다. 3차원 공간이면 어떨까? 3^3 + 4^3 + 5^3 = 6^3의 관계식이 성립하므로 지수도 3, 좌변의 항도 3개인 것이 자연스러워 보이지 않을까? 4차원이면 어떨까? 유감스럽게도 3^4 + 4^4 + 5^4 + 6^4 = 7^4의 관계식은 성립하지 않는다. 그래도 만족하는 조합은 있다. 30^4 + 120^4 + 272^4 + 315^4 = 353^4 같은 케이스가 그것이다. 이제 지수도 4, 좌변의 항의 개수도 네 개가 되었다. 이쯤 되면 일반화해도 될 것처럼 보인다.
오일러는 이러한 경향을 일반화한 추측을 제시한 셈이다. 이 추측은 약 200년 동안 증명되지 않고 있다가, 허무하게도 반례 한 개가 나타나면서 깨진다. 1966년 랜더 (L.J. Lander)와 파킨 (T.R. Parkin)은 최초의 슈퍼컴 (당시에는 그냥 메인프레임이라고 불렀다)에 해당하는 CDC 6600의 1 MFlops 성능의 연산을 이용하여 문제를 풀었다. CDC 6600은 슈퍼컴으로 유명한 시모어 크레이가 1964년에 개발하여 출시한 컴퓨터로서, 실리콘 기반의 반도체를 활용하여 설계 및 제작된 컴퓨터로도 유명하다. 당시 슈퍼컴의 주된 활용처는 핵실험 시뮬레이션이었고 대부분 국방부 관련 과제를 수행하는 회사나 학교에서 임대 영식으로 활용하고 있었다. 랜더와 파킨은 이 비싼 슈퍼컴을 오일러 추측을 깨는데 활용한 것이다.
이들이 1966년 Bulletin of the American Mathematical Society에 발표한 두 문장짜리 짧은 논문에서 보인 반례는 이것이다.
27^5 + 84^5 + 110^5 + 133^5 = 144^5
5차 디오판토스 방정식에서 네 개의 정수의 다섯 제곱들의 합만 가지고도 다른 정수의 다섯 제곱을 표현했기 때문에 오일러의 거듭제곱의 합 추측은 깨졌다. 1996년에는 Scher와 Seidl이
(−220)^5 + 5027^5 + 6237^5 + 14068^5 = 14132^5의 케이스를,
2004년에는 R. Frye가
55^5 + 3183^5 + 28969^5 + 85282^5 = 85359^5
인 케이스를 찾아내기도 했다.
지수가 5인 경우에만 반례가 있는 것은 아니었다. 역시 슈퍼컴을 이용하여 1986년 엘키스 (N. Elkies)는 지수가 4인 경우에 대한 반례로서
2682440^4 + 15365639^4 + 18796760^4 = 20615673^4
를 찾아내었고, 2년 뒤 1988년 프라이 (R. Frye)는 역시 지수가 4인 경우에 대한 반례로서
95800^4 + 217519^4 + 414560^4 = 422481^4
의 케이스를 찾아내었다. 사실 지수가 4인 경우에는 타원 곡선의 특성을 이용하여 일반화도 가능한데,
(85v^2 + 484v − 313)^4 + (68v^2 − 586v + 10)
4 + (2u)^4 = (357v^2 − 204v + 363)^4,
u^2 = 22030 + 28849v − 56158v^2 + 36941v^3 − 31790v^4
의 형태를 만족하는 정수 쌍 u, v만 있으면 되기 때문에, 사실상 지수 4인 경우의 반례는 무한히 존재한다.
현재로서는 지수가 6 이상인 경우에도 이러한 반례들이 있을지는 불확실하다. 지수가 7이나 8인 경우, 각각 일곱 개, 여덟 개의 정수들의 거듭제곱으로 디오판토스 방정식을 만족시킬 수 있는 사례는 알려지긴 했다.
1967년 랜더와 파르킨, 그리고 셀프리지 (J. Selfridge)는 자신들이 찾은 반례를 이용하여 오일러의 거듭제곱의 합 추측을 조금 수정한다. 거듭제곱 지수가 n일 때, 합을 이루기 위한 정수 쌍의 개수가 n개 이상이 아닌, n-1개 이상이면 방정식의 해를 찾을 수 있다고 추측한 것이다. 이런 추측에서는 위에 보인 반례들이 다 포함될 수 있기 때문에 반례를 찾는 것이 더 어려워진다. 지수가 4, 5, 7, 8인 경우에는 이러한 추측을 만족하는 정수 쌍을 찾긴 했는데, 지수가 6인 경우에는 아직 그런 쌍이 있는지 알려지지는 않았다 (일단 730000 이하의 정수에서는 그런 쌍이 없다고 알려져 있다). 지수가 9 이상인 경우에도 역시 그런 쌍이 있는지 여부는 알려져 있지 않다. 즉, Lander-Parkin-Selfridge 추측은 여전히 미지의 영역이다.
오일러의 추측은 허무하게도 수학적 직관이나 추론이 아닌 CDC 6600 같은 슈퍼컴으로 풀렸고, 이후의 수학자들이 이러한 방법론을 활용해서 반례를 찾는 것에 성공하기도 했다. 그런데 아이러니컬하게도 오히려 다소 쉬워진 것 같은 확장된 JPS 추측에 대해서는 1966년보다 수십 조 배는 더 강력해진 슈퍼컴을 동원할 수 있음에도 불구하고, 추측에 대한 완벽한 반례도, 완벽한 정례도 여전히 미지의 영역으로 남아 있다는 것은 흥미로운 부분이다.
1960년대 중반 이후 실리콘 반도체를 기반으로 하는 컴퓨터의 성능이 비약적으로 발전하면서 컴퓨터를 이용한 수학적 연구, 특히 computer-assisted proof는 다양한 문제에 적용되어 왔다. 위에 예로 든 오일러의 거듭제곱 합의 추측의 반례를 찾은 것부터 시작해서, 1976년에 증명된 유명한 4색정리, 비선형 동역학에서 유명한 파이겐바움 상수의 보편성 추측 등의 다양한 영역에 컴퓨터를 이용한 증명이 성공적으로 이뤄졌고, 최근에는 딥러닝을 이용한 정리나 추측 증명 시도로 연구가 이어지고 있다.
물론 컴퓨터를 이용하여 수학의 난제를 푸는 것과 증명을 하는 것은 다른 것이라고 주장하는 사람들도 있다. 수학적 엄밀함에 초점을 맞춘 학자들은 컴퓨터를 이용한 증명은 수학적 증명과는 거리가 멀다고까지 이야기하는 사람도 있다. 좁게는 컴퓨터 연산 과정에서의 오류 (알고리즘이나 컴파일러 오류, 부동소수점 처리 오류 등) 가능성부터 시작하여, 넓게는 인간이 이해할 수 없는 추론 과정의 생략에서 오는 불안감을 포함하고 있을 것이다. 수학이 주는 아름다움, 즉, 우아함이 결여를 근거로 컴퓨터를 이용한 증명에 거부감을 갖는 학자들도 있다. 수학자들이 아름답다고 이야기하는 증명은 주로 서로 관련이 없어 보이는 분야의 방법론이 연결되어 전혀 뜻밖의 결과를 만들어내는 케이스들에서 보이는데, 컴퓨터를 이용할 경우, straightforward 하게 혹은 brutal 하게 증명하는 경우가 대다수이므로, 이러한 과정은 별로 아름답지 못하다는 뜻이다. 그러나 아마도 보다 근본적인 수준에서는 컴퓨터를 이용하여 증명하는 과정은, 증명이라면 의당 갖춰야 할 '자명함'을 보일 수 없다는 것에 있을 것이다.
최근 딥러닝을 이용하여 자연어를 음악으로, 이미지로, 동영상으로, 문학 작품으로 이른바 manifold 위에 'mapping' 한 작품들이 점점 많아지고 있다. 어떤 작품들은 인간의 것과 구분할 수 없는, 심지어는 인간의 상상력을 뛰어넘는 것처럼 보이기도 한다. 어떤 작품들은 NFT 시장에 출품되어 상업적으로 거래되기도 하고 어떤 작품들은 이미 영화나 미디어에서 활용되고 있을 정도다. 인간성 고유의 영역이라고 생각했던 창작 활동의 점점 많은 부분이 컴퓨터와 인공지능에 의해 '대체'될 수 있다고 할 때, 또 사회가 그것을 점점 더 널리 받아들이게 될 때, 과연 인간의 고유한 창조 혹은 지적 활동이라고 할 수 있는 것이 얼마나 남아 있을지 궁금하다. 인간의 지적 활동 중에 가장 펀더멘털 하면서도 가장 비인간적인 수단으로 대체하기 힘들 것이라 생각하는 수학에서도 점점 인간의 고유 영토는 좁아지고 있는데, 어느 시점부터는 컴퓨터와 인공지능이 없으면 새로운 추측을 만들어내지 못하거나 새로운 증명을 시도할 수 없는 날이 올지도 모른다. 이러한 부분은 computer-assisted proof에 저항하는 수학자들의 심정을 이해할 수 있게 해 주는 부분이다.
그럼에도 불구하고 인간이 반도체를 발명하고, 컴퓨터를 발명하고, 인공지능을 발명한 이상, 그것이 없었던 시대로 회귀하는 것은 전 지구 스케일의 문명 멸망급 이벤트가 일어나지 않는 이상 거의 불가능하다. 결국 나를 포함하여 많은 사람들은 인간의 창의적 활동으로 만들어 낸 도구가 인간을 대체하는 것이 아닌, 인간의 창의적 활동의 영역, 나아가 차원을 확장시킨다는 개념으로 그것을 받아들이는 시대가 올 것이라 생각한다. 그간 수학적 우아함으로는 증명될 수 없었던 '4색정리'가 두 달여간의 집중적인 계산과 정리를 통해 처음으로 brutal search 방법에 의거 1976년 하켄과 아펠에 의해 완벽하게 증명된 사례를 보자. 초기에는 많은 사람들에 의해 비판을 받았지만 결국 인정되고 brutal search 방법론의 효용성이 널리 활용되기 시작하였고, 이제는 컴퓨터를 활용할 수 있다면 시간을 절약하기 위해 활용하는 것이 당연시되고 있다.
다만 찜찜함은 여전히 남는다. 어느 시점부터는 컴퓨터를 이용한 수학적 정리에 대한 증명이나 예술 작품의 가치가 인간이 평가할 수 있는 수준을 넘을 경우, 과연 그것에 대한 판단은 어떻게 할 수 있을 것이냐가 바로 그것이다. 몇 겹이나 꼬여 있는 난해한 암호문 같은, 그리고 겉으로 보면 무의미한 시구들 속에 교묘하게 이진법 혹은 고대어로, 혹은 암호 알고리즘으로 겹겹이 감춰진 시상을 내포한 시를 어떤 컴퓨터가 만들어 낸다고 가정해 보자. 그 '시'를 몇 년에 걸쳐 인간이 스스로 분석하여 알아낸다고 한다면, 인간은 그 시를 정말 제대로 감상한 것이 되는가? 그나마 예술 작품은 '감상'이라는 영역으로 남을 수 있겠지만, 기초과학은 '검증'과 '객관화'가 필요하다는 것이 문제다. 21세기 중후반 어느 날, 추론과 계산 성능이 강력한 AI가 '리만 가설이 참임을 증명했음'이라고 발표한다면 우리는 그것이 정말 참임을 몇 년에 걸쳐 분석할 수 있는가? 할 수 없다면 우리는 그것을 참이라고 받아들여야 하는가? 그것을 믿고 거대한 시스템을 설계하고 거대한 자본을 투입해야 하는가? 나중에 인류의 문명이 달려 있는 건곤일척의 순간이 왔을 때, 인간은 이해할 수 없는 컴퓨터의 결정을, 우리는 그저 시간이 별로 없다는 이유로, 인간 스스로 해답을 합의할 수 없다는 이유로 믿고 따라야 하는가? 중요한 문제에 대한 해답으로서 컴퓨터, 나아가 인공지능의 해법을 받아들일 것인가 아닌가의 경계선을 어디쯤에 그어야 하는가?
이미 철학자들이 이러한 문제를 놓고 많은 고민을 하고 있고 인공지능에 대해서라면 윤리적 관점, 가치적 관점에서 많은 논의가 이뤄지고 있다. 그렇지만 이러한 문제는 딱히 해결책이 나오기 어려운 문제다. 윤리 문제라면 법제화로 어느 정도는 제어가 가능하겠지만, 가치 평가 문제는 윤리의 영역을 넘어서는 것이다. 특히 수학 같은 기초과학에서는 도구를 넘어, 목적 혹은 절대적 경로가 되는 것을 받아들일 수밖에 없다면 어느 시점부터는 그 경로에 대한 의존을 탈피할 수 없을 것이다.
플랑크가 이야기했듯, 새로운 것을 받아들이지 못하는 세대는 그저 시간이 지남에 따라 쇠퇴하는 것이고, 그것을 받아들이는 세대가 바통을 이어받아 또 융성하는 식으로 세상은 흘러 왔다. 컴퓨터와 인공지능 역시, 그것을 공기처럼 받아들이는 인류는 그 자체로 새로운 인류가 될 것이고 그렇지 못하는 사람들은 또 쇠퇴하겠거니 생각할 수도 있을 것이다. 다만 마음 한 구석의 어두운 부분이 있다면, 세대와 상관없이 어느 순간 인류가 그것을 받아들이는지 여부와 상관없이 그저 쇠퇴하는 길을 걷게 될 가능성이 바로 그것일 것이다.
