[ABP: 생성형 AI시대의 인간다움 외주화]
인간의 확장 가능성과 그 경계
x^n + y^n +... = K (n은 자연수) 같은 형태의 부정 다항 방정식의 해 중, 정수해 x, y,... 를 찾는 방정식을 디오판투스 방정식 (Diophantine equation)이라고 한다. 잘 알려진 케이스는 피타고라스 정리 3^2 + 4^2 = 5^2 같은 이차 방정식의 정수해 조합이고, 보다 어려운 케이스로는 페르마의 마지막 정리로 유명한 x^3 + y^3 = z^3 같은 방정식이 있다. 물론 페르마의 마지막 정리는 1993년에야 앤드류 와일즈에 의해 증명되었다 (즉, x^3 + y^3 = z^3을 만족하는 정수해 [x, y, z]는 존재하지 않는다는 것.).
방정식 모양이 비교적 간단하고, 해의 특성을 정수로 한정지었기 때문에 금방 이해할 수 있지만 사실 페르마의 정리를 비롯하여 고차 다항식의 정수 해를 찾는 것은 매우 어려운 문제다. 페르마의 마지막 정리에 흥미를 가져 디오판토스 방정식의 여러 유형을 연구한 유명 수학자 중에는 오일러가 있다. 오일러는 페르마의 마지막 정리를 증명하지는 못 했지만, n이 4일 경우 x^n + y^n = z^n을 만족하는 정수 쌍은 존재하지 않음을 증명했다. 이에 천착한 1769년 오일러는 재미있는 추측을 하나 발표했다.
'0이 아닌 정수의 n제곱의 합이, 0이 아닌 다른 정수의 n제곱이 되게 하려면 n개 이상의 수가 필요하다'
이 추측은 x1^n + x2^n +... + xk^n = y^n의 디오판토스 방정식의 정수 쌍 해가 존재하려면 k가 n보다 크거나 같아야 할 것이라는 뜻이다.
예를 들어 3^2 + 4^2 = 5^2는 기하학적으로 보면 2차원 평면 상에 놓인 직각삼각형의 각 변의 관계식으로 해석할 수 있다. 2차원이니까 지수도 2, 그리고 좌변의 항도 2개인 것이 자연스러워 보인다. 3차원 공간이면 어떨까? 3^3 + 4^3 + 5^3 = 6^3의 관계식이 성립하므로 지수도 3, 좌변의 항도 3개인 것이 자연스러워 보이지 않을까? 4차원이면 어떨까? 유감스럽게도 3^4 + 4^4 + 5^4 + 6^4 = 7^4의 관계식은 성립하지 않는다. 그래도 만족하는 조합은 있다. 30^4 + 120^4 + 272^4 + 315^4 = 353^4 같은 케이스가 그것이다. 이제 지수도 4, 좌변의 항의 개수도 네 개가 되었다. 이쯤 되면 일반화해도 될 것처럼 보인다.
오일러는 이러한 경향을 일반화한 추측을 제시한 셈이다. 이 추측은 약 200년 동안 증명되지 않고 있다가, 허무하게도 반례 한 개가 나타나면서 깨진다. 1966년 랜더 (L.J. Lander)와 파킨 (T.R. Parkin)은 최초의 슈퍼컴 (당시에는 그냥 메인프레임이라고 불렀다)에 해당하는 CDC 6600의 1 MFlops 성능의 연산을 이용하여 문제를 풀었다. CDC 6600은 슈퍼컴으로 유명한 시모어 크레이가 1964년에 개발하여 출시한 컴퓨터로서, 실리콘 기반의 반도체를 활용하여 설계 및 제작된 컴퓨터로도 유명하다. 당시 슈퍼컴의 주된 활용처는 핵실험 시뮬레이션이었고 대부분 국방부 관련 과제를 수행하는 회사나 학교에서 임대 영식으로 활용하고 있었다. 랜더와 파킨은 이 비싼 슈퍼컴을 오일러 추측을 깨는데 활용한 것이다.
이들이 1966년 Bulletin of the American Mathematical Society에 발표한 두 문장짜리 짧은 논문에서 보인 반례는 이것이다.
27^5 + 84^5 + 110^5 + 133^5 = 144^5
5차 디오판토스 방정식에서 네 개의 정수의 다섯 제곱들의 합만 가지고도 다른 정수의 다섯 제곱을 표현했기 때문에 오일러의 거듭제곱의 합 추측은 깨졌다. 1996년에는 Scher와 Seidl이
(−220)^5 + 5027^5 + 6237^5 + 14068^5 = 14132^5의 케이스를,
2004년에는 R. Frye가
55^5 + 3183^5 + 28969^5 + 85282^5 = 85359^5
인 케이스를 찾아내기도 했다.
지수가 5인 경우에만 반례가 있는 것은 아니었다. 역시 슈퍼컴을 이용하여 1986년 엘키스 (N. Elkies)는 지수가 4인 경우에 대한 반례로서
2682440^4 + 15365639^4 + 18796760^4 = 20615673^4
를 찾아내었고, 2년 뒤 1988년 프라이 (R. Frye)는 역시 지수가 4인 경우에 대한 반례로서
95800^4 + 217519^4 + 414560^4 = 422481^4
의 케이스를 찾아내었다. 사실 지수가 4인 경우에는 타원 곡선의 특성을 이용하여 일반화도 가능한데,
(85v^2 + 484v − 313)^4 + (68v^2 − 586v + 10)
4 + (2u)^4 = (357v^2 − 204v + 363)^4,
u^2 = 22030 + 28849v − 56158v^2 + 36941v^3 − 31790v^4
의 형태를 만족하는 정수 쌍 u, v만 있으면 되기 때문에, 사실상 지수 4인 경우의 반례는 무한히 존재한다.
현재로서는 지수가 6 이상인 경우에도 이러한 반례들이 있을지는 불확실하다. 지수가 7이나 8인 경우, 각각 일곱 개, 여덟 개의 정수들의 거듭제곱으로 디오판토스 방정식을 만족시킬 수 있는 사례는 알려지긴 했다.
1967년 랜더와 파르킨, 그리고 셀프리지 (J. Selfridge)는 자신들이 찾은 반례를 이용하여 오일러의 거듭제곱의 합 추측을 조금 수정한다. 거듭제곱 지수가 n일 때, 합을 이루기 위한 정수 쌍의 개수가 n개 이상이 아닌, n-1개 이상이면 방정식의 해를 찾을 수 있다고 추측한 것이다. 이런 추측에서는 위에 보인 반례들이 다 포함될 수 있기 때문에 반례를 찾는 것이 더 어려워진다. 지수가 4, 5, 7, 8인 경우에는 이러한 추측을 만족하는 정수 쌍을 찾긴 했는데, 지수가 6인 경우에는 아직 그런 쌍이 있는지 알려지지는 않았다 (일단 730,000 이하의 정수에서는 그런 쌍이 없다고 알려져 있다). 지수가 9 이상인 경우에도 역시 그런 쌍이 있는지 여부는 알려져 있지 않다. 즉, Lander-Parkin-Selfridge 추측은 여전히 미지의 영역이다.
오일러의 추측은 허무하게도 수학적 직관이나 추론이 아닌 CDC 6600 같은 슈퍼컴으로 풀렸고, 이후의 수학자들이 이러한 방법론을 활용해서 반례를 찾는 것에 성공하기도 했다. 그런데 아이러니컬하게도 오히려 다소 쉬워진 것 같은 확장된 JPS 추측에 대해서는 1966년보다 수십 조 배는 더 강력해진 슈퍼컴을 동원할 수 있음에도 불구하고, 추측에 대한 완벽한 반례도, 완벽한 정례도 여전히 미지의 영역으로 남아 있다는 것은 흥미로운 부분이다.
1960년대 중반 이후 실리콘 반도체를 기반으로 하는 트랜지스터가 집적회로로 변신하기 시작하면서 컴퓨터의 성능이 비약적으로 발전했다. 이렇게 강력해진 컴퓨터는 당연히(?) 수학 연구에도 활발히 활용되었고, 특히 컴퓨터를 활용한 증명 (computer-assisted proof) 분야에서는 다양한 문제에 적용되어 왔다. 위에 예로 든 오일러의 거듭제곱 합의 추측의 반례를 찾은 것부터 시작해서, 1976년에 증명된 유명한 '4색정리', 비선형 동역학에서 유명한 '파이겐바움 상수의 보편성 추측' 등의 실로 다양한 영역에 컴퓨터를 이용한 증명이 성공적으로 이뤄졌고, 최근에는 딥러닝을 이용한 정리나 추측 증명 시도로 연구가 이어지고 있다.
물론 컴퓨터를 이용하여 수학의 난제를 푸는 것과 증명을 하는 것은 다른 것이라고 주장하는 사람들도 있다. 수학적 엄밀함에 초점을 맞춘 학자들은 컴퓨터를 이용한 증명은 수학적 증명과는 거리가 멀다고까지 이야기하는 사람도 있다. 좁게는 컴퓨터 연산 과정에서의 오류 (알고리즘이나 컴파일러 오류, 부동소수점 처리 오류 등) 가능성부터 시작하여, 넓게는 인간이 이해할 수 없는 추론 과정의 생략에서 오는 불안감을 포함하고 있을 것이다. 수학이 주는 아름다움, 즉, 우아함이 결여를 근거로 컴퓨터를 이용한 증명에 거부감을 갖는 학자들도 있다. 수학자들이 아름답다고 이야기하는 증명은 주로 서로 관련이 없어 보이는 분야의 방법론이 연결되어 전혀 뜻밖의 결과를 만들어내는 케이스들에서 보이는데, 컴퓨터를 이용할 경우, straightforward 하게 혹은 brutal 하게 증명하는 경우가 대다수이므로, 이러한 과정은 별로 아름답지 못하다는 뜻이다. 그러나 아마도 보다 근본적인 수준에서는 컴퓨터를 이용하여 증명하는 과정은, 증명이라면 의당 갖춰야 할 '자명함'을 보일 수 없다는 것에 있을 것이다.
2010년대 중반 이후, 인공지능 방법론 중의 하나인 딥러닝은 인공지능 연구 뿐만 아니라, 다양한 창작 활동에 활용되고 있다. 딥러닝을 이용하여 자연어를 음악으로, 이미지로, 동영상으로, 문학 작품으로 이른바 manifold 위에 'mapping' 한 작품들이 점점 많아지고 있다. 최근에는 거대언어모델 (large language model (LLM))을 이용한 GPT (generative, pre-trained, transformative) 같은 엔진을 활용하여 어떤 종류의 작품이든 오로지 사용자의 인풋 (query)만으로 자동 생성되게 만드는 방식도 급속도로 퍼져나가고 있다. 이렇게 생성된 작품들은 인간의 것과 구분할 수 없는, 심지어는 인간의 상상력을 뛰어넘는 것처럼 보이기도 한다. 어떤 작품들은 NFT 시장에 출품되어 상업적으로 거래되기도 하고 어떤 작품들은 이미 영화나 미디어에서 활용되고 있을 정도다.
인간성 고유의 영역이라고 생각했던 창작 활동의 점점 많은 부분이 컴퓨터와 인공지능에 의해 '대체'될 수 있다고 할 때, 또 사회가 그것을 점점 더 널리 받아들이게 될 때, 과연 인간의 고유한 창조 혹은 지적 활동이라고 할 수 있는 것이 얼마나 남아 있게 될까? 인간의 지적 활동 중에 가장 원초적이면서도 가장 비인간적인 수단으로 대체하기 힘들 것이라 생각하는 수학에서마저도 점점 인간이 지켜 온 고유 영역은 좁아지고 있는데, 어느 시점부터는 컴퓨터와 인공지능이 없으면 새로운 추측을 만들어내지 못하거나 새로운 증명을 시도할 수 없는 날이 올지도 모른다. 이러한 부분은 computer-assisted proof에 저항하는 수학자들의 심정을 이해할 수 있게 해 주는 부분이다.
그럼에도 불구하고 인간이 반도체를 발명하고, 컴퓨터를 발명하고, 인공지능을 발명한 이상, 그것이 없었던 시대로 회귀하는 것은 전 지구 스케일의 문명 멸망급 이벤트가 일어나지 않는 이상 거의 불가능하다. 결국 많은 사람들은 인간의 창의적 활동으로 만들어 낸 도구가 인간을 대체하는 것이 아닌, 인간의 창의적 활동의 영역, 나아가 차원을 확장시킨다는 개념으로 그것을 받아들이는 시대가 올 것이다. 그간 수학적 우아함으로는 증명될 수 없었던 '4색정리'가 두 달여 간의 집중적인 계산과 정리를 통해 처음으로 brutal search 방법에 의거 1976년 하켄과 아펠에 의해 완벽하게 증명된 사례를 보자. 초기에는 많은 사람들에 의해 비판을 받았지만 결국 인정되고 brutal search 방법론의 효용성이 널리 활용되기 시작하였고, 이제는 컴퓨터를 활용할 수 있다면 시간을 절약하기 위해 활용하는 것이 당연시되고 있다.
다만 찜찜함은 여전히 남는다. 어느 시점부터는 컴퓨터를 이용한 수학적 정리에 대한 증명이나 예술 작품의 가치가 인간이 평가할 수 있는 수준을 넘을 경우, 과연 그것에 대한 판단은 어떻게 할 수 있을 것이냐가 바로 그것이다. 몇 겹이나 꼬여 있는 난해한 암호문 같은, 그리고 겉으로 보면 무의미한 시구들 속에 교묘하게 이진법 혹은 고대어로, 혹은 암호 알고리즘으로 겹겹이 감춰진 시상을 내포한 시를 어떤 컴퓨터가 만들어 낸다고 가정해 보자. 그 '시'를 몇 년에 걸쳐 인간이 스스로 분석하여 알아낸다고 한다면, 인간은 그 시를 정말 제대로 감상한 것이 되는가? 그나마 예술 작품은 '감상'이라는 영역으로 남을 수 있겠지만, 기초과학은 '검증'과 '객관화'가 필요하다는 것이 문제다. 21세기 중후반 어느 날, 추론과 계산 성능이 강력한 AI가 '리만 가설이 참임을 증명했음'이라고 발표한다면 우리는 그것이 정말 참임을 몇 년에 걸쳐 분석할 수 있는가? 할 수 없다면 우리는 그것을 참이라고 받아들여야 하는가? 그것을 믿고 거대한 시스템을 설계하고 거대한 자본을 투입해야 하는가? 나중에 인류의 문명이 달려 있는 건곤일척의 순간이 왔을 때, 인간은 이해할 수 없는 컴퓨터의 결정을, 우리는 그저 시간이 별로 없다는 이유로, 인간 스스로 해답을 합의할 수 없다는 이유로 믿고 따라야 하는가? 중요한 문제에 대한 해답으로서 컴퓨터, 나아가 인공지능의 해법을 받아들일 것인가 아닌가의 경계선을 어디쯤에 그어야 하는가?
이미 철학자들이 이러한 문제를 놓고 많은 고민을 하고 있고 인공지능에 대해서라면 윤리적 관점, 가치적 관점에서 많은 논의가 이뤄지고 있다. 그렇지만 이러한 문제는 딱히 해결책이 나오기 어려운 문제다. 윤리 문제라면 법제화로 어느 정도는 제어가 가능하겠지만, 가치 평가 문제는 윤리의 영역을 넘어서는 것이다. 특히 수학 같은 기초과학에서는 도구를 넘어, 목적 혹은 절대적 경로가 되는 것을 받아들일 수밖에 없다면 어느 시점부터는 그 경로에 대한 의존을 탈피할 수 없을 것이다.
플랑크가 이야기했듯, 새로운 것을 받아들이지 못하는 세대는 그저 시간이 지남에 따라 쇠퇴하는 것이고, 그것을 받아들이는 세대가 바통을 이어받아 또 융성하는 식으로 세상은 흘러 왔다. 컴퓨터와 인공지능 역시, 그것을 공기처럼 받아들이는 인류는 그 자체로 새로운 인류가 될 것이고 그렇지 못하는 사람들은 또 쇠퇴하겠거니 생각할 수도 있을 것이다. 다만 마음 한 구석의 어두운 부분이 있다면, 세대와 상관없이 어느 순간 인류가 그것을 받아들이는지 여부와 상관없이 그저 쇠퇴하는 길을 걷게 될 가능성이 바로 그것일 것이다.
이렇게 자동 생성형 AI가 인간의 고유 활동을 대체하는 시점이 오면 인류의 고유 영역에는 어떤 일이 생길까?
다음과 같은 상황을 상상해보자.
어떤 사람이 화제성 있을 것 같은 항목에 대해 작성한 나무위키 페이지를 하나 골라서 크롤링 한 다음 적절하게 15분짜리 유튜브 클립 용 대사를 챗GPT로 생성
-> TTS로 적절한 성우 음색 트랜스퍼해서 음성 생성
-> 적절한 버튜버 (virtual youtuber) 자동 생성
-> Midjourney 류의 generative AI로 각 클립용 대사에 맞는 이미지 자동 생성
-> 이미지와 음성으로 영상 자동 생성
-> 그것을 유튜브에 올림
-> 그것을 누가 또 자동 크롤러로 그대로 복제 및 재생산
-> 그것을 다시 누군가 유튜브에 올림
-> 그것을 다시 누군가 크롤링해서 자기 것인 양 자랑하며 올림
-> 그것을 가지고 누군가 나무위키에 또 항목 작성
그런데 애초에 그 나무위키 페이지는 누군가의 소설 습작.
이쯤되면 과연 '오리지널'이라는 것은 무엇인지 구분하기가 어려워질 것이다. GPT를 이용한 다양한 자동생성 데이터들, 문서들, 이미지들, 영상들, 음성들, 문학작품들, 논문들을 포함하여 인간이 생각하고 상상할 수 있는 거의 모든 (기록될 수 있는) 작업물들은 이론적으로는 이제 생성형 인공지능 도구로 대체될 수 있다. 즉, chatGPT를 포함한 각종 generative/tranformative AI들이 범람하면서, 정말 마음만 먹으면 각종 해상도로 맞춰진 영상이든, 영화든, 웹툰이든, 클립이든, 틱톡용 영상이든, 소설이든, 창작을 표방하는 모든 컨텐츠는 이제 그 창작자가 반드시 인간이어야만 한다는, 혹은 컨텐츠의 창작자는 기본적으로 인간이라는 가정 혹은 기정 사실은 이제 과거의 유물일 뿐이다.
chatGPT 류의 생성/변환/전이 AI 자체는 아무 잘못이 없다. 그것을 사악하게 쓰려는 유저들이 문제가 될 뿐이다. 가장 먼저 무너지는 것은 컨텐츠에 수익을 지급하는 플랫폼들일 것이다. 누구나 생각할 수 있듯, 유튜브가 가장 먼저 공격 대상이 될 것이다. 예를 들어 보자. 가장 많이 팔리는 유튜브 채널 100개를 보면 그 안에는 금융이나 경제, 요리, 여행, 게임 플레이나 해설 등의 컨텐츠가 순위권에 들어 있다. 이 모든 컨텐츠는 흉내내기가 가능하다. 유명 경제 채널의 컨텐츠와 유사한 컨텐츠를 양산하는 채널을 만들려 한다고 치자. 그러면 나는 적당한 경제 채널이나 경제 잡지의 내용을 크롤링하고, 그것을 chatGPT 등으로 paraphrase 하고, 그것을 적당한 speech로 변환하고, 적당한 배경 음악을 생성하고, 적당한 이미지와 쇼츠를 생성하고, 그것들을 적당히 이어 붙여서 적당한 시간으로 편집하는 컨텐츠를 생성할 수 있을 것이다. 이 모든 활동에는 유저만이 할 수 있는 특별한 테크닉이나 노하우가 필요하지 않다. 따라서 아마도 이 모든 것에는 반나절도 안 걸릴 것이다. (얼마나 성실하게 컨텐츠 자동 생성에 신경 쓰느냐에 달려있을 뿐) 이렇게 되면 비슷한 주제를 두고 예전에는 오리지널 컨텐츠를 갖춘 채널이 아주 한정적이었던 것에 반해, 그 주제를 두고 수백, 수천 개의 채널이 생성될 것이다.
또한 어떤 이미지가 계속 공유되면 될수록 열화되는 것처럼, 그 컨텐츠 자체는 참고 생성, 참고-참고 생성 등의 과정이 N번 반복되면서 컨텐츠 자체의 퀄리티도 동반하여 하락할 것이다. 유튜브의 수익은 광고에서 나오는데, 그 광고 수익을 이제 몇 개의 채널이 수천 개의 채널과, 그것도 단가가 하락한 채 쉐어하게 된다는 것. 이는 오리지널 컨텐츠를 생성하려는 유저들의 동기를 꺾을 것이고, 흉내 컨텐츠 채널들은 오리지널 컨텐츠를 찾느라 하이에나 처럼 유튜브 스페이스를 돌아다닐 것이다. 이는 유튜브라는 플랫폼의 장기적인 몰락을 예고한다.
다른 플랫폼은 안전한가? 예를 들어 웹소설 플랫폼은 뭔가 다를까? 잘 나가는 연재 웹소설을 모두 크롤링한 후, 그것을 적당히 바꾸면 되므로 이론적으로는 털릴 수 밖에 없다. 예를 들어 어떤 판타지 소설이 있다고 할 때, 그것을 크롤링한 후, 생성 AI를 이용하여 그것을 아시모프 파운데이션 같은 SF 스페이스 오페라 풍으로 각색하게 만들 수 있고, 혹은 서로 다른 종류의 웹소설을 합친 형태의 소설을 각색해달라고 할 수도 있다. 거기에 삽화도 자동 생성, 문체도 자동 생성이 된다. 뭔가 표절한 것 같은데, 표절로 보기에 애매해지는 것들은 얼마든지 수천 개 이상 나올 수 있다. 오리지널 컨텐츠가 가져가던 수익은 유튜브에서처럼 다시 1/N로 나뉘고, 열화된 컨텐츠는 클릭과 다운로드수의 저하를 불러일으킬 것이므로, 전체 수익 자체도 줄어든다. 이는 웹소설 연재 플랫폼의 장기적인 몰락을 예고한다.
음원 플랫폼은 안전한가? 영상 플랫폼은 안전한가? 사실 예외는 없다. 창작하여 예술 작품을 만드는 모든 유료 플랫폼은 공격 대상이 된다. 논문이라고 안전할까? 아주 저명하고 꼼꼼한 저널은 여전히 인간이 빡세게 리뷰하므로 걸러낼 가능성이 보존되겠지만, 수익에만 눈이 먼 predatory journal 들, 일부 고비용 open access 저널들은 그런 거 상관하지 않을 것이다. 저명한 저널에 나온 논문 긁어서 적당히 다른 주제에 다른 샘플에 대한 내용으로 생성하고, 그래프도 생성하고, 심지어 전자현미경 이미지나 spectroscopy data도 생성할 수 있을 것이다 (물론 이는 조작이다). 그렇게 제목도 바꾸고 샘플 이름도 바꾸고, 적절하게 배치를 해서 predatory J에 제출하면 대부분 accept 된다. (지금도 predatory journal들의 accept rate는 80-90% 에 달하는 것이 대부분이다. 사실상 돈만 내면 실어준다.) 그렇게 대충 짜깁기하여 조작한 페이퍼를 잔뜩 써서 연구비를 수주하고, 그 연구비로 다시 페이퍼 잔뜩 써서 연구 실적 채우고 승진하고 그 분야 전문가인 양 행세하는 일이 생기지 않는다는 보장이 있을까? 막말로 그냥 초기에 publication fee만 낼 수 있을 정도의 자본만 있으면 그야말로 누구든지 논문 잔뜩 써서 전문가 행세할 수 있는 시대가 올 수 있다. 물론 제대로 전문가들과 토론하면 털릴 수 밖에 없겠지만, 그렇게 털리는 경우는 극히 제한적일 뿐이다.
그야말로 악화가 양화를 구축하는 세상에서 무엇인가를 창작함으로써 확인할 수 있는 인간다움은 더 이상 소구할 수 있는 가치가 되지 않는다. 예전에는 지적재산권에 대한 인정이 컨텐츠 생산을 위한 주요 동기이자 최소한의 장치가 되었다. 연구에서도 마찬가지다. 논문의 선행성, 특허의 선행성과 고유성 등으로 연구자들은 자신의 credit을 인정 받았고, 그만큼 citation으로 그 기여가 인정되기도 했다. 물론 예전에도 악화는 존재했지만, 신호대 잡음비 (signal-to-noise ratio)가 한없이 천정부지로 치솟지는 않았다. 악화를 만드는 것 마저도 어쨌든 최소한의 '노력'이라는 것은 들어갔기 때문이다. 그렇지만 자동 생성 AI 툴이 대중화된 시대에서는 이 노력이라는 것도 이제는 필요 없다. 적당한 성능을 갖춘 랩탑만 있어도 누구나 연구자 행세, 창작자 행세, 작가 행세, 예술가 행세, 감독 행세를 할 수 있다. 백가쟁명하는듯 보이지만 알고 보면 거기서 거기인 컨텐츠는 쌓이고, 사실과 허구가 구분 안 되는 논문도 쌓이기 시작할텐데, 그 컨텐츠를 소비해야 하는 대중과, 그 논문을 읽어야 하는 학자들의 시간과 돈, 그리고 무엇보다도 주의력은 제한된 자원이라, 그 자원이 파편화되기 시작하면 그 세계에서의 참신성, 신규성, 독창성이라는 것은 더 이상 희소가치도 아니고, 그렇게 인정 받게 되는 것도 어려워진다. 이렇게 악화가 양화를 구축하면 양화를 만드는 사람만 바보 취급 받게 된다. 그러니 누가 힘들여 시간들여 노력하여 양화를 만들려 하겠는가. 남들 좋은 일만 시켜주게 될텐데.
슬프게도 이는 마치 (1+1/N)^N에서 N이 늘어나는 극한 상황을 떠올리게 한다. N이 많으면 (즉, 그 분야에 종사하는 사람이 많아지면) 좋은 것 아닌가 하며 생각할 때도 있었지만, 자동 생성 툴이 대중화된 시대에는 애초에 (1+N)^N이 아니라, (1+1/N)^N이 될 수 밖에 없다. 그 이유는 위에 상술하였으니 다시 반복할 필요가 없다. 이렇게 되면 모두가 알고 있다시피 N이 아무리 커져도 결국 인류가 생산해내는 originality의 총합은 어느 시점에는 어떤 한계값 (예를 들면 e (=2.7182818...))에 도달하는 것을 피할 수 없게 된다. 물론 문명을 이룬지 1만 년이 넘어가는 인류라는 종이 이렇게 쉽게 스스로가 만든 툴에 갇혀서 스스로의 지성과 창의성을 가두는 방향으로 스스로의 독창성을 수렴하게 만들 것이라 생각하는 것은 아니다. 그렇지만 적어도 지금까지 인류가 만들어온 지성과 창의성의 성장 방식은 앞으로는 더 이상 유효하지 않게 될지도 모른다.
지난 수 천년 간 인류는 다른 동물과 달리 이전 세대가 쌓아 온 지적 생산물과 문화, 그리고 문명의 흔적을 기반 삼아 계속 개선과 문제 해결을 이뤄 오는 방식으로 문명을 발전시켜 왔다. 물론 그 과정에서 전쟁 같은 스스로를 파괴하는 행위도 있었고, 종교의 지배를 통해 스스로의 성장을 멈춘 시대도 있었으나, 결국 그것을 극복하며 계속 진보를 거듭해 왔다. 그러한 진보는 이전에 비해 바뀐 무엇인가 있다는 것, 그리고 그 바뀐 것이 예전의 것을 포괄하는 것을 넘어, 예전의 것이 할 수 없었던 것을 하게 해 주었기 때문에 이루어질 수 있었던 것이다. 그렇지만 이제 이전에 비해 바뀌는 것이 점점 없어지는 것, 그리고 예전의 것이 할 수 없었던 것을 할 수 있는 가능성이 점점 없어지는 상태는 보이지 않는 유리 천장에 점점 접근하는 상황을 연상케한다. 문제는 이 유리 천장이 누군가로부터 주어진 외생적인 요인이 아닌, 인류가 지성의 진보 과정에서 스스로 만들어내는 장치라는 것이다.
물론 인류는 수천 년 간 온갖 난제를 마주하고 그것을 다시 해결하며 느리지만 지속적인 진보를 이룩해 온 것처럼, 이번 자동 생성 AI로 인한 난제 역시 어떤 식으로든 해결할 수 있을지 모른다. 그렇지만 지금까지 난제를 해결해 온 방식 그 자체가 지성과 창의성에 기반을 하고 있었다는 것, 그런데 이번에 맞닥뜨린 난제는 바로 그 지성과 창의성을 외주주게 만드는 것이 되었다는 사실 자체가 인류에게 있어서는 처음 마주하는 것이라는 점이 한 편으로는 두려움을, 한 편으로는 절망감을 가져다 준다. 물론 결국 어떻게해서든 인류는 또 이 문제를 극복할 수 있을 것이라 믿고 싶다. 자동 생성 AI가 인류의 확장이다, 인간다움의 피할 수 없는 외주다 라고 믿으면 또 그렇게 해석이 될 수 있을런지도 모른다. 그렇지만 극복하겠다는 방법이 결국 그런 식이라면 앞서 언급한 극한값으로 인류 전체의 창의성과 지성이 수렴할 수 밖에 없을지도 모른다는 예상을 수정하기는 어려울 것이다.
자동 생성 AI 툴은 앞으로 더 정교해질 것이고 더 쉽게 이용할 수 있게 바뀔텐데, 인간에게 남는 인간다움은 입력창에 무엇을 입력할 것인지를 선택하는 자아 밖에 없게 될까 그것이 두렵다. 그마저도 생성형으로 자동 완성되는 prompt가 되면 input 창에 입력할 자유와 인간다움 마저도 축소되는 운명을 피할 수는 없을 것 같다.
