이제 더 이상 학문 수양은 필요없다고 생각하는 이들에게
일단 가정을 하나 해보자.
지금 현재 우리는 모두 천동설을 믿고 있는 세계에 살고 있다.
그러나 정보기술이 발달하여 Gen AI만큼은 사용할 수 있는 상황이다.
지금까지 인류가 쌓아온 모든 문헌은 "지구가 우주의 중심이며 고정되어 있다"고 서술되어 있다.
아직 코페르니쿠스와 갈릴레오는 지동설을 주장하지 않은 상태이다.
과연 이런 상황에서 Gen AI는 지동설을 얘기할 수 있을 것인가?
이 질문은 지식∙권위∙증거가 제한된 시대적 조건 하에서 Gen AI가 기존 패러다임을 전복하는 주장을 할 수 있는가로 재정의할 수 있다.
결론부터 얘기하면 프톨레마이오스 시대의 조건이 그대로 유지되었다면 Gen AI는 지동설을 주장하지 못했을 가능성이 매우 높다. 오히려 천동설을 가장 완벽하게 옹호하는 논리를 펼치는 '천동설의 수호자'가 되었을 것이다. 이유는 기술적 한계가 아니라 인식론적 입력 조건에 있다.
왜 그런지 간단히 살펴보자.
생성형 AI는 갈릴레오처럼 목성의 위성을 직접 관찰할 수 없다. 오직 주어진 텍스트 데이터 내에서 확률적으로 가장 타당한 답을 내놓는다. 당시 프톨레마이오스의 《알마게스트(Almagest)》, 아리스토텔레스의 형이상학, 성경적 해석을 비롯한 모든 문헌의 99.9%가 "지구가 우주의 중심이며 고정되어 있다"고 서술되어 있었다. 따라서 "우주의 중심이 어디인가?"라고 묻는다면, AI는 학습된 데이터의 압도적인 합의(consensus)에 따라 당연히 지구라고 답변했을 것이다. AI 입장에서 지동설은 데이터에 존재하지 않았고 비상식적인 노이즈로 간주했을 것이다.
생성형 AI (LLM)은 다음에 올 단어를 확률적으로 예측하는 모델이다. 천동설 시대에 "태양은~"이라는 문장 뒤에 올 가장 확률이 높은 문구는 "~ 지구 주위를 돈다"이다. AI가 "지구가 태양 주위를 돈다"라고 말하려면 기존의 방대한 데이터를 뒤집을 만한 새로운 데이터 (관측 결과, 수학적 증명)이 학습 데이터셋에 포함되어 있어야 한다. 만약 소수의 고대 철학자 (아리스타르코스 등)이 지동설을 주장한 기록이 아주 조금 섞여 있었다 하더라도 확률적으로 무시되었을 것이다.
만약 우연히라도 (혹은 오류로 인해) "지구가 태양을 돈다"라고 Gen AI가 말했다면 어떻게 됐을까?
현재 우리는 AI가 사실이 아닌 말을 지어낼 때 이를 환각이라고 부른다. 천동설 시대에 AI가 지동설을 말했다면 당시 사람들은 이를 "AI가 오작동하여 헛소리를 한다"고 판단했을 것이다.
또한 갈릴레오나 코페르니쿠스는 관측과 수학을 통해 주장을 뒷받침했지만 언어모델인 AI는 왜 지구가 도는지를 증명할 수 있는 물리적 직관이 없다.
만약 AI가 단순히 텍스트를 학습하는 LLM (거대언어모델)이 아니라 천체 관측 데이터를 분석하여 최적의 수학적 모델을 찾는 수리적 AI (Symbolic AI)였다면 이야기는 달라질 수 있다.
천동설은 행성의 역행을 설명하기 위해 주전원 (epicycles)이라는 매우 복잡한 기하학적 장치를 계속 추가해야 했다. 만약 수리적 AI에게 "행성의 움직임을 가장 단순한 수식으로 설명해"라는 과제를 줬다면, AI는 복잡한 천동설 수식보다 태양을 중심에 두는 것이 수식적으로 훨씬 깔끔하다는 패턴을 발견했을 수도 있다. 마치 "이 수식이 실제 우주 모델인지는 모르겠지만, 태양을 중심에 놓는 게 계산 효율이 1,000배 더 높다"라는 결론을 내릴 수도 있다는 것이다. 이는 데이터 분석가로서 지동설을 발견하게 된 경우이다.
생성형 AI는 시대의 지식을 반영하는 거울이지, 시대를 앞서가는 예언자가 아니다
프톨레마이오스 시대의 Gen AI는 당대 최고의 지식인들을 흉내내며 천동설을 아주 논리적이고 유창하게 설명하는 도구였을 것이다. 새로운 과학적 패러다임 (지동설)은 기존 데이터의 반복 학습이 아니라 기존의 믿음을 의심하고 깨뜨리는 인간의 비판적 사고와 관찰에서 나온다. 갈릴레오의 당시 '위험한 생각'은 오직 데이터 너머를 의심하는 인간의 의지에 의해서만 나올 수 있는 가치이기 때문이다.