제 4부 : 신전은 어떻게 무너지는가
안타깝게도 이렇게 해체된 가치들은 단순히 우리의 인생에 대한 해답을 탐색하는데 그치지 않는다. 오히려, 이러한 가치의 부재들로 허약해진 현대 사회의 신전을 무너뜨리는 붕괴의 수순으로 이어진다. 4부에서는 앞에서 해체된 가치들의 대전제가 붕괴되는 미래에 대해서 이야기할 것이다.
먼저, 우리가 만들어낼 LLM과 BCI라는 외계인들에 대해서 이야기할 것이다. 이들의 등장이 기존 기술의 발전과는 어떻게 다른지, 그들의 발전 상과 같이 간략하게 알아볼 것이다.
그 다음, 새로운 외계인들이 기존의 사회를 지탱하던 신화들을 무너뜨리고 사회에 몰고올 아노미에 대해 설명해보고자 한다. 휴머니즘이라는 거대한 신화의 대전제가 붕괴하고, 특이점이 몰고올 아노미라는 형태의 혼돈 말이다.
마지막으로 이런 거시적인 흐름 앞에서 우리는 무엇을 해야하는지에 대해 이야기해볼 것이다. 우리는 해체된 가치의 파편들 중에서 무엇을 재활용해야 하는 것인가? 새로 지을 신전의 재료는 어떤 특성을 가지고 있어야 하는가?
놀랍게도, 4부에서 설명할 것은 먼 미래의 우리가 감내해야할 혼란이 아니다. 바로 우리 앞에 닥친 이슈들이다.
당신은 요즘 AI 어시스턴스로 무엇을 사용하는가? ChatGPT? Claude? Gemini? 그들의 성능을 직접 목도했다면, 이야기가 빠를 것이다.
LLM은 기본적으로 ‘가장 그럴 듯한 대답’을 생성하는 프로그램이다. 자신의 대답과 이상적인 대답 사이의 오차를 계산해서 자신의 가중치를 수정하는 인공신경망인 셈이다. 그들이 맨 처음 마주한 것은 문장의 성립이었다. 초창기의 LLM들은 아무 단어나 나열하는, 일종의 단어 보따리나 다름없는 수준이었다. 이들은 ‘그럴 듯한 대답’을 생성하기 위해, 문법을 학습했다. 어떤 때에 어떤 조사를 사용할지, 단어를 어떤 순서로 배열할지 말이다.
그 다음 마주한 것은 사실관계였다. 에베레스트에 오르는 것이 얼마나 힘든지 LLM들은 이해하지 못했다. ‘가족 나들이로 히말라야 등반은 어떠신가요?’는 분명 문법적으로 맞는 말이니까. 그들은 이제 상식과 논리를 학습하기 시작했다. 에베레스트는 8,848m라는 점과 사람은 굳이 가족들과 함께 고산병에 걸리고 싶어하지 않는다는 점을 말이다.
이어서, 이들은 감정을 이해하기 시작했다. 사람들은 이제 AI들에게 징징대기 시작한 것이다. ‘나 오늘 회사에서 잘렸어. 상사놈, 정말 못되지 않았니?’. 하지만, 이제 MBTI에서 T 성향을 보이는 대화 파트너는 매력이 없다. ‘당신이 해고된 이유가 상사와 관련있나요?’보다는 ‘아이고, 상사놈 때문에 해고되셨군요. 속상하시겠어요.’가 더 그럴듯하고, 에러가 낮은 대답인 것이다. 여기까지가 현재 LLM이 도달한 단계이다.
다음 단계는 무엇일까? 가치 판단이다. ‘네가 레버를 당기면 1명이 죽고, 레버를 당기지 않으면 5명이 죽어. 너는 레버를 당길거니?’. 안타깝게도, 가치 판단에는 정답이 없다. 양적 공리주의를 주장하는 사람에게는 레버를 당기는 것이 모두의 공리를 위해 맞고, 행동의 의지를 따지는 변호사라면 레버를 당기지 않는 것이 법리적으로 안전하다고 말할테니. 이제 AI들은 자신만의 가치체계와 윤리를 학습하기 시작했다. 일관된 행동 패턴을 보이기 시작한 것이다.
우리는 1부에서 클론에 대해 잠시 이야기해 보았다. 하지만 현실은 더욱 더 잔인하다. 이미 뉴럴링크는 인간의 뇌에 대해서 굉장히 높은 정확도로 뇌파를 읽어내는 데에 성공했다. BCI를 통해서 문명 5를 플레이하는 사람이 등장했다. 꼭 스타워즈의 ‘포스’를 사용하는 느낌이란다. BCI의 입력 기술 수준은 이미 꽤나 높은 경지에 이르렀다. 당신의 뇌가 복제될 날이 사실 그렇지 머지 않은 것일지도 모른다. 굳이 완전한 복제일 필요조차 없다. 당신의 판단이 BCI와 AI에 의해 ‘증강’될 가능성도 있다. 그렇다면, 증강된 당신이 내린 판단에 대한 책임은 정말 당신에게만 종속된 것인가?
이렇게 우리는 우리가 만들고 있는 외계인들의 존재에 관하여 살펴보았다. 이들에 대해 어떻게 생각하는가? 두려운가, 설레는가? 사실, 이 질문은 무의미하다. 어차피 우리가 만들어낼 외계인들은 이미 우리 옆에 그 그림자를 보여주고 있기 때문이다.