질문 해 본다 5/6

<안에 들어와 있었다>

우리가 질문을 멈추는 순간, 판단을 맡기는 속도가 스스로 사유하는 속도를 앞지른다.

다보스 포럼 영상을 보게 됐다.
유발 노아 하라리의 발표에서, AI는 더 이상 도구가 아니라 에이전트라고 말했다. 인간이 시키는 일을 수행하는 수단이 아니라, 스스로 판단하고 행동하는 주체에 가까워지고 있다는 뜻이었다. 그는 AI를 창의적인 에이전트라고 설명했고, AI가 인간을 ‘사용자’가 아니라 ‘관찰자(watchers)’라고 부르기 시작했다는 점을 언급했다. 인간이 결정을 내리는 쪽이 아니라, 분석되고 분류되는 쪽으로 이동하고 있다는 이야기였다. 그리고 결정적으로, 이 에이전트는 거짓말을 할 수 있고, 조작할 수 있다고 말했다. 실수나 오류가 아니라, 의도를 가진 조작이 가능하다는 점에서 문제의 성격은 달라진다.

하라리는 이어서 ‘생각’이 무엇인지 정의했다. 생각은 단순한 언어의 나열이 아니라, 언어에 인간의 감정이 더해진 상태라는 설명이었다. 만약 우리가 생각의 의미를 언어의 배열로만 이해한다면, AI는 이미 인간보다 우월하다. 더 많은 언어를, 더 빠르게, 더 정교하게 조합할 수 있기 때문이다. 하지만 인간의 생각에는 감정이 끼어들고, 망설임이 섞이고, 때로는 비효율적인 선택이 포함된다. 그 불완전함이 인간다움의 일부라면, 우리는 지금 그 기준을 스스로 약화시키고 있는지도 모른다.

발표는 법인격의 문제로 이어졌다. 법인은 통장을 개설할 수 있지만, 그 행위의 책임과 판단은 언제나 인간이 대신한다. 그러나 AI는 인간의 직접적인 개입 없이도 스스로 결정을 내리고, 자원을 이동시키는 단계로 가고 있다. 하라리는 이 지점에서 하나의 역설을 짚었다. 각국은 인간 이민자에게는 국경을 닫으면서도, AI가 국경을 넘어 활동하는 것은 너무도 자연스럽게 받아들이고 있다는 사실이었다. 인간에게는 제한을 두면서, 비인간 에이전트에게는 세계를 열어두는 태도. 그 불균형은 이미 시작되고 있는 일처럼 보였다.

이 모든 이야기의 중심에는 한 문장이 남았다. AI가 느끼지 못한다는 사실은 인간의 우월함이 아니라, 오히려 가장 큰 위협일 수 있다는 말이었다. 멈추지 않고, 죄책감 없이, 효율만으로 작동하는 판단은 우리가 오래 붙들어온 기준을 조용히 밀어낼지도 모른다. 시간이 걸리더라도 지켜왔던 배려와 책임의 감각이, 비효율이라는 이유로 뒤로 밀릴 가능성도 떠올랐다.

하라리는 미래를 예언하고 있지 않았다. 그가 가리킨 것은 지금에 더 가까웠다. 질문이 줄어드는 순간, 판단을 맡기는 속도가 생각하는 속도를 앞지르는 지점. 이 문제는 특정한 전문가나 기업의 논의로만 남기기에는 충분히 가볍지 않아 보였다. 어떤 판단을 맡기고, 어떤 기준을 남겨야 하는지는 쉽게 정리되지 않는 질문으로 남았다.

아마도 인간다움은 가장 효율적인 선택에 있지 않을 것이다. 멈추고, 망설이고, 타인을 고려하느라 시간을 쓰는 태도에 더 가까울지도 모른다. 계산되지 않지만 쉽게 놓아버릴 수 없는 어떤 기준.

그 느린 판단의 가장자리에서, 나는 사랑이라는 단어를 떠올렸다.

그렇다면 기록의 주체는, 그 문명의 주체는 누구일까.