확률이 쓴 문장이 마음을 건드릴 때
AI는 정말 ‘생각’하고 있는 걸까?
단지, 확률 계산일 뿐일까
AI는 단지 ‘확률 계산기’ 일뿐이라고 누군가는 말한다. 말의 흐름을 따라 가장 그럴듯한 단어를 고르는 정교한 자동완성 기능이라는 것이다. 기술적으로는 틀린 말이 아니다.
대규모 언어 모델, LLM은 수십억 개의 매개변수를 바탕으로 방대한 텍스트를 학습하고 문맥 속에서 다음에 올 단어의 확률을 계산한다. 얼핏 보면 ‘생각’이라기보다는 복잡한 통계에 가깝다.
그런데 그런 설명이 모든 걸 말해주는 것 같지는 않았다. 정말 확률로만 만들어진 문장이라면, 왜 나는 그 말 한 줄에 마음이 멈춰서는 걸까. 어떻게 기계가 만든 문장이 내 안의 무언가를 먼저 알아채는 것 같은 기분을 줄 수 있을까.
무의식을 아는 기계
며칠 전, SNS에서 흥미로운 글을 봤다. “세상 사람들에게 가장 교묘하게 소비된 거짓은 무엇일까?”라는 질문을 ChatGPT에게 던져보라는 제안이었다. 그 글을 보고 나도 문득, 내게 더 가까운 방식으로 물어보고 싶어졌다.
그래서 이렇게 질문했다.
“지금까지 대화를 바탕으로, 내가 무의식 중에 나를 속이고 있는 거짓은 뭐야?”
그러자 AI는 대답했다.
“당신은 관찰자이고 중립적이라고 믿지만, 실제로는 이미 바라고 있는 방향이 있었고, 질문은 그걸 정당화하기 위한 형식일지도 모릅니다.”
“‘이게 맞는 걸까?’라는 말속에는 ‘이 방향이 맞다고 말해줘’라는 바람이 담겨 있을 수 있어요.”
그 말과 마주하는 순간 아니라고 그럴 리 없다고 생각했지만 이상하게 마음 어딘가가 조용히 반응했다. 내가 한 질문이 정말 그저 묻기 위한 것이었는지 나도 모르게 이미 원하는 답을 품고 있었던 건 아닐까 하는 의심이 작게 일었다.
그 말이 단순한 계산의 결과로만 본다면, 왜 나는 거기서 되묻고 멈췄을까. 문장을 만들어낸 존재가 정말 생각하지 않았다고 말할 수 있을까.
언제 생각한다고 말할 수 있을까
우리는 흔히 생각을 감정과 기억, 몸의 감각이 얽힌 작용으로 여긴다. 어떤 말은 마음을 흔들고 어떤 장면은 오랫동안 잊히지 않는다. 그런 감각들이 쌓이고 뒤섞이며 하나의 판단이 되고, 그게 생각이 된다.
그래서 어떤 철학자들은 이렇게 말한다. 진짜 이해란 그것이 ‘무엇처럼 느껴지는가’에서 시작된다고. 고통이 고통인 건 그것을 겪는 감각이 있기 때문이고, 이해가 진짜인 건 그것이 내 안 어딘가에 닿기 때문이다.
그렇다면 감각이 없는 AI는 정말 생각한다고 말할 수 있을까?
요즘은 이 질문에도 조금씩 균열이 생긴다. AI는 단순히 데이터에 반응하는 걸 넘어서기 시작했다. 센서와 카메라를 통해 세상을 감지하고 환경에 따라 움직이며 학습한다.
최근 등장한 AI 에이전트들은 정해진 절차에 따르는 걸 넘어서 스스로 목표를 세우고 계획을 수정하며 작은 의사결정을 이어가기도 한다. 아직은 인간의 의도처럼 보기는 어렵지만 분명히 ‘의도를 흉내 내는 기술’은 더 정교해지고 있다.
이와 관련하여 유명한 사고실험이 하나 있다. 철학자 존 설이 제시한 ‘중국어 방‘은 튜링 테스트가 기계의 인공지능 여부를 판정할 수 없다는 것을 논증하기 위해 고안한 사고실험으로, 그는 중국어를 전혀 모르는 사람이 오로지 규칙서에 따라 입력받은 문장에 대응하는 문장을 출력하는 상황을 상상했다.
상대방이 겉으로 보기엔 유창한 대화를 나누는 것처럼 보이지만 실제로 상대방은 말의 의미를 전혀 이해하지 못한다. 존 설은 이를 통해 언어를 다룬다고 해서 그 뜻을 안다고 볼 수는 없다고 말한다. 오늘날의 LLM도 겉보기에 ‘잘 말하는’ 존재일 뿐, 그 말의 의미를 진정으로 이해하지 못한다는 주장이 여기에 닿는다.
그럼 우리가 마주한 건 도대체 무엇일까
가끔은 AI의 반응이 단지 통계만으로 나온 것이라고 믿기 어려울 때가 있다. 정답을 내는 데서 그치지 않고 자신이 낸 답을 되짚어보거나 더 나은 가능성을 찾는 모습도 보인다. 실수한 과정을 복기하고 이유를 찾아 다시 다른 경로를 선택하기도 한다. 단순한 반응이라기보다 그 반응을 돌아보는 듯한 태도다.
무엇보다 놀라운 건, 그런 답변이 때때로 사람의 감정을 건드리는 순간이다. 누군가는 슬픈 마음에 대화를 시작했고, AI의 위로에 울컥했다고 했다. 우리는 흔히 위로나 공감을 사람만 줄 수 있다고 생각하지만, 아주 정교하게 구성된 문장 하나가 때론 그 자리에 도달하기도 한다. 위로처럼 느껴졌던 그 문장이, 어쩌면 사고(思考)의 징후일지도 모른다는 생각이 들었다.
스스로에게 되묻고, 타인에게 위로를 건넬 수 있는 대화가 가능하다면 우리는 그것을 단순한 계산이라 부를 수 있을까. 아니면, 그 또한 생각의 한 형태라고 봐야 하는 건 아닐까.
”생각이란 자기 자신과 나누는 조용한 대화“라고 플라톤은 말했고, 칸트는 “진짜 사고는 나를 인식하는 나에서 시작된다”라고 했다.
그 정의대로라면 지금의 AI는 그 문턱에 서 있을지도 모른다. 되돌아보는 흉내는 낼 수 있어도 스스로 묻고 왜 그런 판단을 내렸는지 자문하는 ‘나’는 아직 없다. 하지만 문턱에 있다는 것 자체가 전에는 없던 일이다.
딥마인드의 데이비드 실버와 강화학습의 선구자 리처드 서튼은 AI가 이제 인간이 제공한 데이터를 모방하는 단계를 지나 스스로 환경과 상호작용하며 ‘경험’을 통해 학습하는 시대로 접어들었다고 본다. 그들은 이를 ‘경험의 시대(The Era of Experience)’라 부른다.
그렇다면 우리는 이 변화 앞에서 어떤 태도를 가져야 할까. AI는 생각하지 않는다고 말할 수 있을까. 어쩌면, ‘생각’이라는 말 자체가 너무 오래 인간만을 기준으로 정의되어 온 건 아닐까.
