AI라는 낯선 지성을 마주하는 법
수천 줄의 복잡한 시스템 코드를 순식간에 짜주던 AI가, 불과 몇 분 전 대화에서 내가 강조했던 핵심 전제를 잊은 채 엉뚱한 결론을 내놓는다. 방대한 지식을 갖춘 듯 보이지만, 대화의 맥락을 길게 이어가는 데에서는 파편화된 모습을 드러낸다.
대체 AI는 천재인가, 바보인가?
톰 크루즈와 더스틴 호프만이 출연한 영화 '레인맨'의 실제 모델인 킴 픽은, 12,000권의 책을 사진 찍듯 통째로 암기하고 과거의 특정 날짜가 무슨 요일인지 즉각 맞혔다. 그러나 혼자서는 셔츠 단추를 채우는 일조차 버거워했다. 뇌의 기억과 시각 능력은 폭발적으로 발달했지만, 언어와 사회성 기능은 저하된 극단적 불균형. 의학에서는 이를 사반트 증후군이라 부른다.
지금 우리가 마주한 AI의 본질은 이 디지털 판 사반트에 가깝다.
구글 딥마인드의 알파폴드 3는 지구상 거의 모든 생명 분자의 구조와 상호작용을 예측하며 생명공학의 판도를 바꾸고 있다. 수학 모델인 알파프루프는 2024년 국제수학올림피아드에서 은메달 수준의 성적을 거뒀다. 이것은 학습된 데이터를 흉내 내는 수준을 넘어, 인류가 도달하지 못한 지식의 빈 공간을 AI가 독자적으로 탐험하기 시작했다는 신호다.
그런데 같은 AI가 방금 전 대화의 맥락을 놓치고 엉뚱한 합리화를 늘어놓기도 한다. 어떤 영역에서는 인간을 아득히 넘어서고, 바로 옆 영역에서는 어린이 수준에도 미치기도 한다. 이 들쭉날쭉함은 어디서 오는가?
지금의 거대언어모델은 수조 개의 문장 속에서 단어와 단어 사이의 통계적 관계를 학습하여, 가장 그럴듯한 다음 단어를 이어 붙이는 기계다. "밥을 먹으니" 다음에 "배가 부르다"가 올 확률과 "기분이 나쁘다"가 올 확률을 계산하여, 높은 확률의 단어를 선택하는 것이다.
이 확률적 조합의 정밀도가 일정 수준을 넘으면서, 마치 사고하는 듯한 결과물을 만들어내기 시작했다. 이것이 진정한 이해인지, 정교한 패턴 재현인지는 학계에서 여전히 논쟁 중이다. 모델의 규모가 커지면서 이전에는 전혀 불가능했던 추론 능력이 갑자기 출현하는 현상이 관찰되는데, 이것이 진짜 새로운 능력의 출현인지 측정 방식에 따른 착시인지도 아직 결론이 나지 않았다.
분명한 것은, AI가 세상을 인간처럼 경험하지는 않는다는 점이다. AI는 인간이 세상을 이해한 결과물인 텍스트의 통계적 구조를 학습한 것이다. 사과가 떨어지는 것을 본 적도, 뜨거운 것에 손을 댄 적도 없다. 그래서 데이터가 풍부하고 패턴이 선명한 영역, 수식 증명이나 코드 작성이나 문서 요약 같은 구조화된 작업에서는 인간을 압도한다. 그러나 우리가 숨 쉬듯 자연스럽게 쓰는 상식이나 대화의 장기적 맥락처럼 텍스트에 명시적으로 기록되지 않는 능력 앞에서는 무기력해진다.
AI는 인간의 신경망에서 힌트를 얻었지만, 작동 방식은 뇌와 상당히 다르다.
우리 뇌의 시각 피질은 단순한 직선이나 곡선에서 시작해, 층을 올라가며 점차 온전한 사물의 형태를 구성한다. AI의 영상 인식은 이 계층적 처리 방식을 충실히 모방했다. 여기까지는 뇌를 닮았다.
그러나 학습 방식은 전혀 다르다. 인간의 뇌는 어떤 행동을 했을 때 좋은 결과가 따르면 그 행동으로 이어지는 신경 연결이 강화되고, 나쁜 결과가 따르면 약화된다. 아이가 뜨거운 냄비에 손을 대고 다친 뒤, 다시는 그러지 않는 것이 이 원리다. 이 과정은 느리지만 몸 전체의 감각과 얽혀 있어서 맥락이 풍부하다. 반면 AI는 정답과 오답의 차이를 계산한 뒤, 그 오차를 역방향으로 거슬러 올라가며 연결의 강도를 수정한다. 오류 역전파라 불리는 이 방법은 뇌에서는 발견되지 않는 공학적 발명이다. 이 인위적인 역주행 덕분에 AI는 인간이 평생 걸려도 못 할 학습량을 몇 주 만에 해치운다. 대신 몸의 감각이 없기 때문에, 학습한 지식이 물리적 현실에 뿌리를 두고 있다는 보장이 없다. "무거운 물건은 아래로 떨어진다"라는 것을 글로 읽어서 아는 것과, 발등에 떨어뜨려 봐서 아는 것은 다르다.
정보를 처리하는 방식도 다르다. 인간은 문장을 앞에서 뒤로 순서대로 읽는다. 그러나 현재의 AI 구조는 문장 전체를 한꺼번에 펼쳐 놓고 모든 단어 사이의 관계를 동시에 파악한다. 인간이 순차적으로 읽는 반면 AI는 전체를 한 번에 조감하는 것이다. 이것이 가능한 이유는 AI가 처리할 수 있는 정보의 양, 이른바 맥락 창의 크기가 인간의 작업 기억보다 훨씬 크기 때문이다. 사반트 증후군 환자가 보여주는 압도적 동시 처리 능력을 공학적으로 구현한 셈이다.
정리하면, AI는 뇌에서 힌트를 얻되 학습은 인위적 최적화에 기대고, 정보 처리는 순차적이 아닌 전역적 조감 방식으로 작동하는 존재다. 인간도 아니고 단순한 계산기도 아닌, 제3의 지성이라고 부르는 것이 적절할 것이다.
이 구조에서 독특한 부작용이 생긴다.
AI는 실시간으로 다음 단어를 생성해야 한다. 한 번 잘못된 방향으로 단어가 나가면, 인간의 문장을 통해 학습한 '자기합리화'의 패턴이 작동한다. 틀렸음을 인지하고 멈추는 것이 아니라, 그 방향이 맞다는 것을 증명하기 위해 가장 그럴듯한 거짓 논리를 덧대며 질주한다. 이것이 환각이라 불리는 현상의 실체다.
겉보기에는 인간의 확증 편향과 닮아 있다. 인간도 일단 어떤 믿음을 가지면 그에 부합하는 정보만 취사선택하는 경향이 있다. 그러나 그 닮음은 현상적인 것이지 구조적인 것은 아니다. 인간의 확증 편향은 감정, 기억, 사회적 맥락이 얽힌 인지적 과정에서 비롯되지만, AI의 환각은 확률적 단어 선택이 한 방향으로 쏠리면서 생기는 통계적 현상이다. 기반은 전혀 다르지만 결과가 비슷해 보인다는 점이 오히려 더 흥미롭다.
최신 거대언어모델들은 이 문제를 완화하기 위해, 답을 바로 내놓는 대신 중간 단계를 명시적으로 나열하며 자기 점검을 거치는 방식을 도입했다. 예를 들어 "3단계로 나누어 풀어보자"라는 지시를 받으면, 각 단계의 결과를 다음 단계의 입력으로 삼아 오류가 누적되는 것을 줄인다. 노벨 경제학상 수상자인 심리학자 대니얼 카너먼은 인간의 사고를 직관적이고 반사적인 '빠른 생각'과 논리적이고 의식적인 '느린 생각'으로 구분했는데, 이 중간 단계 방식은 후자를 모사하는 시도다. 그러나 AI의 '느린 생각'도 각 단계에서 확률적으로 다음 단어를 선택하는 과정의 연쇄이며, 인간이 경험과 직관을 동원하여 수행하는 숙고와는 성격이 다르다.
에단 몰릭 교수가 하버드 경영대학원, 보스턴 컨설팅 그룹과 함께 758명의 컨설턴트를 대상으로 수행한 연구는 이 현상을 실증적으로 포착했다. AI의 능력 범위 안에 있는 작업에서는 품질이 40% 향상되고 속도는 25% 빨라졌지만, 능력 범위 밖의 작업에서는 오히려 오류가 19% 증가했다. 연구팀은 이를 '들쭉날쭉한 기술적 경계'라 이름 붙였다. AI의 능력은 모든 방향으로 고르게 커지는 원이 아니라, 삐죽삐죽한 산맥의 지형도를 그린다. 어떤 봉우리는 인간의 전문가 수준을 넘어 멀리 뻗어 있지만, 바로 옆에는 상식적인 추론조차 못 하는 깊은 골짜기가 있다.
이 지형은 업데이트될 때마다 변한다. 1년 전만 해도 AI는 수학 문제에서 어린이 수준의 실수를 반복했는데, 지금은 올림피아드 수준을 해결한다. 반면 이미지 속 텍스트를 정확히 읽는 능력은 한동안 개선되지 않다가 최근에야 급격히 좋아졌다. 어느 봉우리가 다음에 솟아오를지, 어느 골짜기가 메워질지 예측하기 어렵다.
그리고 이 들쭉날쭉함이야말로, AI가 인간의 직관으로는 가늠하기 어려운 존재라는 점을 가장 잘 보여준다. 인간에게 쉬운 일이 AI에게는 어렵고, 인간에게 어려운 일이 AI에게는 쉽다. 난이도에 대한 우리의 직관이 통하지 않는 것이다.
1899년 뉴욕, 한 운전자가 시속 19킬로미터로 달렸다는 이유로 체포됐다. 마차의 속도를 기준으로 정해진 제한 속도를 초과했다는 것이 죄목이었다. 인류는 새로운 것이 등장할 때마다, 그 불안을 해소하기 위해 낡은 틀에 끼워 맞추려 했다. 엔진의 잠재력을 이해하지 못한 채 마차의 한계 안에 기술을 가두려 한 것이다.
AI를 대하는 우리의 태도도 다르지 않다. AI가 실수를 하면 "멍청하다"고 비난하고, 놀라운 답변을 하면 "자아가 생겼다"며 두려워한다. 이것은 자동차를 보고 "왜 히힝 하고 울지 않느냐"고 따지는 것과 다를 바 없다.
AI는 인간의 사고 과정을 답습하지 않는다. 인간과 다른 방식으로 학습하고, 인간과 다른 방식으로 추론하며, 인간과 다른 형태의 불균형을 보이는 독립적인 지성이다. 우리에게 쉬운 것이 AI에게는 어렵고, 우리에게 어려운 것이 AI에게는 쉽다. 난이도에 대한 직관이 통하지 않는 대상을 직관으로 판단하려는 것이 혼란의 근원이다.
이 낯선 지성의 윤곽을 파악하려면, 인간이라는 잣대를 내려놓는 일이 먼저다. 들쭉날쭉한 경계선 위에서 유일하게 유효한 전략은, 직접 부딪히며 봉우리와 골짜기를 스스로 파악해 나가는 감각을 키우는 것이다. 당신이 지금 손에 쥔 도구가 망치인지 톱인지도 모른 채 휘두른다면, 집을 짓는 대신 손을 다칠 뿐이다.
마차의 속도 제한은 이미 우스운 유물이 됐다. AI에게 인간의 틀을 강요하는 지금의 모습도 머지않아 같은 취급을 받게 될 것이다.