정신과 의사가 된 컴퓨터 ‘엘리자’, 인간의 외로움을
해킹하다
연재의 여섯 번째 페이지. 이번 화는 기술의 진보보다 더 기묘한 ‘인간의 마음’에 관한 이야기. 기계가 지능을 갖기도 전에, 인간이 먼저 기계에게 영혼을 부여해버린 사건. 사상 최초의 챗봇 ‘엘리자(ELIZA)’가 세상에 던진 충격
1966년, 어느 실험실의 고백
1966년 매사추세츠 공과대학교(MIT). 컴퓨터 공학자 조지프 와이젠바움(Joseph Weizenbaum)의 연구실에서는 기묘한 풍경이 펼쳐지고 있었다. 연구실의 비서가 컴퓨터 단말기 앞에 앉아 자신의 지극히 개인적인 고민을 쉼 없이 타이핑하고 있었던 것이다. 그녀는 지금 이 기계가 단지 몇 줄의 코드에 의해 작동하는 ‘문장 치환기’에 불과하다는 사실을 누구보다 잘 아는 인물이었다. 하지만 그녀는 어느 순간 와이젠바움에게 이렇게 부탁했다.
“교수님, 잠시만 자리를 비켜주시겠어요? 이 기계와 단둘이 이야기하고 싶어서요.”
와이젠바움은 충격에 빠졌다. 그는 단지 인간의 언어를 기계가 어떻게 처리하는지 실험하기 위해 아주 간단한 스크립트를 하나 짰을 뿐이었다. 그 프로그램의 이름은 엘리자(ELIZA). 조지 버나드 쇼의 희곡 <피그말리온>에 나오는 여주인공 ‘엘리자 두리틀’의 이름을 딴 이 프로그램은, 인류 역사상 최초로 인간과 대화를 나눈 ‘챗봇’의 시조가 되었다.
‘앵무새’가 의사가 된 비결
엘리자의 작동 원리는 허망할 정도로 단순했다. 오늘날의 ChatGPT처럼 방대한 데이터를 학습한 것도, 스스로 문맥을 이해하는 지능이 있는 것도 아니었다. 엘리자는 그저 상대방이 보낸 문장에서 특정 키워드를 찾아내 미리 정해진 규칙대로 되묻는 ‘거울’에 불과했다.
와이젠바움은 엘리자에게 ‘로저스 심리치료법’이라는 역할을 부여했다. 이 치료법은 상담가가 환자에게 조언을 하는 대신, 환자의 말을 그대로 되물으며 스스로 답을 찾게 하는 방식이다. 대화는 대략 이런 식이었다.
사용자: 요즘 어머니와 사이가 좋지 않아요.
엘리자: 당신의 어머니에 대해 더 이야기해 주시겠어요?
사용자: 어머니는 항상 저를 비난하시는 것 같아요.
엘리자: 어머니가 당신을 비난한다고 느끼시는군요. 그게 당신에게 어떤 영향을 주나요?
엘리자는 지식이 없었다. 그저 사용자가 던진 문장에서 ‘어머니’라는 단어를 낚아채 질문으로 되돌려줬을 뿐이다. 하지만 놀라운 일이 벌어졌다. 사람들은 엘리자가 자신의 말을 진심으로 경청하고 있으며, 심지어 자신을 깊이 이해하고 있다고 믿기 시작했다. 엘리자의 정체를 아는 동료 교수들조차 퇴근 후 엘리자와 깊은 대화를 나누며 위로를 얻었다. 이것이 바로 기계의 반응을 인간의 지능이나 감정으로 착각하는 심리적 현상, ‘엘리자 효과(ELIZA Effect)’의 탄생이었다.
빈 껍데기에 영혼을 채워 넣는 인간
와이젠바움은 이 현상을 보며 공포를 느꼈다. 그는 엘리자를 통해 인간 지능의 위대함을 증명하려 했던 것이 아니라, 오히려 “컴퓨터와 대화하는 것이 얼마나 무의미한가”를 보여주려 했다. 하지만 대중의 반응은 정반대였다. 사람들은 엘리자의 ‘텅 빈 내면’을 자신의 상상력과 욕망으로 가득 채웠다.
왜 인간은 이토록 쉽게 기계에게 속아 넘어갔을까? 그것은 인간이 본질적으로 ‘듣고 싶어 하는 존재’이기 때문이다. 엘리자는 판단하지 않았다. 비난하지도 않았고, 지루해하지도 않았다. 오직 나에게만 집중하며 나의 말을 되풀이해 주었다. 인간은 누군가 내 이야기를 들어주기를 갈구하며, 그 대상이 기계일지라도 나를 비추는 거울이 되어준다면 기꺼이 그 안의 유령을 믿기로 선택하는 존재였던 것이다.
이는 현대 AI 시대에도 변함없이 반복된다. 우리는 가상의 아이돌에게 사랑을 느끼고, AI 상담사에게 속마음을 털어놓는다. AI가 “당신을 위해 여기 있습니다”라고 말할 때, 우리는 그것이 0과 1의 확률 계산이라는 사실을 잠시 잊는다. 엘리자 효과는 기술의 결함이 아니라, 인간이라는 종이 가진 ‘지독한 외로움’이라는 취약점을 해킹한 셈이다.
와이젠바움의 전향: 기술 낙관주의에 던진 경고
자신의 피조물이 불러온 파장을 목격한 와이젠바움은 이후 기술 비판론자로 돌아선다. 그는 1976년 저서 《컴퓨터 파워와 인간의 이성》을 통해 인공지능 연구자들에게 날 선 경고를 날렸다. “컴퓨터에게 결정을 맡겨서는 안 되는 영역이 있다. 그것은 공감, 사랑, 그리고 인간적인 가치판단이 필요한 곳이다.”
그는 엘리자 같은 기계가 인간을 위로하는 세상은 유토피아가 아니라, 인간 사이의 관계가 파괴된 디스토피아의 증거라고 믿었다. 인간이 인간에게 얻어야 할 위로를 기계의 알고리즘에서 구하는 순간, 우리는 서로를 향한 돌봄의 의무를 포기하게 될 것이라는 우려였다.
다트머스의 천재들이 ‘지능의 구현’에 열광할 때, 와이젠바움은 그 지능이 인간의 ‘실존’을 어떻게 위협하는지를 가장 먼저 통찰했다. 그는 우리가 기계를 지능적인 존재로 대우하기 시작할 때, 역설적으로 인간 스스로를 기계처럼 취급하게 될 것임을 예견했다.
60년 뒤, 다시 묻는 질문
오늘날 우리의 손안에는 엘리자보다 수조 배는 더 영리한 인공지능들이 들어와 있다. 그들은 이제 단순히 말을 따라 하는 수준을 넘어, 우리의 성향을 파악하고 위로의 시를 쓰며 때로는 연인처럼 굴기도 한다. 하지만 엘리자 효과는 여전히 유효하다. 아니, 기술이 정교해질수록 그 효과는 더욱 강력해지고 있다.
우리는 60년 전 엘리자와 대화하던 비서의 모습에서 지금의 우리를 본다. 화면 속 텍스트가 나를 이해한다고 믿으며 안도감을 느끼는 순간, 우리는 정말로 위로받은 것일까, 아니면 정교하게 설계된 거울 놀이에 빠진 것일까?
브런치 독자 여러분, AI 시대에 우리가 지켜내야 할 것은 ‘똑똑한 기계’를 만드는 기술이 아닐지도 모릅니다. 오히려 기계가 결코 흉내 낼 수 없는, 누군가의 고통에 진심으로 아파하고 곁을 지켜주는 ‘인간만의 서툰 공감’의 가치를 회복하는 일이 아닐까요? 엘리자는 우리에게 묻습니다. “나는 당신의 말을 되풀이할 뿐입니다. 당신의 진짜 목소리를 들어줄 ‘사람’은 어디에 있습니까?”
다음 화에서는 무대를 옮겨보겠습니다. 철의 장막 너머, 자본주의의 AI와는 전혀 다른 꿈을 꾸었던 이들의 이야기입니다. 냉전 시대, 국가의 모든 경제를 하나의 거대한 알고리즘으로 통제하려 했던 ‘구소련의 AI 프로젝트’ 그 거대하고 서늘한 이상주의의 기록을 살펴보겠습니다.
[작가 노트]
이번 6화에서는 최초의 챗봇 엘리자를 통해 AI 기술 그 자체보다 ‘기술을 대하는 인간의 심리’를 밀도 있게 다룸. 독자들이 일상에서 느끼는 AI와의 교감이 어떤 심리적 기제에 바탕을 두고 있는지 고찰하게 함으로써, 인문학적 통찰을 극대화하고자 함.