챗봇의 최초 개발자는 어떻게 AI에 반대하게 되었는가
이 글은 가디언지의 다음 기사를 해석한 것입니다.
출처: Weizenbaum's nightmares: how the inventor of the first chatbot turned against AI
저자: Ben Tarnoff
1966년 MIT 교수 조셉 바이젠바움(Joseph Weizenbaum)은 최초의 챗봇을 만들었다. 그는 이 챗봇을 심리치료사 역할로 캐스팅했다. 사용자가 중앙 컴퓨터에 연결된 전자 타자기로 메시지를 입력하면 조금 후에 "심리치료사"가 답을 했다.
User: Men are all alike. (남자들은 다 똑같아.)
Chatbot: IN WHAT WAY (어떤 방식으로)
User: They’re always bugging us about something or other. (그들은 항상 이런저런 일로 우리를 성가시게 해.)
Chatbot: CAN YOU THINK OF A SPECIFIC EXAMPLE (구체적인 사례를 생각해 볼 수 있니)
User: Well, my boyfriend made me come here. (글쎄, 내 남자친구는 나를 여기로 오게 했어.)
Chatbot: YOUR BOYFRIEND MADE YOU COME HERE (네 남자친구는 너를 여기로 오게 했구나)
User: He says I’m depressed much of the time. (그는 내가 언제나 우울하다고 말해)
Chatbot: I AM SORRY TO HEAR YOU ARE DEPRESSED (네가 우울하다니 유감이야)
바이젠바움은 챗봇의 작동 방식을 설명하는 학술 논문에 위 대화 사례를 실었다. 이 소프트웨어는 상대적으로 단순했다. 사용자의 입력을 보고 일련의 규칙을 적용해서 그럴듯한 답을 생성한다. 바이젠바움은 이 프로그램을 피그말리온의 엘리자 두리틀(Eliza Doolittle)의 이름을 따서 엘리자라 불렀다. 조지 버나드 쇼의 희곡에 등장하는 억센 사투리의 꽃 파는 소녀는 환상을 만들어 내기 위해 언어를 이용한다. 그녀는 공작부인으로 통할 수 있을 만큼 높은 수준으로 말하기 기술을 교정한다. 이와 비슷하게 엘리자도 타자기 앞에 앉아 있는 사람을 이해한다는 환상을 만들어 내는 방식으로 말을 했다.
“어떤 이용자들은 엘리자가 (대본이 있는) 인간이 아니라는 것을 확신하기를 매우 힘들어했다”라고 바이젠바움은 적었다. 다음 해에 출판한 후속 논문에서 더 구체적으로 기술한다: 어느 날, 그의 비서가 엘리자와의 시간을 요청했다. 그러고 나서 조금 후에 그녀는 바이젠바움에게 방을 나가줄 것을 부탁했다. 그는 이렇게 적었다. “나는 이 일화가 프로그램이 이해라는 환상을 유지시키는 것에 성공했음을 증명한다고 믿는다."
엘리자는 결코 미천하지 않다. 그것은 당시 보스턴 글로브에서 기자를 보내 타자기 앞에 앉히고 대화의 발췌를 싣게 할 만큼 화제를 일으켰고, 컴퓨팅 역사상 가장 유명한 개발 중 하나로 남아 있다. 최근에는 챗GPT 출시로 인해 엘리자에 대한 관심이 다시 일어났다. 최근 1년 동안 엘리자는 가디안, 뉴욕 타임스, 아틀란틱 등에서 언급되었다. 사람들이 거의 60년이 된 소프트웨어에 대해 여전히 생각하고 있는 이유는 그것의 기술적 측면과는 아무 상관이 없다. 기술은 심지어 그 시대 기준에서 봐도 그렇게 정교한 것은 아니었다. 오히려 엘리자는 우리가 컴퓨터와 어떻게 관계 맺는지에 강하게 영향을 끼치는 인간 마음의 메커니즘을 밝혔다.
지그문트 프로이트는 그의 경력 초기에 환자들이 자신을 자꾸 사랑하게 된다는 것을 알았다. 그가 엄청 매력적이거나 잘생겼기 때문은 아니라고 생각했다. 대신 더 흥미로운 일이 벌어지고 있었다: 전이. 간단히, 전이는 과거의 누군가에 대한 감정을 현재의 누군가로 투사하는 경향을 일컫는다. 이것은 정신분석 시에 증폭되긴 하지만, 모든 관계에서 나타나는 특징이다. 다른 사람과 상호작용할 때, 우리는 항상 일군의 유령들을 데리고 다닌다. 우리 삶의 초기, 무엇보다 어린 시절의 잔여물은 우리가 서로를 바라보는 스크린이다.
이 개념은 엘리자에 대한 사람들의 반응을 이해하는 데 도움이 된다. 바이젠바움은 사람들이 이해, 공감, 그리고 다른 인간적인 특성을 소프트웨어에 부여하는, 컴퓨터화된 버전의 전이와 우연히 만나게 된 것이다. 그는 이 용어를 직접 사용한 적은 없지만, "엘리자 효과"라고 불리게 될 이 현상을 해석하는데 확실하게 도움을 준 정신분석학과 오랜 인연을 갖고 있었다.
컴퓨터가 더 유능해지면서, 엘리자 효과도 더 강해졌다. 많은 사람들이 챗GPT와 관계하는 것을 보라. 이 챗봇 내부에는 일련의 문자, 단어, 또는 문장의 다음 문자열을 예측하도록 훈련된 수학적 체계인 "거대 언어 모형"이 있다. 챗GPT가 특출난 것은 그 안에 있는 거대 언어 모형의 복잡함 때문만이 아니라, 그것의 섬뜩한 대화형 목소리 덕분이다. 메타의 데이터 과학자 콜린 프레이저가 말했듯, 이 애플리케이션은 "실제로는 거기에 있지 않은 누군가와 얘기하고 있다고 생각하도록 속이기 위해 설계되어 있다."
그러나 엘리자 효과가 바이젠바움을 소환하는 유일한 이유는 아니다. 소프트웨어 관련 경험은 그의 놀라운 여정의 시작일 뿐이었다. 명망 있는 경력을 가진 MIT 교수로서, 그의 표현대로, 그는 "현대 과학 대성당의 주교는 아니더라도 제사장”이었다. 그러나 1970년대, 조셉 바이젠바움은 동료들의 세계관을 저주하고 그들의 작업이 일으키는 위험에 대해 경고하는 논문과 책을 출판하면서 이단자가 되었다. 그는 인공지능이 "우리 세계 광기의 지표"라고 믿게 되었다.
오늘날 인공지능이 어떤 종류의 위협을 제기한다는 관점은 그 분야에서 일하고 있는 사람들 사이에서 더 이상 소수 의견이 아니다. 우리가 가장 걱정해야 하는 위험이 무엇인지에 대해서는 이견이 있지만, 팀닛 게브루(Timnit Gebru)에서 제프리 힌튼(Geoffrey Hinton)까지--두 사람 모두 구글의 전 컴퓨터 과학자이다-- 많은 뛰어난 연구자들은 기본적으로 기술이 해로울 수 있다는 견해를 공유한다. 바이젠바움의 비관주의는 그의 인생 후반 30년간 컴퓨터 과학자들 사이에서 그를 고립시켰다. 그가 2023년에 있었다면 덜 외로웠으리라.
바이젠바움의 사유에는 현재와 시급하게 관련된 것들이 많이 있다. 아마도 그의 가장 근본적인 이단성은 그가 겪었을 뿐만 아니라 중심에서 참여한 컴퓨터 혁명이 실제로는 반혁명적이라는 그의 믿음에 있을 것이다. 컴퓨터 혁명은 억압하는 권력 구조를 뒤집는 게 아니고 강화한다. 그것은 우리의 인간성을 확장하지 않고 제한하는데, 사람들로 하여금 자신을 기계에 지나지 않는다고 생각하게 만들기 때문이다. 그는 우리가 그렇게 많은 결정을 컴퓨터에 넘겨줌으로써 더 불평등하고 덜 이성적인 세상, 즉 인간 이성의 풍부함이 코드의 무의미한 나열로 납작해진 세상을 만들었다고 생각했다.
바이젠바움은 모든 사람은 각자 특별한 역사의 산물이라고 말하기를 좋아했다. 그의 생각에는 무엇보다 20세기의 잔혹성과 개인적인 악마들의 요구에 의해 형성된 그 자신만의 특별한 역사가 새겨져 있다. 컴퓨터는 그에게 자연스럽게 다가왔다. 어려운 부분은, 그가 말하길, 삶이었다.
Artificial intelligence, he came to believe, was an "index of the insanity of our world"
인간적이라는 것이 의미하는 바가 무엇이고 인간이 컴퓨터와 어떻게 다른지는 바이젠바움이 오랜 시간 고민한 문제다. 따라서 그 자신의 인간성을 논하는 것으로 시작하는 것이 좋겠다. 그의 어머니는 난산이었고 그 결과에 실망했다. "어머니가 마침내 나를 보게 됐을 때, 어머니는 내가 피투성이 엉망진창이었고 거의 사람처럼 보이지 않는다고 생각했습니다.” 바이젠바움의 회상이다. "그녀는 이것이 자신의 아이라는 것을 믿을 수 없었습니다."
그는 1923년에 베를린에 정착한 중상류층 유대인 가족의 막내아들로 태어났다. 12살 때 지금의 폴란드 남동쪽과 우크라이나 서부에 걸쳐있는 갈리시아에서 독일로 이민온 그의 아버지 예히엘(Jechiel)은 사회적으로 풍족한 기반, 근사한 아파트, 훨씬 어린 비엔나 출신 아내(바이젠바움의 어머니)를 가진 성공한 모피업자였다. 처음부터 예히엘은 아들을 경멸했고 이는 바이젠바움을 평생 동안 괴롭혔다. 바이젠바움은 다큐멘터리 영화 제작자 피터 하스(Peter Haas)와 실비아 홀징거(Silvia Holzinger)에게 이렇게 말했다. "아버지는 내가 아무짝에 쓸모없는 멍청이에, 완전히 바보이고, 아무것도 될 수 없다고 절대적으로 확신했다"
그가 기억을 생성할 만큼 충분한 나이가 되었을 때, 나치는 어디에나 있었다. 그의 가족은 히틀러의 준군대조직인 돌격대(SA)가 자주 찾는 술집 근처에 살았는데, 그는 가끔 사람들이 술집 안으로 끌려들어 가 안쪽 방에서 얻어맞는 것을 목격하곤 했다. 한 번은 그가 유모와 외출했는데, 무장한 공산주의자들과 나치들이 줄지어 서서 서로에게 총을 쏘기 시작했다. 유모는 날아다니는 총알이 멈출 때까지 그를 주차된 차 밑으로 밀어 두었다.
1933년 히틀러가 총리가 된 직후, 정부는 공립학교에 유대인의 수를 엄격히 제한하는 법을 통과시켰다. 바이젠바움은 유대인 남학교로 전학해야 했다. 여기서 그는 동유럽 유대인(Ostjuden)을 처음 만났다. 그들은 동유럽에서 온 가난하고 누더기를 걸친 이디아어를 하는 유대인들이었다. 바이젠바움에게 그들은 화성에서 온 사람들이나 다름없었다. 그럼에도 그들과 함께 보낸 시간은 그에게 "동지애라는 새로운 느낌"과 "억압에 대한 감수성"을 심어 주었다. 그는 반 친구들 중 한 명에게 특별히 깊은 애착을 갖게 되었다. "만약 운명이 달랐다면, 나는 이 친구와 동성애를 발전시켰을지도 모릅니다." 그 소년은 "나를 그의 세계로 안내했습니다." 그곳은 베를린 그레나디에르스트라세 주변에 있는 유대인 빈민가 세상이었다. 그는 이렇게 회고했다. "그들에겐 아무것도 없었습니다, 아무것도 가지지 않았지만, 어떻게든 서로를 지지했습니다."
어느 날, 그는 그 소년을 집으로 데려왔다. 그 자신도 동유럽의 가난한 유대인이었던 아버지는 역겨움과 분노를 금치 못했다. 바이젠바움은 회고하기를, 아버지가 그런 유대인촌으로부터 문자적으로 비유적으로 얼마나 멀리 떠나왔는지, 그런 자신에 대해 얼마나 자랑스러워했는지를 생각하면 그럴 만도 했다. 그의 아들이 지금 그 유대인 마을을 자기 집으로 데리고 들어온 것이었다.
부모로부터 소외되고, 학교 친구들보다 부자이고, 나치 독일에서 유대인이었던 바이젠바움은 어디에서도 편안하지 못했다. 그에 따르면, 그의 본능은 항상 아버지 같은 존재를 향해 도발하고 그들의 골칫거리가 되도록 "먹이 주는 손을 물어뜯어라"라고 외치고 있었다. 이 본능은 아마도 아버지가 가진 자신에 대한 적대감과 자신이 사랑하는 소년에 대한 극심한 편견으로부터 얻은 교훈, 즉 위험은 집, 사람, 부족 안에 도사리고 있다는 교훈에서 비롯된 것일 것이다.
그림 출처: https://www.researchgate.net