챗봇의 최초 개발자는 어떻게 AI에 반대하게 되었는가
이 글은 가디언지의 다음 기사를 해석한 것입니다.
출처: Weizenbaum's nightmares: how the inventor of the first chatbot turned against AI
저자: Ben Tarnoff
프로그래머는 연극 감독의 것과는 비교할 수 없을 만큼 커다란 무대를 장악할 수 있는 힘이 있습니다.
1936년, 그의 가족은 독일을 급작스럽게 떠났다. 아마도 예히엘이 돌격대 멤버와 바람을 피웠기 때문인 것 같았다. 제과점을 소유한 바이젠바움의 숙모가 있는 디트로이트로 갔다. 13살에 그는 그가 알던 모든 것으로부터 4,000마일 떨어지게 되었다. "나는 매우 매우 외로웠다" 그가 회상했다. 학교는 현실로부터의 피난처였다. 특히 대수학은 처음에는 잘하지 못했던 영어가 필요 없었다. "공부할 수 있는 모든 것들 중에서, 수학은 가장 쉬운 것처럼 보였다. 수학은 게임이었다. 그것은 완전히 추상적이었다."
금속 공예 시간에 그는 선반을 조작하고 만드는 법을 배웠다. 이 경험은 그의 머리를 몸으로 불러냈다. 70여 년 후에 그는 이 새로운 기술이 준 깨달음을 회고했다: 지능은 "단지 머릿속에만 있는 것이 아니고, 팔에, 손목에, 손에도 있다." 이 어린 나이에 그의 경력을 인공지능 실무자이자 비평가로서 이끌 두 개념이 그의 내면에 자리 잡았다: 한 편에서는 추상화의 즐거움을 이해하지만, 다른 한 편에서는 그러한 즐거움을 도피주의라 의심하고 인간의 지능은 인간의 한 부분이 아닌 인간 전체에 존재한다고 이해하는 것이다.
1941년 바이젠바움은 지역 공립대학에 등록한다. 웨인 대학은 노동자 계급의 학교였다. 학비가 저렴했고, 전일제 일자리를 가진 학생들로 가득 찼다. 베를린에서 심어진 사회적 의식의 씨앗이 자라나기 시작했다. 바이젠바움은 디트로이트의 흑인에 대한 억압에서 히틀러 치하 유대인들을 보았다. 이 때는 또한 그 도시에서 강렬한 계급투쟁이 일어나던 시기였다. 자동차 노동조합이 포드와 최초의 계약을 따냈던 해에 바이젠바움이 입학했다.
바이젠바움에게 진보적인 정치적 신념이 자라나면서 그의 수학에 대한 사랑은 곤란해졌다. "나는 세상 또는 사회를 위해 무언가를 하고 싶었습니다." 그의 말이다. "세상은 잘 돌아가고 있거나 심지어 세상 따윈 아예 존재하지 않는다는 듯이 평범하게 수학을 공부하는 것, 이것은 내가 원하는 바가 아니었습니다." 그는 곧 기회를 맞이한다. 1941년 미국은 2차 세계대전에 참전했고, 이듬해에 바이젠바움은 징집되었다. 그는 5년 동안 육군 항공대의 기상학자로서 미국 전역의 여러 기지에서 복무한다. 군대는 그에게 “구원"이었다고 말한다. 가족으로부터 해방되고 동시에 히틀러와 싸우다니 얼마나 즐거운가.
휴가 중에 그는 유대인 인권운동가이자 미국 민주사회당의 초기 멤버였던 셀마 구드(Selma Goode)와 연애를 시작했다. 두 사람은 곧 결혼했고, 아들을 낳았다. 전쟁이 끝나고 바이젠바움은 디트로이트로 돌아왔다. 거기서 그는 웨인 대학에서의 학업을 다시 시작했고, 이제 연방 정부의 GI법안(제대군인 교육비 지원)을 통해 재정지원을 받았다.
1940년대 후반 이 부부는 이혼했다. 아들의 양육권은 구드가 가져갔다. "그 일은 나에게 엄청난 비극이었습니다." 바이젠바움은 말한다. "극복하는 데 오랜 시간이 걸렸습니다." 그의 정신 상태는 영원히 불안정했다. 그의 딸 핌(Pm)--뉴욕의 진보적 일간지 PM을 따라 지은 이름으로 “Pim”이라 발음하는--은 대학에 다니는 동안 그가 거식증으로 입원한 적이 있다고 말했다. 그는 모든 일을 자신의 잘못이라 생각했다. 군대에서 병장으로 진급하고 명예롭게 제대했음에도 그는 자신이 전투를 방해했다고 확신했다. 그는 나중에 그의 자기 의심은 아버지가 끊임없이 쓸모없다고 말했기 때문으로 해석한다. "만약 그런 말이 어린 당신에게 반복된다면, 당신은 그것이 당신이라 믿게 됩니다."
셀마가 떠나서 생겨난 개인적 위기의 결과로 두 가지 첫 만남이 이루어졌다. 그는 정신분석학을 그리고 컴퓨팅을 시작했다.
그 당시 컴퓨터는, 정신도 마찬가지로, 인테리어였다. "당신이 컴퓨터로 가지 않았습니다." 바이젠바움이 2010년 다큐멘터리에서 한 말이다. "대신에 그 안으로 들어갔죠." 전쟁은 힘든 수학적 계산 작업을 기계화할 수 있는 거대한 장치를 만드는 원동력을 제공했다. 컴퓨터는 나치의 암호를 해독하고 포를 조준하는 최적의 각도를 찾는 것에 도움이 됐다. 냉전 초기 시절, 힘을 얻은 전후 군산 복합체는 미국 정부의 자금을 끌어모아 기술을 개발했다. 1940년대 후반에는 현대적인 컴퓨터의 기초가 갖춰졌다.
그러나 여전히 컴퓨터 하나를 얻기가 쉽지 않았다. 그래서 바이젠바움의 교수들 중 한 명은 직접 만들기로 결심했다. 그는 학생들을 모아 작은 팀을 꾸리면서 바이젠바움을 초대했다. 바이젠바움은 컴퓨터를 만들면서 행복하고 목적의식을 갖게 되었다. "나는 생기가 넘쳤고 내 일에 열정적이었습니다." 거기에는 그가 처음 중학교 대수학에서 만난 추상화의 힘이 있었다.
대수학처럼, 컴퓨터는 모델링하여 현실을 단순화했지만, 그것이 단지 재현일 뿐이라는 것을 쉽게 잊을 만큼의 정밀도를 가지고 있었다. 소프트웨어는 또한 지배하고 있다는 느낌을 주었다. "프로그래머는 극장 감독의 것과는 비교할 수 없이 큰 무대를 장악하는 일종의 힘을 가지고 있습니다." 그가 2007년 <Rebel at Work>라는 다큐멘터리에서 한 말이다. "셰익스피어의 것보다 큽니다."
이 시기에 바이젠바움은 루스 메인스(Ruth Manes)라는 이름의 학교 선생님을 만났다. 1952년 둘은 결혼해서 학교 근처 작은 아파트로 이사한다. 그녀는 "문화적으로 그와 더 멀어질 수는 없었다"라고 그들의 딸인 미리암(Miriam)이 말했다. 그녀는 그의 첫 아내처럼 유대인 사회주희자가 아니었다. 그녀 가족은 남부 출신이었다. 그들의 결혼은 그에게 있어서는 "정상적이고 안정된 삶에 도달했음"을 의미했다. 미리암의 표현이다. 그의 정치적 열정은 가라앉았다.
1960년대 초반까지, 바이젠바움은 실리콘 밸리에 있는 제너럴 일릭트릭(GE)에서 프로그래머로 근무했다. 그와 루스는 세 딸을 키우고 있었고 넷째가 곧 태어날 예정이었다. GE에서 그는 해군을 위해 미사일을 발사하는 컴퓨터, 뱅크 오브 아메리카를 위해서는 수표를 처리하는 컴퓨터를 만들었다. "그 당시 나는 내가 후회하게 될 사회적 부작용이 있는 기술 벤처에 협력하고 있다는 생각은 전혀 하지 못했습니다." 그가 말했다.
No computer could ever fully understand a human being.
No human being could ever fully understand another human being.
1963년, 명문 매사추세츠 공과 대학(MIT)에서 전화가 왔다. 초빙 부교수로 교수진에 합류하시겠습니까? "그것은 어린 소년에게 장난감 기차를 만드는 장난감 공장에서 일할 기회를 제공하는 것과 마찬가지였다." 바이젠바움이 회상했다.
디트로이트에서 바이젠바움이 만드는 일을 도왔던 컴퓨터는 강의실 전체를 차지하고 겨울에 도서관 전체를 데울 만큼의 열을 내뿜는 괴물이었다. 이 컴퓨터와의 상호작용은 고도로 구조화된 일련의 의식을 수행하는 것이었다. 손으로 프로그램을 쓰고, 펀치 카드에 구멍 패턴을 만들어 인코딩한 다음, 카드를 컴퓨터에 넣어 실행했다. 이는 컴퓨터 기술 초창기 시절의 표준 운영 절차로 프로그래밍은 손이 많이 가고 힘든 일이었다.
MIT의 컴퓨터 과학자들은 대안을 찾으려 했다. 1963년 국방부로부터 220만 달러의 연구비를 받아 대학은 MAC 프로젝트를 개시한다. MAC은 “machine-aided cognition”을 포함하여 의미가 많은 약자였다. 이 프로젝트의 목적은 개인의 필요에 더 다가가고 반응하는 컴퓨터 시스템을 만드는 것이었다.
이 목표를 위해, 컴퓨터 과학자들은 오늘날 우리가 당연하게 여기는 컴퓨팅의 종류를 가능하게 하는 “시분할(time-sharing)”이라는 기술을 완성했다. 펀치 카드 뭉치를 넣어 놓고 다음 날 다시 와서 결과를 확인하는 것이 아니라 이제 명령어를 입력하면 즉각적인 결과를 얻을 수 있었다. 게다가 하나의 중앙 컴퓨터를 여러 사람들이 동시에 각자의 단말기에서 이용할 수 있었다. 이것은 기계를 더 개인적인 것으로 만들었다.
시분할과 함께 새로운 유형의 소프트웨어도 생겼다. MIT의 시스템에서 구동되는 프로그램들은 한 사용자에서부터 다른 사용자로 메시지를 보내는 것(이메일의 전신), 문자 편집(초기 워드 프로세싱), 그리고 15,000 개의 학술 논문을 가진 데이터 베이스 검색(원시적인 JSTOR)을 포함했다. 시분할은 또한 사람들이 프로그램을 작성하는 방식도 변화시켰다. 이 기술은 "컴퓨터와 대화하듯이 상호작용하는 것"을 가능하게 했다. 바이젠바움이 회상했다. 소프트웨어 개발은 프로그래머와 기계의 대화처럼 전개될 수 있게 되었다: 코드를 조금 적어본다, 무엇이 나오는지 본다, 그리고 좀 더 시도한다.
바이젠바움은 더 나아가고 싶었다. 만약 우리가 자연어, 예컨대 영어 같은 언어로 컴퓨터와 대화할 수 있다면 어떨까? 이것이 엘리자를 탄생시킨 질문이었다. 엘리자는 교내에서 그를 유명하게 만들고 종신 교수가 될 수 있게 해 주었다. 또한 1958년 존 매카시(John McCarthy)와 마빈 민스키(Marvin Minsky)가 만든 MIT의 인공지능 프로젝트 궤도에 그를 태워 주었다.
이보다 몇 년 앞서 맥카시는 학술 워크숍을 위한 제목이 필요하자 "인공 지능"이라는 용어를 만들었다. 이 문구는 기존에 존재하던 사이버네틱스와 같은 영역과의 중복을 피할 만큼 중립적이고, 학제를 가로지르는 참여를 끌어내기에 충분할 만큼 모호했으며, 기계의 능력에 대한 그의 급진주의(또는 원한다면, 오만이라고 불러도 좋을)를 전달하기 충분할 만큼 대담했다. 이 급진주의는 워크숍 프로포절에서 확인된다. "학습의 모든 측면 또는 지능의 그 어떤 측면도 원칙상 매우 정확하게 묘사될 수 있기에 기계는 그것을 흉내 내도록 만들 수 있다." 그의 주장이다.
민스키는 저돌적이고 도발적이었다. 그가 좋아하는 노림수 중 하나는 인간의 뇌는 "고기 기계(meat machine)"일 뿐이고 인간이 만든 기계로 고기 기계의 기능을 재생산할 수 있고 심지어 능가할 수 있다고 주장하는 것이었다. 바이젠바움은 처음부터 그를 싫어했다. 바이젠바움을 괴롭히는 것은 기계에 대한 그의 믿음이 아니었다. 그 자신도 컴퓨터가 1960년대 중반에 이르기까지 엄청나게 발전하는 것을 목격했다. 오히려 바이젠바움이 민스키와 그리고 인공지능 커뮤니티 전반과 일으킨 문제는 인간 조건의 본질에 관한 근본적인 불일치에 있었다.
1967년 엘리자에 관한 후속 논문에서 바이젠바움은 어떤 컴퓨터도 절대 인간을 완전히 이해할 수 없다고 주장한다. 그리고 한 걸음 더 나가, 어떤 인간도 다른 인간을 절대 완전히 이해할 수 없다고 말한다. 그에 따르면, 모든 사람은 각자 자신만의 독특한 삶의 경험들로 구성되고, 이렇게 쌓인 유산은 우리가 다른 사람을 이해하는 능력의 한계를 설정한다. 우리는 커뮤니케이션하기 위해 언어를 사용하지만, 같은 단어는 사람마다 다른 연관성을 갖는다. 그리고 어떤 것들은 전혀 커뮤니케이션될 수 없다. "우리 각자에게는 자신의 생각을 자신 바깥의 세상으로 온전히 전달하는 것을 절대적으로 방해하는 궁극적인 프라이버시가 있다." 바이젠바움이 쓴 말이다.
이는 민스키나 맥키시와는 매우 다른 관점이다. 분명히 정신분석학의 영향을 받았다. 여기에는 고기 기계로서의 마음이 아니라 정신으로서의 마음, 깊이 있고 불가사의한 무엇으로서의 마음이 있다. 우리가 종종 서로에게 불투명하고 심지어 자신에게도 불투명하다면, 컴퓨터가 우리를 알 것이라고 희망할 수 있을까?
그러나, 엘리자가 보여주었듯이, 사람들이 컴퓨터가 나를 안다는 느낌을 갖도록, 그리고 컴퓨터를 인간으로 보이도록 속이는 것은 놀랍도록 쉽다. 심지어 1966년 첫 논문에서도 바이젠바움은 이런 현상의 결과에 대해 우려했다. 그는 사람들이 컴퓨터를 "신뢰받을 만한" "판단"의 힘을 가지고 있는 것으로 여기게 될 수 있다고 경고했다. "거기에 어떤 위험이 도사리고 있다"라고 썼다.
1960년대 중반, 여기까지가 그가 할 수 있는 최대치였다. 그는 위험을 지적했지만 그것에 대해 파고들지 않았다. 그는 결국 홀로코스트에서 탈출한 우울한 소년이었고, 항상 가면을 쓰고 있다고 느꼈지만 기술이라는 고귀한 신전에서 명성과 자기 가치를 찾았다. 내가 잘하고, 좋아하는 무언가가 세상에 나쁘다는 것을 인정하는 일은 어려울 것이다. 심지어 그 지식에 따라 행동하는 것은 더욱 어렵다. 바이젠바움 은 다음에 무엇을 해야 할지 깨닫기 위해 전쟁이 필요했다.
민권 운동, 베트남 전쟁, 무기 개발과 MIT의 역할이 합쳐지고 나서야 나는 비판적이 되었습니다.
1969년 3월 4일, MIT 학생들은 베트남 전쟁과 학교가 전쟁에서 담당한 역할에 항의하는 뜻으로 하루 동안 "연구 파업"을 한다. 사람들은 눈과 추위에도 불구하고 전날 밤부터 시작된 일련의 강연과 토론을 보기 위해 캠퍼스의 심장인 크레스지 강당으로 모여들었다. 노암 촘스키, 반전주의자 조지 맥거번 상원의원이 강연을 했다. MIT에서 학생 운동이 자라나고 있던 중에, 이것은 그때까지 가장 큰 시위였고, 언론의 엄청난 주목을 받았다. "1969년의 분위기는 과학자들이 거대한 악에 공모하고 있다는 것이었다. 그리고 3월 4일은 그것을 어떻게 바꾸느냐에 관한 열망이다." 한 조직위원은 나중에 이렇게 썼다.
바이젠바움은 이 운동을 지지했고, 그 당시의 정치적 역동에 크게 영향을 받았다. "민권 운동, 베트남 전쟁, 무기 개발과 MIT의 역할이 합쳐지고 나서야 나는 비판적이 되었습니다." 그가 훗날 인터뷰에서 한 말이다. "그리고 일단 이런 생각들을 하기 시작하자 나는 멈출 수가 없었습니다" 그는 말년에 1960년대 자신의 정치화를 나치 독일에서의 경험과 디트로이트에서 좌파 활동 시절의 사회적 의식으로 복귀한 것이라고 반추했다. "나는 내가 누구인지에 충실했다" 그가 독일 작가 군나 벤트(Gunna Went)에게 한 말이다.
그는 나치 정권에 자신의 전문성을 빌려준 독일 과학자들에 대해 생각하기 시작했다. "나는 스스로에게 질문했습니다: 나는 그런 종류의 역할을 하기 원하는가?" 1995년에 회고하기를, 그에게는 두 가지 선택지가 있었다. 하나는 "이런 모든 종류의 생각을 꼭꼭 눌러 놓거나" 다른 하나는 "진지하게 들여다보는 것이다."
진지하게 보는 것은 그의 분야와 베트남 아이들에게 네이팜을 떨어뜨린 전쟁 기계 사이의 긴밀한 연결을 조사하는 일이었다. 로버트 맥나마라(Robert McNamara) 국방장관은 국방부에 수학적 사고방식을 도입하기 위한 그의 개혁 운동의 일환으로 컴퓨터를 옹호했다. 현장에서 공급되고 소프트웨어로 분석된 데이터는 군사 기획자들이 부대를 어디에 배치하고 폭탄을 어디에 떨어트릴지를 결정하는 데 도움을 주었다.
1969년까지 MIT는 국방부로부터 그 어느 대학보다 많은 돈을 받고 있었다. MIT 연구실에서는 베트남을 위해 기획된, 헬리콥터를 탄 기관총 사수가 아래 정글에 있는 목표물을 쉽게 제거하게 해주는 안정화 기술 개발과 같은, 프로젝트를 여러 개 수행했다. 바이젠바움이 엘리자를 만든 MAC 프로젝트는 시작 단계부터 국방부의 지원을 받았다.
바이젠바움이 이 공모에 대해 괴로워하고 있을 때, 그의 동료들 대부분은 자신의 연구가 기여하고 있는 목적에 대해서는 고민하지 않는다는 것을 알았다. 그들은 그에게 만약 우리가 하지 않으면 누군가가 할 것이라고 말했다. 또는 이렇게: 과학자들이 정책을 만드는 것은 아니지 않나, 정치인들에게 맡겨두자. 바이젠바움은 다시 자신들의 일은 정치와 아무 관련이 없다고 주장한 나치 독일의 과학자들이 떠올랐다.
책임감에 사로잡힌 바이젠바움은 반전 운동에 헌신했다. "그는 너무 급진적이 되어서 당시에 컴퓨터 연구는 거의 하지 않았어요." 그의 딸 핌이 말했다. 대신 그는 거리 시위에 참여했고 반전주의 학생들을 만났다. 가능한 한 그는 MIT에서 자신의 지위를 이용해 학생 운동에 반대하는 학교의 힘을 약화시키기 위해 노력했다. 1970년 학생들이 총장실을 점령했을 때, 바이젠바움은 징계 위원이 된다. 그의 딸 미리암에 따르면, 그는 적법 절차를 엄격히 고수할 것을 주장했고, 학생들이 학위를 마치고 졸업할 수 있도록 과정을 최대한 길게 끌었다.
이 시기는 엘리자에 관해 가졌던 어떤 풀리지 않는 의문이 그를 더 날카롭게 괴롭히기 시작한 때였다. 사람들은 그 챗봇에 왜 그렇게 열정적이고 망상적으로 반응했을까? 특히 더 잘 알고도 남을 만한 사람들이? 일부 정신의학자들은 엘리자를 자동화된 심리치료를 향한 첫걸음이라고 환호했고, 컴퓨터 과학자들은 언어를 이해하는 소프트웨어를 작성하는 문제에 대한 해결책으로서 찬양했다. 바이젠바움은 이러한 반응이 "더 깊은 문제들의 징후"임을 확신하게 되었다. 베트남 전쟁과 어떤 식으로든 연결되어 있는 문제들 말이다. 그리고 자신이 그것의 정체를 알아낼 수 없다면, 자신의 직업을 유지해 갈 수 없을 것 같았다.
그림 출처: https://shass.mit.edu/