서론

“동물은 생각하기에 좋다.”

—클로드 레비스트로스(Claude Léi-Strauss; 1908~2009)

나는 임신 12주였고 입덧이 심했지만, 흥분되었다. 캘리포니아주 마운틴 뷰(Mountain View)에서 이틀간의 워크숍을 공동으로 주최한 뒤, 나는 거부할 수 없는 기회를 얻었다. 그래서 나는 새벽녘에 일어나 새너제이에서 덴버, 보스턴, 취리히로 비행기를 타고 독일 바이에른으로 여러 번 기차를 타고 가서 목적지인 잉골슈타트(Ingolstadt)에 도착하기로 했다.

잉골슈타트는 아름다운 붉은 지붕과 자갈길이 있는 다뉴브강둑에 있는 대학 도시이다. 그곳은 과학자들과 학생들이 죽은 돼지로 실험을 했던 19세기 의학 실험실로 유명하고, 메리 셸리(Mary Shelley; 1797~1851)에게 자신의 유명한 1818년 소설 《프랑켄슈타인》(Frankenstein)의 많은 부분을 이 바이에른 도시에 기반하도록 영감을 주었다. 하지만 프랑켄슈타인은 내가 5,800마일을 여행한 이유가 아니었다. 잉골슈타트는 독일 고급 자동차 제조업체인 아우디(Audi) AG의 본거지이기도 하다.

아우디는 최근 AI와 자율주행차, 일의 미래를 둘러싼 사회적 질문을 조사하기 위한 연구 계획을 시작했고, 나는 이들이 무슨 생각을 하고 있는지 궁금해서 2017년 회의에 참석해 달라는 아우디 측의 초대에 기꺼이 응했다. 아드레날린과 흥분으로 자극받아 아우디의 작전 기지에 도착했을 무렵, 내 몸은 임신의 새로운 단계로 접어들고 있었고, 내 입덧은 걷히고 있었다(다행히도, 숙소에 차려진 뷔페 점심은 국수에 얹힌 풍부하고 톡 쏘는 송아지 고기 스트로가노프였다). 내 방문 일정에는 자동차가 생산되는 작업 현장을 둘러보는 것이 포함되어 있었다. 그날은 흐리고 구름이 낀 날이었고, 버스 한 대가 참석자들이 모여 있는 본사 밖에서 우리를 태우고 칙칙하고 거대한 건물 단지를 지나 거대한 창고에 내려주었다. 우리는 지시대로 휴대폰을 복도에 놓여 있던 더러운 고무 상자에 던져 넣고 가이드를 따라 작업 현장으로 갔다.

우리는 공장에서 머리 위로 솟은 로봇 팔을 둘러싸고 있는 거대한 운전실에 경탄했다. 로봇은 빙 돌고, 빠르고 정확하며 매혹적인 춤을 추듯이 공간 여기저기로 움직였고, 금속 조각으로 작업하면서 불꽃이 튀었다. 이러한 조각들은 마침내 자동차가 될 것이다. 우리는 그 광경에 놀라 탄성을 지르면서, 멀리 떨어진 방의 다른 곳에 배치되어 차체에 무언가를 하는 인간 근로자에게는 거의 관심을 기울이지 않았다. 로봇의 원활한 작동이 우리 가이드에게는 일상적이고 거의 지루해 보였으며, 놀라운 일이 아니었다. 자동차 회사들은 수십 년 동안 공장 안에서 새장 같은 것에 감금된 로봇 팔로 작업했다. 하지만 아우디가 새로운 AI 계획을 시작한 이유는, 이러한 공장 로봇이 고품질의 독일 공학을 인상적으로 보여줌에도 불구하고 미래의 로봇이 아니라는 것을 알았기 때문이다.

로봇공학의 세계는 변하고 있다. 감지와 시각적 처리, 이동성이 증가함에 따라 로봇은 이제 공장과 창고에 있는 기존의 감금된 존재에서 벗어나 현재 인간이 점유하고 있는 새로운 공간으로 들어갈 수 있다. 아우디와 같은 회사는 공장뿐만 아니라 자동차에도 인공지능과 로봇공학에 많은 투자를 하고 있다. 로봇은 현재 하수도를 검사하고, 바닥을 닦으며, 부리토를 배달하고, 나이 든 친척의 곁에 있어 주는 일에 투입되고 있다. 우리의 가정에서 일터에 이르기까지 혁명이 다가오고 있다. 자동차 공장의 방 건너편에서 일하는 사람들에게 이것은 무엇을 의미하는가? 일부 신문 헤드라인에 따르면 로봇 기술이 발전함에 따라 일자리를 잃을 위기에 처한 것은 그들만이 아니다. 우리 모두 그렇다. 더 광범위한 경제적·사회적 불안을 배경으로, 대화는 “로봇이 나를 대체할 것인가?”에서 “얼마나 빨리 로봇이 나를 대체할 것인가?”로 바뀌었다.

많은 사람은 예상되는 로봇 장악에 떨지 않는다. 우리의 관심사는 특히 우리의 운전대를 잡고 우리나 우리 아이들에게 해를 끼칠, 인간 같은 행위성을 가진 우리와 비슷한 것을 만든다는 생각에 집중되어 있다. 신문의 헤드라인은 로봇 사창가와 로봇이 운영하는 레스토랑과 호텔의 디스토피아를 그린다. 이는 로봇이 인간의 모든 직업을 차지하고 우리의 보모와 남자친구가 기계로 대체되는 세상이다. 메리 셸리의 이야기에서, 빅터 프랑켄슈타인은 잉골슈타트에서 의학을 공부하고 결국 그에게 등을 돌리는 자율적이고 지적인 존재를 만든다. 유대 민속의 골렘(생명이 주어진 인조인간)과 함께, 프랑켄슈타인의 괴물은 “로봇”이라는 단어가 만들어지기 1세기 이상 전에 출판되었음에도 로봇에 대한 초기 이야기로 여겨진다. SF소설 작가 아이작 아시모프(Isaac Asimov; 1920~1992)는 나중에 로봇에 대한 부정적인 공적 태도를 “프랑켄슈타인 콤플렉스(Frankenstein complex)”라고 묘사했다. 오늘날, 한 자동차 제조업체는 200년 이상 전에 같은 도시인 잉골슈타트에서 유래된 이야기의 현대판과 씨름하고 있다.

이러한 두려움은 정당화되는가? 확실히 우리는 사람을 기계로 대체하려고 하는 것 같다. 2017년 10월 잉골슈타트에 간 같은 해 가을, 사우디아라비아는 소피아(Sophia)라고 부르는 진짜처럼 보이는 휴머노이드 로봇에게 사우디아라비아 시민권을 허가했다. 그 발표로 소동이 일어났다. 여성의 자동차 운전 권리를 간신히 발표했던(그러나 아직 시행하지 않은) 나라에서 로봇이 권리를 부여받고 있었다! 나는 특히 로봇이 인권을 받을 가치가 있는지 조사하고 싶어 하는 기자들로부터 많은 이메일과 전화를 받았다. 이 시기에 나는 한참 임신 중이어서 그러한 이메일과 전화를 무시했다. 나는 사람들이 상상하는 것만큼 발전하지 않은 로봇인 소피아의 “시민권”이 기본적으로 홍보 선전용 쇼라고 느꼈지만, 평범하게 로봇이 뉴스거리가 되었을 때 관련된 법적·사회적·윤리적 문제에 대한 전화를 받았다. 하지만 나 자신의 질문은 왜 이러한 선전용 쇼가 애초에 그렇게 많은 관심을 불러일으켰는지에 초점을 맞췄다.

로봇과 사회에 대한 나의 열정은 법과 경제 대학원생 시절로 거슬러 올라간다. 나는 연구 중에 로봇공학 연구소의 학생들을 만났고, 모호한 로봇 윤리 논문을 읽었으며, 친구들과 로봇에 대해 열정적으로 토론했었다. 특히 한두 잔을 마셨을 때는 더 열띤 토론이었다. 나는 새끼 공룡 로봇 “펫”을 샀고, 그것을 “입양했다”(이는 제10장에서 자세히 이야기한다). “로봇화의 증가는 사회에 어떤 영향을 미치는가?”와 같은 질문에 관한 나의 연구는 이렇게 시작되었다. 이러한 나의 연구는 내가 상상했던 것과는 완전히 다른 학문적 경력의 시작이었다. 10년이 넘는 기간 동안 나는 로봇공학자들과 함께 연구했고, 나의 법률과학과 사회과학 배경을 기술에 적용했다. 나는 문헌을 연구하고, 인간의 심리를 탐구하며, 실험하고, 전 세계 사람들과 대화를 했다.

우리에게 가장 친숙한 로봇에 대한 아이디어는 SF소설에서 나온 것이 분명하다. 나는 항상 SF소설을 좋아했다. 나는 가능한 한 모든 SF소설을 읽으며 자랐다. 그 목록은 쓰레기 같은 펄프 소설에서부터 새로운 사고방식에 내 마음을 열어준 어슐러 르 귄(Ursula Le Guin; 1929~2018)과 옥타비아 버틀러(Octavia Butler; 1947~2006) 같은 위대한 작가들까지 이른다. 하지만 이제 나는 로봇공학을 연구하므로 서구의 주류 SF소설에 나오는 로봇에 대한 묘사가 어떻게 정반대의 것을 하는지도 보았다. 기술 비평가 사라 왓슨(Sara Watson)이 지적했듯이, 우리가 읽는 소설 이야기는 너무 자주 로봇과 인간을 비교한다.

나는 이러한 로봇과 인간의 비교가 우리를 제한한다고 생각한다. 그러한 비교는 기계의 능력에 대해 혼란을 일으키고, 인간이 일자리를 잃는다는 과장된 두려움을 불러일으키며, 해에 대한 책임을 어떻게 할당할 것인가에 대한 이상한 질문을 제기하고, 우리의 감정적 애착에 대한 도덕적 공황(사람들 사이에 어떤 상황이나 사건이 사회의 안녕을 위협한다는 두려움이 퍼지는 현상_역주)을 일으킨다. 하지만 로봇을 인간과 비교하려는 우리의 열망과 관련하여 내가 제기하는 가장 큰 문제는 그러한 열망이 잘못된 결정론을 낳는다는 것이다. 로봇이 불가피하게 인간의 일을 자동화하고 우정을 대체할 것이라고 가정할 때, 우리는 기술을 디자인하고 사용하는 방식을 놓고 창의적으로 생각하지 않는다. 그리고 우리는 기술을 둘러싼 더 넓은 시스템을 형성하는 데 있어 우리에게 주어진 선택권을 보지 못한다.

이 책은 다른 비유를 제시한다. 그 비유는 우리에게 친숙한 것이고, 우리의 대화를 놀랍도록 중요하게 변화시키는 것이다. 역사를 통틀어, 우리는 일과 무기, 친구를 위해 동물을 사용했다. 로봇처럼, 동물은 감지하고, 스스로 결정하며, 세상에서 활동하고, 배울 수 있다. 그리고 로봇처럼, 동물은 인간과 다르게 세상을 인식하고 관여한다. 그래서 수천 년 동안 우리는 혼자서는 할 수 없는 일을 동물에 의존해 해 왔다. 이러한 자율적이고 때로는 예측할 수 없는 행위자를 사용할 때 우리는 우리 자신의 관계와 기술을 대체한 것이 아니라 오히려 보완했다.

우리는 밭을 갈기 위해 소를 길들이고 말 타는 법을 배워서, 물리적·경제적으로 우리 자신과 사회를 새로운 방식으로 확장했다. 우리는 비둘기 배달 시스템을 만들었고, 코끼리의 공격을 막기 위해 불에 타는 돼지를 풀어놓았으며, 수중 지뢰를 탐지하도록 돌고래를 훈련했다. 인류에게 알려진 법이 시작되면서부터, 자율적인 동물이 해를 끼칠 때 책임 문제를 다루었으며, 심지어 동물이 저지른 범죄에 대해 스스로 재판에 회부하기도 했다. 또한 사회적으로 우리 자신을 확장했다. 역사를 통틀어, 우리는 대부분의 동물을 도구와 제품으로 취급했지만, 그중에서 어떤 동물은 우리와 친구가 되기도 했다.

로봇에 대해 생각하기 위해 동물을 사용하는 것은 이 기술에 생명을 투영하려는 우리의 고유한 경향을 인정한다. 이는 수년간 나를 매료시켰다. 우리의 물리적 공간을 돌아다니는 간단한 청소기에서부터 생물학적으로 진짜처럼 날개를 퍼덕이는 잠자리 로봇에 이르기까지, 우리는 움직이는 기계가 살아있지 않다는 것을 알면서도 움직이는 기계에 본능적으로 반응한다.

내가 로봇을 동물과 비교할 때, 로봇과 동물이 같다고 주장하는 것은 아니다. 동물은 살아있고 느낄 수 있지만, 로봇은 부엌 믹서기와 다를 바 없이 고생한다. 동물은 종종 로봇보다 더 제한적이다. 개에게 공을 가져오도록 훈련할 수 있지만, 바닥을 진공청소기로 청소하도록 하지는 못한다. 그러나 동물은 또한 예상치 못한 상황을 기계보다 더 쉽게 처리할 수 있다. 요점은 이러한 사고실험이 우리가 매달리고 있는 로봇과 인간의 비교에서 벗어나 다른 종류의 행위자를 상상할 수 있게 해 준다는 것이다.

나는 동물 및 로봇과 우리의 관계에 대한 과거와 현재, 미래의 유사점을 수집하면서, 동물을 사용하여 우리의 가장 시급한 우려를 철저히 따져보는 것이 많은 대화를 변화시킨다는 것을 발견했다. 동물과 마찬가지로, 로봇이 우리의 직업이나 관계를 일대일로 대체할 필요는 없다. 대신 로봇은 우리가 새로운 방식으로 일하고 사랑할 수 있게 해 준다. 다른 비교 방법을 사용하면 기존의 것을 다시 만드는 대신 다양한 유형의 지능과 기술을 활용하여 새로운 관행을 개발하고, 새로운 해결책을 찾으며, 새로운 관계를 탐색하는 방법을 검토할 수 있게 된다. 우리의 도덕적 공황을 제쳐두면, 우리가 이러한 기계와 함께 살기 시작하면서 직면하게 될 비선형적(非線形)인 경제적 혼란에서 감정적 강요에 이르기까지의 실제 윤리적·정치적 문제를 볼 수 있도록 도움을 받게 된다.

이 책은 우리가 과거에 동물을 사용한 방법과의 유사점을 끌어내면서, 어떻게 로봇을 우리의 공간과 시스템에 통합시키고 있는지를 현대적으로 탐구하면서 시작한다. 제1부 “일, 무기, 책임”에서는 미래에 대한 우리 대화에서 두드러지는 많은 친숙한 질문을 선택한다. 로봇이 우리의 일자리를 대체할 것인가? 인공 초지능은 위협인가? 예상치 못한 로봇 행동에 대한 책임을 어떻게 할당할 것인가? 내가 설명하고 싶은 것은, 로봇을 준(準)인간으로 인식하면 그러한 대화가 정말 많이 (잘못) 형성된다고 것이고, 또한 동물 비유를 사용하면 우리가 새로운 길로 접어들 수 있다는 것이다. 그리고 그 새로운 길은 우리에게 인간성보다 생산성을 우선시하도록 강요하지 않는 길이다.

제2부 “교우 관계”는 미래로 약간 더 나아가 로봇 동반자의 새로운 발전을 탐구한다. 소셜 로봇은 아직 널리 보급되지는 않았지만 증가 추세이다. 이러한 로봇은 느낄 수는 없지만, 사람들이 심지어 이러한 로봇이 “죽을” 때 애도하듯이 우리는 이러한 로봇에 대해 느낀다. 여기에서 우리의 반려동물 역사는 로봇과의 감정적 연결을 둘러싼 인간 대체의 오명에 대한 수수께끼를 풀어준다. 다양한 “타자”와 관계를 형성할 수 있는 우리의 능력을 인식하는 것은 도덕적 공황을 제쳐두는 데 도움이 되지만, 우리가 앞으로 나아갈 때 더 주의를 기울여야 하는 사생활과 편견, 경제적 인센티브에 대한 해결되지 않은 몇 가지 문제도 드러낸다.

이 책의 세 번째이자 마지막 부인 제3부 “폭력, 공감, 권리”는 동물의 비유를 매우 미래적으로 들리는 로봇 권리의 영역으로 가져간다. SF소설에 나오는 인간 같은 기계는 로봇에 대한 미래의 처우에 관한 대화를 촉발했다. 하지만 서구의 동물 권리의 복잡한 경로를 보면 로봇 권리 운동이 어떻게 전개될지를 두고 다른 예측이 나온다. 비(非)인간과 관련된 우리의 역사는 우리가 어떤 삶이 가치가 있는지 선택하는 방법에 대해 가혹하고 통찰력 있는 빛을 비추며, 우리가 비(非)인간뿐만 아니라 서로 어떻게 관계를 맺는지에 대한 새로운 이해를 드러낸다.

역사학자들과 사회학자들은 인간이 무엇을 의미하는지에 대해 생각하기 위해 오랫동안 동물을 사용했지만, 동물은 또한 로봇과 우리의 관계에 대해 가르쳐줄 것이 많다. 우리 일상생활의 구조에 점점 더 많이 엮이는 로봇 기술은 우리 사회가 직면하게 될 질문과 선택을 가져온다. 이 책은 기술과 법률, 심리학, 윤리학 분야에서 수집하고, 비(非)인간과 우리의 역사적 관계를 배경으로 마련된 그러한 질문과 선택을 편집한 것이다. 이는 이 새로운 품종을 가진 미래가 우리에게 어떤 의미를 갖는지, 그리고 우리가 그런 미래를 어떻게 형성할 수 있는지를 노력해서 이해하기 위함이다.