[책 리뷰] 살아있는 인형
내 자녀가 인공지능 선생님에게 수업을 듣고 삶을 배운다면?
우선 음악 한 곡 듣고 시작합시당.
음악은 기억을 소환하는 역할을 하기도 하고, 음악을 만든 사람의 삶과 의도가 전해지니 -
(이 글은 영상이 압도적으로 많으니 - 소리 on)
지속적으로 새로운 로봇을 '창조'하고 있는 Boston Dynamics는 2013년 구글에 인수되었다가 2016년 소프트 뱅크에 다시 인수되었다. (소뱅의 큰 그림이 뭘까 궁금해진다.) 최근 보스턴 다이내믹스의 영상을 보며 13년 전 첫 직장생활을 하며 아이들에게 로봇에 대한 주제로 수업을 할 때 읽었던 책이 문득 떠올라 집에 처박아둔 책을 다시 뒤적뒤적했다.
현재의 삶에서 내가 조우하고 있는 특정 현상이 매우 복잡하다고 느낄 때는 그 일과 비슷한 과거로 돌아가 보면 꽤나 날카로운 통찰력과 직관을 얻을 수 있다. 최초에 000은 어떻게 시작되었을까? 당시 사람들은 000에 대해 어떤 관점을 가지고 있었을까를 보면 현상 뒤에 숨은 본질을 조금 더 쉽게 발견할 수 있다. 2005년 국내에서 출간된 이 책이 13년이 지나서 다시 생각난 것은 이 책의 저자의 관점이 오늘날 내가 로봇, 인공지능에 대한 이슈를 바라볼 때의 '기준'을 정립해주었기 때문이다. 그런 면에서 무려 16년 전에 쓰인 이 책은 오늘 신간으로 나온다 해도 손색이 없을 만큼 보스턴 다이내믹스와 알파고를 이미 알고 쓴 것처럼 그 관점에 통찰력이 있다.
저자 Gaby Wood는 기자이다. 저자는 오랜 시간 동안 공을 들여 자동으로 움직이는 '로봇'에 대해 리서치를 했다. 2005년에 읽었을 때는 깨닫지 못했던 (혹은 깨달았었는데 지금 홀딱 까먹은) 것들이 보스턴 다이내믹스와 구글의 알파고를 겪고 다니 더 또렷하게 보인다. 이 책은 자동화된 사람을 흉내 내는 기계에 대한 역사를 닮고 있다. 요즘 유행인 음식의 역사, 문구의 역사 같은 지난 300여 년간의 자동인형에 대한 오래된 시절의 역사이다. 그리고 늘 그렇듯 수천 년간 '인간'은 유사한 사건에 비슷하게 반응해왔다. 이 책에서 나온 chess player 인형은 지금의 알파고가 나왔을 때 사람들의 반응을 연상하게 했고, 플루트를 연주하는 인형은 사람 형상과 너무 닮은 일본 로봇을 보았을 때의 느낌과 중첩된다.
상상해보라,
보스턴 다이내믹스의 4족 보행 로봇이
300년 전으로 간다면?
타임머신이 있어 보스턴 다이내믹스에서 만든 로봇을 300년 전으로 가지고 간다면? 아마 그걸 가지고 간 사람은 악마 혹은 마녀라며 재판에 회부되었을 것이다. 이 책은 실제 움직이는 인형을 만들었던 사람들의 사례가 나온다. 워낙 자동화된 것들이 많은 이 시대에도 보스턴 나이나믹스의 4족 로봇들은 사람들을 뜨악하게 하는데, 300년 전 만약 인간의 형상을 한 인형이 당대 사람들에게 주었던 충격과 공포심은 더 했을 것이다.
300년 전, 사람들은 왜 태엽으로 움직이는 인형을 만들었을까? 철학자인 데카르트는 왜 움직이는 인형을 만들었을까? 자크 드로가 만든 인형은 왜 '나는 생각한다, 고로 존재한다'라는 데카르드의 문장을 쓰고 있을까? 로봇을 만드는 사람들은 왜 의학과 해부학에 관심을 두었을까?
이 책은 자동으로 움직이는 인형에 대한 이야기를 통해 지금 우리가 '인공지능'에 대해 갖고 있는 두려움과 고민을 좀 더 깊은 근원으로 가도록 안내해준다.
책 서두부터 인사이트 팍팍 + 잼난 일화들이 많아 몇 가지 공유해보자면
P-10 인형이 살아 움직이기를 바라는 어린아이의 욕망이 어른이 되어서는 공포로 다가올 수 있다. 불안을 느낀 것은 18세기 기자만이 아니었다. 피에르 자크-드로가 글을 쓰는 자동인형을 스페인에서 전시했을 때 그는 스페인 종교재판소에 의해 이단으로 기소되어 그 기계와 함께 한동안 감옥에 갇혀 있었다. 수십 년 후에 메리 셸리는 6주 동안의 유럽 여행을 하던 도중에 뇌샤텔에 들렀다. <프랑켄슈타인>을 쓰기 2년 전이었던 그때 아마도 그녀는 자크-드로가 만든 안드로이드를 보았을 것으로 생각되며, 그녀가 이 곳에서 생명 없는 인형이 일하는 것을 지켜보면서 인공 생명에 관한 가공할 소설을 구상했다는 것은 그럴듯해 보인다.
책 제목인 <살아있는 인형>은 수백 년 전의 사람들에게 처키와 애나벨 수준의 공포감을 주었을 것 같다. 누구냐 넌!
p-12 인공 생명을 창조하려는 모든 시도가 기계적인 것만은 아니었다. 르네상스 시기의 많은 점성가와 연금술사들이 이보다 더 신기한 창조물을 만드는 비법을 개발했다. (중략) 인공 생명의 오랜 역사에도 불구하고 나는 안드로이드와 그것을 만든 사람들의 이야기를 나중의 보다 중요한 시점, 즉 마법사들이 야망이 과학이라는 존경받는 이름으로 되살아난 시대부터 시작하기로 했다. (중략) 18세기 자동인형의 정교한 메커니즘 안에는 독특한 철학적 난제가 들어있다. 태엽 장치는 죽을 수밖에 없는 우리 인간의 자아와 본질적으로 대립한다는 것이다.
p-13 심리학 교수이자 로봇의 역사에 관한 글을 쓴 바 있는 존 코언은 로봇은 고장이 날 수 있지만, 자기 자신을 파괴할 수는 없다고 암시한 바 있다. 그는 로봇은 절대로 자살을 할 수 없다고 했는데, 왜냐하면 "진정한 자살은 죽음에 관한 어떤 예지나 죽음의 의미에 대한 어떤 관념을 내포하는데, 이것은 인간의 특권"이기 때문이다.
인공지능은 해탈할 수 있을까?
인공지능은 사고할 수 있을까?
강의 주제가 무려 [인공지능 로봇의 해탈 가능성] 이다. 아 정말 이런 철학적인 주제라니! 진심 듣고 싶었음데카르트는
직접 시계태엽과 금속 조각을 가지고
이 안드로이드를 만든 것으로 밝혀졌다.
책에는 재미있는 스토리가 나오는데, 이 내용을 읽고 '소~름' 딱 이랬다. 바로 데카르트의 '딸'에 대한 이야기인데, 우리가 아는 그 데카르트는 스웨덴의 크리스티나 여왕을 보러 배를 타고 떠난다. 여왕님이 불러 어쩔 수 없이 배를 타고 가며 친구들에게 나는 '딸'과 여행을 하고 있다고 했다. 뱃 사람들이 아무도 그의 딸을 본 적이 없어 그의 선실에 들어가 작은 박스를 열었는데, 그 상자 안에는 인형이 들어 있었다고 한다. 사람처럼 움직이고 행동하는 이 인형은 데카르트가 시계태엽과 금속 조각을 가지고 안드로이드를 만들었다고 한다. 충격을 받은 선장은 이 불가사의한 기계가 사악한 마술을 부려 여행을 방해하는 궂은 날씨를 불러왔다고 확신하여 바다에 버렸다고 한다.
우리가 아는 데카르트의 '나는 생각한다. 고로 존재한다'는 그가 인간을 기계에 비교하며 쓴 철학적 결론이기도 하다. 그가 자동인형을 만들면서 인간은 어떤 면에서 기계와 다를까를 생각하는 모습을 상상하니 이 유명한 문장의 근원이 어디에서 나왔는지 알 것 같다. 데카르트는 그의 활동에 비해 논문을 많이 출간하지 않았는데, 그 이유 중 하나가 당시 지구가 태양을 돈다는 주장을 지지했다가 로마 종교재판소에 연금당한 갈릴레오의 운명을 전해 듣고 교회에서 인정하지 않는 내용은 출판하지 않았기 때문이라고 한다. 신이 아닌 누군가가 인간의 닮은 형상을 '창조'한다는 것은 당시 정말 엄청난 도전으로 받아들여졌을 것이다.
'나는 생각한다, 고로 존재한다.'라는 말은 앞 뒤 말 다 자르고 생각하면 망망대해의 이야기이지만, 그가 죽은 자기 딸의 형상을 한 자동인형을 만들었다는 것을 생각하면 어떤 연유에서 이런 이야기가 나왔는지 고개가 끄덕여진다. 어떤 것이 인간을 더 인간답게 하는가 라는 질문에 이미 그는 수백 년 전에 답을 내려 주었다. (Jaquet Droz의 글 쓰는 자동인형은 가끔 더 역설적으로 '나는 생각하지 않는다. 그렇다면 나는 존재하지 않는 걸까?' 라고 쓰기도 한단다. 헐.~)
데카르트 말고도 많은 사람들이 자동 로봇을 만들며 당대의 신의 권위에 도전했다. 기술과 과학은 마법이 되어 그들은 감옥에 갇히기도 하고 그들의 작품은 나폴레옹과 루이 15세 왕까지 탐낼 정도로 진귀한 물건이 되었다. 아래 영상은 당대에 유명한 자동화된 로봇 메이커 ~ 지금으로 치면 보스턴 다이내믹스 정도의 파급력을 가진 Jaquet Droz가 만든 태엽 기반의 로봇들에 대한 소개이다. 결국 그의 이름은 시계 브랜드가 되었다. 생각해보니 시계의 작동 원리와 300년 전에 만들어진 로봇의 작동 원리는 유사하다.
새가 지저귀는 소리를 들으려면 새가 있는 숲으로 가거나 새를 케이지에 넣어 집 안에서 키웠어야 했을 것이다. 그런데 24시간 새가 지저귈 수 있다면? 이 발명가는 새가 지저귀는 소리를 내기 위해 엄청난 연구를 했음에 틀림이 없다.
이 시계 브랜드의 Charming bird라는 제품은 영상의 새를 연상하게 한다. (순전히 내 생각)
프랑스의 발명가 보캉송은 한 술 더 떠 오리를 만들었다. 알아서 밥 먹고, 소화하고, 응가까지 하는 오리를 말이다. 인조 오리를 만든 보캉송을 보고 루이 15세가 그를 찾아가 했던 질문은 "그(오리)와 똑같이 피를 순환하게 할 수 있는지"였다. 즉, 단순히 태엽을 통해 움직이는 것이 아니라 소화와 배설이라는 것을 할 수 있다는 것을 기반으로 인간과 기계가 결합된 모델을 생각했던 것이다. 루이 15세와 보캉송은 그의 신체적 병약함 때문에 특히나 의학과 해부학에 관심이 있었다.
(오래 뱃 속에 화학 실험실이 생겼어야 했지만, 이후 추론하길 오리 응가는 따로 준비된 부식된 재료였다고 한다.)
당대의 자동인형을 만들었던 많은 발명가들은 동물과 사람의 해부 지식에 매우 밝았고, 의학적으로도 뛰어난 지식을 가지고 있었다. 지금처럼 학문들이 분류되지 않았던 시대에 그들은 철학과 기술, 의학을 넘나드는 넓은 영역을 탐구했다. 단순히 태엽으로 움직이는 자동인형에서 '소화'의 기능이 있는 자동인형의 출현은 사람들에게 큰 충격을 주었다. 소화를 한다는 것은 정말 '생명'이 있다는 것으로 받아들여졌다.
( 데니스 홍 박사님의 랩도 아마 해부학 연구를 음청 하실 것 같다. )
이와 유사하게 플룻을 부는 자동 인형도 놀라움의 대상이었다. 플룻은 '숨'이 필요한데, 들숨과 날숨을 쉬며 플룻을 부는 행위는 기계가 숨을 쉴 수 있고 생명을 만들 수 있다고 생각했다. 생각해봐라ㅠ 우리가 사람이 죽었는지 안 죽었는지 확인할 때는 숨을 쉬나 아니냐에 대한 것을 확인한다. 플룻을 분다 = 숨을 쉴 수 있다로 인식되었던 것이다.
p88 - 왕립 과학 아카데미의 인정을 받고, 파리 시민들의 갈채를 받은 여러 자동인형으로 유명한 보캉송 씨가 이 도시에 와서 우리 학회의 회장으로부터 이 모임에 참석하도록 허락을 받고 자신이 구성한 계획, 즉 혈액 순환, 호흡, 소화, 그리고 근육과 건과 신경의 조합과 같은 생명 기능을 모방하는 움직이는 자동인형을 제작하는 계획에 관해 이야기했다. 그는 이러한 자동인형을 통해 우리가 생명 기능에 관한 실험을 수행할 수 있으며, 인간의 다야안 건강 상태를 이해하고 병을 치유할 수 있을 것이라 주장한다. 인간의 신체를 나타낼 이 기발한 기계는 아마도 결국에는 해부학 수업에서 실습용으로 사용될 수 있을 것이다.
죽은 이들의 무덤을 파헤쳐 시체를 파며 해부학을 공부한 레오나르도 다빈치는 엔지니어였고 그도 자동인형을 만들기 위한 연구를 했었다.
생각하는 기계라고?
체스 두는 자동인형이 그런 발명품이었나?
생각하는 기계라니!
그런 것을 정말 상상할 수 있었단 말인가?
- 요제프 프리드리히 프라이해르 주 라크니츠, 1789
사람들의 공포심은 체스를 두는 자동인형이 나오고 나서 더 극에 달했다. 현재는 실제 이 인형은 사라지고 복제본만 남아 있지만, 사람 실물 크기라고 알려진 이 터번을 쓴 신비로운 인형은 상대방이 말을 늦게 옮기면 오른손을 테이블에 치면서 재촉을 한다. 헝가리 인 볼프강 존 켐펠렌이 만든 이 인형은 당대 사람들에게 자동인형이 음식물을 '소화'하는 단계를 넘어 생각을 할 수 있다고 여기게 하여 엄청난 충격을 주었다. 종국에는 책상 아랫사람에 들어가 자석과 거울을 통해 말을 움직인 것으로 밝혀졌지만, 몇 년 전 이세돌과 알파고의 경기와 비슷한 충격이었을 것으로 예상된다.
인간이 인간을 창조할 수 있단 말인가? 300여 년 전에도 인간은 똑같은 문제에 봉착했다.
책은 이렇게 데카르트부터 시작하여 그간의 우리가 알고 있는 영화 속에 재현된 조물주에게 도전하는 인간의 심리와 현상에 주목한다. 이를 통해 더더욱 인간을 인간답게 하는 것은 무엇인가 라는 철학적 질문에 답하도록 한다.
현재의 기술은 데카르트의 자동인형 딸의 모습을 훨씬 넘어 인간의 형상과 너무도 똑같은 모습을 가진 로봇을 창조하기에 이르렀고, 여전히 사람들은 인간과 인간이 아닌 것의 경계의 모호함에 두려움과 공포심을 갖고 있다.
최근 발표되어 전 세계인을 뜨악하게 한 구글의 인공지능 비서는 인간이 아니지만 인간 흉내를 내는 신기함+공포를 확인시켜주었다. 이러다가 울 엄마 목소리까지 흉내 내며 나에게 안부를 묻는 시스템도 생길 판이다. 이미 가능하겠지만, 사업성이 없어 안 하겠지... 어쩜 보이스피싱 회사가 1등으로 택할지도. 중간에 으흠~이라고 인간 '흉내'를 내는 부분은 영상에서 압권이다. 이 때 사람들이 다 웃는데, 이 웃음 뒤에는 분명 두려움의 감정이 같이 존재할 것이다. 나중에 엄마 목소리 흉내내는데 엄마가 아니라 구글인걸 알면 후달달... 겁내 무섭겠지.
테슬라 생산 차질로 잔뜩 주주들의 걱정을 안겨주고 있는 엔론 머스크는 의외로 인공 지능에 대한 반대의 의견을 냈는데, 300년 전의 논란처럼 생각이 가능한 인간이 아닌 무엇인가의 존재는 이렇게 사람들을 두려워하게 한다.
“딸기를 수확하기 위해 자기 발전 AI를 개발한다면 점차 딸기를 잘 따게 되면서 더 많은 양을 수확하고 스스로 발전한다면 결국 딸기만 수확하고 싶어 질 것이다. 그러면 전 세계를 딸기밭으로 만들고 싶어 질 것이다. 딸기밭이 영원히 끝나지 않는 것이다.” - 엔론 머스크 2016년 인터뷰 중
내 자녀를 인공지능이 가르친다면?
아직까지 우아! 신기하다 - 편리하다 라고 생각하는 분들에게 큰 질문을 이런 질문을 던진다면 어떨까?
내 자녀를 인간이 아닌 인공지능이 가르친다면 이라는 질문에 우리는 쉽게 yes/ no로 대답할 수 있을까? yes라고 답하는 경우에는 학습을 '지식' 자체로만 바라보는 관점 일 수 있다. 구글에 검색하는 것처럼 필요한 지식을 피곤함을 느끼지 않은 최신 정보로 가득한 인공지능이 알려준다면 뭐가 문제이겠는가? 하지만 인간은 '지식'만을 배우지 않는다. 그 안에서 윤리적 사고의 판단을 배우고 강점을 익힌다.
인공지능이 이 주제로 자녀와 이야기를 해야 한다면 어떤지 생각해보라. 인공지능에게 의사 결정이 합리성이란 인간의 합리성과는 다른 개념임에 틀림이 없다.
바비 인형으로 유명한 마텔이 내놓은 '아리스토텔'이라는 어린이용 인공지능 스피커 (이름도 참 아이러니하다.)는 미국에서 판매 취소가 되었다. 대중들의 거센 반발 때문이었다. 인공지능 스피커가 아이들에게 특정 생각을 주입시키거나 잘못된 것을 가르칠 수 있다고 생각했기 때문이었다.
이미 교육 분야에서 인공지능은 많은 영역에서 그 범위를 확장해하고 있다. 나도 모르는 나를 분석하고 이를 토대로 사람 선생님을 추천하거나 이미 셋업 되어 있는 여러 정보들을 기반으로 personalized learning의 체계를 공고히 굳혀가고 있다. 인간의 교육이 더 나은 사고를 하고 판단을 하여 더 나은 인간의 삶을 살아갈 수 있도록 한다면 특히나 교육 부분에서 인공지능의 기술을 접목시키는 부분은 제한적이어야 한다.
EU가 로봇 시민법을 만들고 이에 대한 윤리적 규제를 하는 이유에는 사람들이 가지는 공포심과 두려움에 에 경계를 명확히 해주는 일이라고 생각한다. 이 부분에서 우리는 많은 부분을 아이작 아시모프에게 빚을 지고 있다.
인간과 인간을 연결시켜주는 학습 앱 튜터링 서비스에서도 데이터, 자동화, 인공지능에 대한 논의가 되고 있다. 일정 부분의 수업은 사람이 아닌 시스템과 할 수 있는 방법도 설계하고 있다. 인간의 욕심은 끝이 없어 많은 누군가는 '완전 자동화된' 서비스를 꿈꾸겠지만 사람의 삶에 지대한 영향을 미치는 교육 부분에 대한 생각은 엔론 머스크의 딸기밭 이야기와 그 축을 같이 한다. 이는 딸기만 먹고사는 세상과는 좀 더 다른 문제임에 틀림없다.
그러나.. 한편..
책을 10번 읽어줘도 전혀 피곤해하지 않는 로봇과 체력적 정신적 한계로 피곤한 엄마 사이에서 아이는 누굴 택할 것인가?
개인의 주관적 판단으로 환자와 상담하는 정신과 의사와 '객관적' 사실만으로 '질문'을 하는 일라이자는 상담이나 코칭을 하는 사람들이 훈련을 통해 다다르고 싶어 하는 이상적인 상담가의 모습이다.
사실 이게 더 무섭...
아.. 모르겠다. 이 책은 결국 나에게 어디에서 선을 그어야 할지를 더 깊게 생각하게 해주는 폭탄 같은 책이다.
기술은 그 기술을 소유한 사람의 윤리관이 중요할 수뿐이 없는 이유.
책 첫장에 있던 시 - 1791년에 <베스 해럴드>에 실린 시로 작자 미상