<유리감옥> by 니콜라스 카
트레바리 뇽 2016년 02월의 도서
유리감옥 - 생각을 통제하는 거대한 힘
저자 : 니콜라스 카(Nicholas Carr) / 이진원 역
출판 : 한국경제신문사(한경비피) 2014.09.12
니콜라스 카가 말한 유리감옥은 ‘스크린’으로 둘러쌓인 공간이다. 정보가 넘쳐난다. 최근 우리에게 정보는 찾는 대상이 아니라 필요할때 찾아 오는 것이다. 시럽 앱을 깔면 주위 매장의 할인 정보가 푸시로 날아오는 것 처럼.
그러니 그 스크린이 주는 정보만 받아먹는 인간으로 퇴화하지 않겠냐는 주장은 곧 ‘자동화’의 어두운 측면이라는 것이 존재한다고 저자는 역설한다. 단순히 정보가 주어지는 것의 문제를 떠나서, 이제 사람이 아닌 것들이 대신하는 일들이 사람을 더 멍청하게 만들 것이라고 주장하는 것이다. 때문에 기존에 매스미디어가 나올 때, TV 를 일컬어 '바보상자'라고 비평하던 것과는 또 다른 이야기를 저자는 하고 있는 것이다 .
결국 인간은 더 높은 효율성을 위해 많은 것들을 자동화하여 왔다. 그로 인해 사람이 받은 혜택은 어마어마하다. 세탁기 하나만 떠올려봐도 그렇다. 하지만 이 자동화가 더 진행될 수록 사람의 탈숙련화도 함께 진행될 것이라고 저자는 말한다.
쓰지 않는 것은 퇴화할 것이다. 쉬운 생각이다. 그것이 옳은 것이냐? 그것은 ‘자동화’ 가 완전할 것이냐 라는 질문으로 이어진다. 완전히 자동화된 세상이 올 것인가? 저자는 불가능할 것이라고 말한다. 다른 이유 보다도, 자동화를 설계하는 사람은 ‘인간’ 이기 때문이다. 그리고 인간은 완벽할 수가 없다.
더불어 세상은 변화고 변수는 추가된다. 바이오컴퓨팅이 되고, 사람의 뇌 수준으로 사고하는 기계가, 아니 사람 이상으로 ‘신’ 같은 이성을 지는 기계가 나오지 않는 이상 완벽한 시스템은 불가능하다. 때문에, 이렇게 자동화에 의존적인 사회로 가는 것은 바람직하지 않을 수 있다고 저자는 경고한다. 모든 것이 자동화 되지 못할 것인데, 사람은 멍청해져가니(탈숙련) 분명 문제가 있을 것이라고.
이러한 상황에서 마이클 샌댈의 <정의론>의 도입부에 나오는 윤리적 딜레마 상황이 기계에게 닥쳤을 때 기계는 어찌 판단해야 하느냐라는 문제도 연이어 나온다. 10명을 살리기 위해 1명을 죽일 것인가? 그것이 기계의 주인이라면? 가치 판단을 기계는 할 수 없다는 전제 하에, 그것을 ‘구글’이나 ‘애플’ 이 디자인하는 것이 맞는가?'
이런 것을 보통 트롤리 딜레마 라고 한다.
구글과 애플, 혹은 다른 Tech Giant 들은 이미 자동화 분야에 많은 투자를 하고 있다. 구글 검색엔진 코드의 주석 부분에 스카이넷(터미네이터에 나오는 인공지능) 이 검색할 때, 구글 창업주를 제외하도록 하는 주석을 달았다는 이스터 에그가 공개된 적이 있다. 지금까지는 그냥 장난에 불과할 수 있지만, 20년, 30년이 지나서는 어떨지 다시 생각해봐야 할 것이다.
(주: 스카이넷은 사람과 전쟁을 벌이는 영화 속의 가상의 인공지능이다. 심지어 나중에는 타임머신 기술 까지 개발해내는 대단한 녀석임.)
보통은 이렇긴 하지만...그게 아니더라도 우리는 충분히 ‘디자이너’의 심성모형을 따라 삶을 살아가는 경우가 많다. 쿼티 키보드도 그 예라고 할 수 있다. 드보락이 더 효율적일 수 있지만 우리는 초기 효과를 누린 심성모형에서 빠져나가지 못한다. 쿼티 기반(혹은 한글 2벌식 기반)의 손가락 운동과, 마음의 움직임은 의도되진 않았어도 ‘설계’ 된 것은 분명하다.
(주: 그러니까 디자이너에게 제일 적합한 심성 모형을 따라 초기 기술들은 개발되었다고 볼 수도 있다. qwerty도 그렇고 뭐... 요즘은 대체로 UX연구가 많이 진행되서 다수의 사람으로 부터 피드백을 얻긴 한다.)
사실 이건 또 나름대로 생각할 주제이다. UX프로젝트 상, 사람들의 기본 심성모형을 모방하여 기계를 설계하도록 되어 있다. 원칙상. 아이패드를 처음 만진 사람이 수분 내로 기초적인 사용 양식을 배울 수 있도록 설계되었다는 말처럼. 하지만 그것이 정말 옳은 것일지에 대해서는 또 생각해 볼 문제이다. 우리가 생각하는 방식 외의 것이 더 나을 수도 있으니까. 다만, 문제는 그것을 '강요' 할 수밖에 없는 현실에 대한 것이지..
법적인, 기술적인 이슈가 있긴 하지만, iOS 상에서 탈옥(jail break) 하지 않으면 사용할 수 없는 기능들이 그 대표적인 예라고 할 수 있겠다. 애플이 디자인하지 않은 기능은 우리가 사용할 수가 없는 것. 애플과 안드로이드가 의도적으로 제공하지 않는 기능들이 있다면, 그것이 옳은 것일지에 대해서도.. 어차피 제품이라고 생각하면 소비의 자유로 극복할 수 있겠지만 사실상 과점 시장 아래에서... 어쩌면 디스토피아 작품에 자주 등장하는 다국적 기업의 형태로 애플이나 구글, 페이스북이 발전할 수 있지 않을까? 페이스북의 감정 실험처럼..
FF7 의 신라 처럼 그냥 기업이 사실상 지배할 지도..지금까지는 대체로 이러한 시도는 ‘편했다’ 하지만 자동화된 기계들이 늘어나는 상황에서, 소수의 디자이너, 엔지니어가 설계한 것이 올바르고 완벽한 것일지 우리는 믿고, 따라야만 하는가? 쉽지 않은 문제이다. 이러한 여러 가지 분석 속에서 IT는 중요하지 않다(IT doesn’t matter)라고 주장했던 니콜라스 카의 혜안에 고개를 끄덕이지 않을 수 없다.
하지만, 책에서 저자가 말하지 않은 여러 부분이 거슬렸다. 에전부터, 니콜라스 카가 닥터 둠 같이 기술의 위협과 문제점을 거론하는 것은 올바르고 현명하며, 용감하기까지 한 일이지만 부족한 점이 있다고 생각했었다.
(주: 닥터둠은 원래 마블의 FF 시리즈의 빌런인데, 비관적인 경제전망을 내놓는 학자의 별명도 이와 같다. 아마도 거기서 따온 듯)
먼저, 자동화를 통한 이점에 대해서 의도적으로 감추었다. 노동의 해방은 ‘올바른 것’ 이 아니라며, 단순 반복 노동 등에서 미하일 칙센트미하이의 몰입 이론을 들여오는 등, 구체제에 순응하는 서술을 지속하였다. 먼저, 그것이 가능한 상황은 모두가 먹고 살 수준의 기본소득이 보장된다면, 나도 ‘반복되는 노동’에서 즐거움을 찾을 수 있을지도 모르겠다. 하지만, 그것은 ‘기계’의 실패가 아닌 시장과 자본의 실패로 불가능한 상황이다.
기술의 위험에 대해서 언급하는 글에서, 굳이 기술의 장점에 대해서 언급하지 않은 것을 문제 삼는 것은, 정당한 비교를 위하여 그것이 필요하다고 믿기 때문이다. 이익 교량을 해야 할 필요가 있다. 기술을 통한 유토피아와 디스토피아의 확률과 그것을 통한 이익 교량 작업을 통하여 우리가 선택할 길을 찾아야 하지 않을까. 확률적으로 정말 이 이상의 기술이 위험하다면 그것을 정지해야겠고(그럴 리는 없다고 보지만) 자동화는 반복 단순 노동에서 우리를 해방시키고, 우리는 어쩌면 더 고차원적인 행동에 몰입할 수 있는 것은 아닐까 생각도 하는데. 저자는 그 부분에 대해서는 침묵하는 것처럼 보이기도 한다. 사실, 그런 단순 노동이 더 좋을 수도 있긴 하다... 지금의 자본주의 체제 상황에서 인간의 노동력을 대체로 더 싸게 기계로 대체하게 되면, 아무래도 더 암울한 경제상이 그려질 뿐이니까.
또한, 저자는 기술과 인간을 항상 ‘구분’ 지어서 말하였다. 적어도 스스로가 (말없이) 전제한 것처럼, ‘완전히 인간을 닮은’ 인공지능이 불가능하다면 결국 사람과 기계는 상호작용할 것이다. 자동화된 시스템을 운영하는 오퍼레이터가 있을 것이며, 각 단말을 조작하는 개인들이 있을 것이다. 저자가 예를 든 자동화된 비행기의 일시 오류 상황에서 파일럿이 탈숙련화로 인한 실수를 한 것도, 기계와 인간의 상호작용 속에서 이뤄진 것이다. 그리고 그것을 단순히 ‘기계’의 문제, ‘자동화’의 문제로 보아서는 안된다. ‘제도’ 적으로 파일럿은 그러한 상황 속에서도 대응할 수 있어야만 했다. 그것을 대처하는 것은 또한 ‘기계’이다. 시뮬레이션 기계를 통하여 ‘큰 위험’ 없이 우리는 파일럿을 길러낼 수 있는 것이니까.
그와 별개로, 스스로 방아쇠를 당겨야 하는가에 대한 문제는 또 다를 수 있다. 드론을 이용한 군사 작전은 이제 그리 드문 것은 아니다. 미국 드라마 뉴스룸에서 해당 부분에 대한 아론 소킨의 논평 같은 에피소드가 소개된 적이 있었다. 적어도 그러한 일이 있기 위하여, 약식재판, 미국 국무부 혹은 백악관의 메모 등이 있어야 하지 않겠느냐는 말이었는데, 사실 그건 기계의 사람에 대한 공격 이전에 있는 '사람의 판단'에 대한 부분이었지만...
JTBC 뉴스룸이 이 드라마에게 영향을 받았다는 강력한 심증을 가지고 있다. 물론 심증...그리고 무엇보다, 단기간의 미래 만으로 기계와 인간의 가능성을 제한한 것이 저자의 가장 큰 문제점이라고 생각한다. 동시대를 살아가는 사람이기에 이해가 되지만, 또한 용납할 수 없는 부분이기도 하다. 일 세대에 걸쳐 인간이 진화를 할 가능성도 현저히 낮고, 신에 가까운 - 은하수를 여행하는 히치하이커를 위한 안내서에 나오는 ‘깊은 생각’ 같은 - 기계가 나올 가능성은 어쩌면 더 낮다. 하지만 우리는 거기에 근접해 가고 있다. 아주 조금씩이지만. 자동화가 문제라면, 그렇지 않도록 나가야 한다고 주문해야 하는데, 그것이 ‘잘못되었다’ 고 정의하는 것은 ‘기술’ 이 가져올 수 있는 미래를 ‘제한’ 한다고 생각한다.
적어도 니콜라스 카는 ‘스카이넷’을 들먹이며 자동화를 비판하지는 않았다. 매우 고무적인 사실이다. 저자는 미래의 자동화가 멋진 신세계가 아닐 수 있음을 경고하며, 인간에게 변화를 요구하고 있다. 자동화를 멈추거나, 앞으로 더 나아가거나. 신세기 사이버 포뮬러에 나오는 ‘학습형 지능’ 이 한 방안일 수도 있다.(저자는 비슷한 이야기도 책에서 하면서, 그것이 대안이 아님을 경고했지만) 우리는 이제 아이작 아시모프의 로봇 3원칙을 진지하게 받아들이고, 다시 정립할 필요가 생겼다. 어쩌면, 인간에 가까운 지능을 지니게 될 기계에 대해 우리는 그것을 ‘인권’을 가져야 할 존재로 보아야 할 것인지에 대한 논의도 해야 할 시대로 가고 있는 것일지도 모른다. 기계 생명체 ‘트랜스포머’의 ‘오토봇’ 은 생명인가, 무생물인가? 수많은 매체를 통하여 SF 장르는 이러한 질문을 던져 왔다. 이제는 그것이 서사가 아닌 역사가 될 순간이, 조금은 더 빨리 오고 있는 것일지도 모른다.
신세기 사이버 포뮬러에서도 재미있는 부분이 있었는데... 학습형으로 인간과 함께 진화해나가는 인공지능 아스라다 와 자신에 맞추어 인간을 따라오기를 바라는 '오우거'의 경쟁을 다룬 마지막 작품 SIN 이 그것이다. 자동화를 막을 수 없다면, 어떠한 형태로 나가야 할지 고민하는 것도 중요하지 않을까? 범블비가 라디오를 통해 주인공의 데이트를 돕는 것과, 설계된 기계가 자동화된 알고리즘으로 똑같은 일을 하는 것, 차이가 있을까..
미래 전쟁이 로봇 전쟁이 될 것이라고 하는 것이 맞을까? 잘 모르겠다. 아톰, 지상 최대의 로봇 혹은 플루토에서 나온 것처럼, 기계만으로 치르는 전쟁에 대한 묘사는 SF에서 흔히 나오고 있는데, 이것을 어떻게 해석할지는 또 다른 문제이고... 책의 주제와는 별개이지만, 우리가 마주해야 할 미래는 어쩌면 '우리' 만의 문제가 아니라 우리가 만들어 낼 '창조물'에 대한 것일지도 모르겠다. 일본의 로봇 강아지 '아이보'의 수명이 달하여 장례를 치른다는 기사를 해외 토픽으로 본 기억이 난다. 만화 아톰에서도 유사한 묘사가 있었다. 기계를 바라보는 우리의 시선이 디스 포티아 서사에 머무른다면, 그것대로 또 디스토피아가 아닐까.
더 중요한 것은, 사실 ‘사람’이다. 자동화가 사람의 일을 빼앗아 가고 있지만, 그러지 못하는 영역이 있다. 인간의 능력을 못 따라와서? 그렇다. 그리고 ‘사람’의 가격이 싸기 때문이다. 문자열을 인식하는 기술은 매우 높은 수준으로 올라왔지만 여전히 오인식이 존재한다. 그렇기에 명함 인식 앱 리멤버는 타이피스트를 따로 두고, 사람이 수기로 명함 정보를 데이터화한다. 그렇기 때문에 그 사람들의 일자리가 보전된다고 좋아할 것이 아니라, 기계를 통하여 더 나은 세상을 만들기 위해서는 ‘사람’의 가치를 높이는 작업에 착수해야 한다는 것을 알고 거기에 더 맞추어 노력을 해야 한다는 것이다.
니콜라스 카의 전 작품은 ‘생각하지 않는 사람들’이었다. 이사카 코타로의 ‘마왕’에서 나온 문장이 기억에 남는다. ‘검색이 아니라 사색을 해라’ 니콜라스 카는 구글의 검색 자동화에 대해서 부정적인 의견을 피력했다. 나는, 하지만 사실 ‘유리 감옥’이라는 단어를 처음 들었을 때 느꼈던 생각을 견지할 수밖에 없다. ‘검색이라도 좀 해라’
구글과 네이버, 덕덕고나 다른 검색 엔진을 통해서 우리는 ‘정보’에 더 쉬이 접근할 수 있게 되었다. 더 많은 정보가 나쁜 것이다 라고 주장하는 사람도 있겠지만, 나는 더 나은 미래를 위해서 정보는 더 널리 퍼져야 한다는 지론을 여전히 지지한다. ‘유리 감옥’ 은, 자동화가 나은 인간의 탈숙련 화도 야기하지만, 그것보다는 더 많은 스크린(N-Screen)에서 쏟아지는 광고와 잘못된 매체의 자극적인 정보의 범람으로 인하여 제대로 된 판단을 하지 못하는 현대인에 대한 비유라는 것이 처음 ‘유리 감옥’이라는 단어를 들었을 때 받은 인상이었다. 지금도, 크게 달라지지는 않았다. 자동화로 인한 폐해는 충분히 두려워하고 그것을 뒷받침할 제도와, 몰입을 통한 극복은 필요하다. 한편, 자동화를 통해 인류의 부를 더 축적하고, 불필요한 노동과 폭력으로부터 해방되어야 하며 무엇보다 ‘바른 검색’ 이라도 해서 ‘사색’ 으로의 길을 이어야만 할 것이다.
어쩌면 유리감옥은, 정말 유리로 이루어져 있어서 노력할 의지만 있다면 나올 수 있는 곳일지도 모르겠다. 자동화나, 빅브라더나 모든 감옥은 우리 스스로가 만들고 있는 것은 아닐까.
2016.01.11 ~ 2016.01.20 완독
2016.01.20 작성 시작 / 2016.01.23 탈고
2016.10.09 고쳐씀
