[책] ‘유리감옥’(2014)
기술의 덫
미래 기술이 인류를 위협한다면
데이터센터에 원자폭탄을 투하하는 건 어떤가?
<터커칼슨>
기억이 맞다면, 인터뷰에서 보인 (전) 폭스뉴스 진행자이자 독립 언론인 터커 칼슨의 표정은 꽤나 진지했다.
이제 더 이상 AI 자동화로 인한 어두운 미래는 SF 디스토피아 영화 속에서나 볼 수 있는 상상이 아니다.
아마 이 책의 저자 니콜라스 카는, 출간 당시인 10년 전 오늘의 이런 상황을 미리 경고하고 싶었을 것이다.
하지만 10년이 지난 지금, 그가 바랐던 기술에 대한 성찰이나 인간 중심의 발전은 실현되지 않았고, 기술은 오히려 그의 예측보다 훨씬 빠르고 일방적으로 진화해 버렸다.
책에서 우려하던 일들은 이제 모든 사회문제의 밑바탕이 되었고, 세상은 점점 기술에 의해 획일화되고 있다.
사람들의 사고는 스마트폰이라는 ‘유리감옥’에 갇혀 점점 비슷해지고 있으며, 인간은 점점 더 깊이 알고리즘의 노예가 되어가고 있다.
니콜라스 카가 생각했던 것보다 더 빠르게, 더 심각하게 말이다. 이를 부정할 사람은 이제 많지 않을 것이다.
p182의 컴퓨터 시스템이 인간의 인지능력을 따라올 수 없는 근거로 든 질문 예시는 오늘날 생성형 AI에 의해 순식간에 답변이 출력됨으로써 농담으로 전락해버리고 말았다.작가는 자동 항공 조정 장치, 자율주행, 자동 의료 시스템, 자동 디자인 프로그램 등 다양한 사례를 통해, 기술이 헤게모니를 쥐었을 때 인간이 무엇을 잃게 되는지를 경고하고, 다시 인간 중심으로 돌아가야 할 기술의 역할과 위치를 제시한다.
하지만 아마도 대규모 전쟁이라도 터지지 않는 한, 이미 한참을 넘어서버린 기술 제국의 문명을 되돌리기는 어려울 것이다.
언제였는지 정확히는 모르겠지만, 분명히 과거에는 인간의 능력과 행복이 균형을 이루던 ‘적정선’이 존재했을 것이다.
그러나 지금은 그 시점을 되돌아보는 것조차 사치처럼 느껴지는 시대다. 그런 면에서 이 책이 가진 유익함 역시 일정 부분 축소되었다고 볼 수 있다.
하지만 축소되었다고 해서 중요성마저 퇴색된 건 아니다.
비록 이 책이 주장하는 대의—기술에 대한 보수적 시각—는 시대의 흐름 속에서 이미 물 건너갔을지 모르지만,
개인적인 차원에서 이 책이 던지는 질문들은 여전히 유효하다.
그리고 그 질문에 대해, 지금 우리 각자가 고민해야 할 이유는 충분하다.
작가의 전작이자 베스트셀러였던 『생각하지 않는 사람들(2010)』에서 경고했던, 인터넷이 초래한 기억과 사고의 아웃소싱 현상은 결국 인간의 뇌 구조마저 바꾸어 놓았다.
이번 책은 그 연장선상에서, 자동화가 인간의 ‘일’에 어떤 영향을 미치는지를 다루며 훨씬 확장된 형태의 자아를 성찰하게 만든다.
그리고 이런 책이라도 읽어보지 않는다면, 작가의 말처럼 “우리는 우리가 잃어버린 게 무엇인지조차 제대로 표현하지 못하는” 상태에 이르게 될지도 모른다.
우리는 이제 기억과 사고를 스마트폰과 클라우드에 맡겨두고, 필요할 때 잠깐씩 꺼내 쓰는 데만 뇌를 활용하는 데 익숙해졌다.
중앙처리 장치는 이미 자동화에 넘긴 지 오래고, 우리에겐 플래시 메모리로서의 기능만 남았다.
그리고 머지않아—아마 생각보다 훨씬 더 빨리—그 기능마저 AI에 양도하게 될 것이다.
기술의 압도적인 통제 속에서 이젠 ‘각자도생’을 선택해야만 하는 시점에 와있다.
스스로 생각하고, 스스로 질문하지 않는다면 우리는 기술이 제공하는 끝없는 알고리즘의 편리함과 달콤함에 취해, 그들이 조금씩 인간의 영혼을 빨아들이고 있다는 사실조차 눈치채지 못하게 될 것이다.
그리고 그렇게 비어버린 영혼의 공간에는, 거대한 중앙처리 시스템의 완벽한 통제를 받는 트랜스휴먼이라는 이름의 포스트휴먼이 들어설 준비를 마치고 있다.
당신은 한 가지 신원만을 갖고 있다.
당신이 직장 동료나 친구들과 그 밖의 지인에게 각기 다른 이미지를 보여주던 시절은 아주 빨리 마감될지 모른다.
<마크 저커버그>
SNS는 이미 인간이 가진 균형 잡힌 인격으로서의 ‘페르소나’를 해체하고, 개인의 복잡하고 다채로운 면모들을 지워버렸다.
그 대신 광고주들이 좋아할 만한, 분류하기 쉽고 예측 가능한 단일한 데이터 세트로 우리를 저장해 두었다.
작가는 이제 ‘우리가 기술을 어떻게 바라보느냐’가 아니라, ‘기술이 세상을 어떻게 바라보는가’에 대해 생각해 봐야 할 때라고 말한다.
그리고 그 시선에는 인간의 관점과는 전혀 다른 많은 차이들이 숨어 있으며, 우리가 그것을 인식하지 못한 채 흘려보낸다면,
결국 우리는 *“나는 생각한다, 고로 존재한다”*는 데카르트의 오래된 선언마저 기술에게 넘겨주게 될 것이라고 경고한다.
비록 형편없는 독서량을 자랑하지만, 전자책이 주는 수많은 이점들에도 불구하고 나는 요즘 의도적으로 종이책으로 돌아가고 있다.
늘 기술에 감탄하고, 기회만 되면 주저 없이 옛것을 버리고 새것을 택하던 내 라이프스타일에 갑작스레 회의가 든 건—어이없게도—컴퓨터 덕분에 완성되어 버린 ‘절대악필’ 손글씨 때문이다.
디지털 자동화 시대를 살아가며, 나는 무엇을 잃어버린 걸까?
어쩌면 내가 잃은 것들은 사회적으로 봤을 땐 하찮고 쓸모없는 것일지도 모른다.
요즘 누가 손글씨에 의미를 둘까?
지나친 감상일 수 있겠지만, 그럼에도 나는 분명히 무언가 중요한 것을 잃어버렸다는 느낌을 지울 수 없다.
기술 중심의 자동화는 점점 개인적인 가치를 소멸시키고, 대신 집단화되고 분류 가능한 가치만을 남기고 있다.
이쯤 되니 ‘기술 마르크스주의’가 뭔지, 조금은 더 체감하게 된 것 같다.
그리고 그 과정에서 개인의 사유와 노동, 불편을 감수하면서 느끼는 소소한 성취와 기쁨은 점점 무의미한 것으로 밀려나고 있다.
이런 발견이 나로 하여금 옛것에 대한 새로운 시각을 갖게 했고,
그동안 무시해 왔던 전통이라는 것의 가치를 다시 생각해 보게 만들었다.
책에 등장하는 몇몇 사례 속 인물들처럼 거창하거나 예술적인 의미는 없을지 몰라도,
이런 나의 변화들이 어쩌면 기술 중심의 세상을 향한 아주 사소한, 그러나 분명한 저항일지도 모르겠다.
스마트폰이 등장하기 전까지만 해도, 사람들 머릿속엔 친구, 가족, 지인들의 전화번호가 적게는 열 개에서 많게는 스무 개 정도는 항상 저장돼 있었다.
또 어떤 사람들은 책에서 읽은 멋진 문장들을 틈날 때마다 머릿속에 새겨두었고, 그런 기억력은 인간관계에서 제법 쏠쏠한 무기가 되곤 했다.
하지만 시대는 변했고, 우리는 이제 더 이상 아무것도 기억할 필요가 없는 세상에 살고 있다.
기술은 뇌의 ‘쓸데없는’ 부담을 덜어주고, 번거로운 업무를 줄여 스트레스를 낮추고,
그로 인해 더 많은 여가를 누리며 창의적인 아이디어를 떠올리고, 행복한 삶을 살 수 있게 해 줄 것이라는
기술 낙관주의자들의 말은 오랜 시간 동안 꽤 설득력 있는 환상으로 작동해 왔다.
그리고 그런 환상은 거대한 기술 자본의 든든한 지원을 받아, 거침없이 전진했다.
문제는 그들이 단순히 ‘덜어준다’는 개념에 만족하지 않는다는 데 있다.
그들이 원하는 건 뇌의 부담을 줄이는 게 아니라, 아예 없애버리는 것이고,
번거로운 일을 도와주는 게 아니라, 인간이 일을 ‘하지 않아도 되는’ 구조 자체를 만들어내는 것이다.
아무것도 없는 상태에서 창의적인 아이디어가 떠오른다는 말은 공허하다.
스트레스가 전혀 없는 상태에서 ‘스트레스에서 해방되었다’는 말은 모순적이다.
그 모든 약속은 허상 위에 세워진 문장이었고, 우리는 이제 그 허상의 끝자락을 살고 있는 중이다.
시간과 장소에 구애받지 않고 우리의 충동을 즉시 해결하는 데 알맞았던 환경은 항상 적대적인 환경이 성장을 방해하고 파괴했듯이 확실히 성장을 제한할 것이다.
앞으로도 영원히 커질 것 같았던 충동은 불현듯 사라지고 감정에도 무감각할 것이다.
<존 듀이>
이제 기술은 인간을 재정의 하려고 한다.
아마도 인류의 역사는 다양한 요인에 의해 이런 식의 변화를 거듭하며 흘러왔을 것이다.
환경이 바뀌면 시대정신도 바뀌고, 철학도 달라지고, 그에 따라 인간에 대한 보편적인 인식 역시 조금씩 수정되어 왔다.
하지만 그 모든 변화의 중심엔 언제나 인간이 있었고, 그 변화는 결국 인간 내면에서 나온 성찰로부터 비롯되었다.
하지만 이번엔 다르다.
지금의 변화는 인간이 자신을 재정의하는 것이 아니라, 인간이 만들어낸 기술이 인간을 재정의하려는 조짐으로 보인다.
관찰자가 피실험체가 되어가고 있는 것이다.
그나마 다행인 건, 아직까지는—적어도 표면적으로는—개인에게 선택권이 남아 있다는 점이다.
우리는 어쩌면 21세기 방식으로 재현된 스탠리 밀그램 교수의 ‘아이히만의 실험대’에 올라서 있는지도 모른다.
단지 상의 대신 스마트폰을 들고, 고문장치 대신 알고리즘을 마주하고 있다는 점만 다를 뿐이다.
그리고 이 책의 저자 니콜라스 카는 우리에게 말한다.
잠시만 그 버튼을 누르지 말라고,
잠시만 유리감옥에서 나와 스스로를 돌아보라고—
아직 우리가 인간일 수 있을 때,
기술이 인간을 ‘대체’ 하기 전에,
한 번쯤 멈춰서 생각하라고 조용히, 하지만 단호하게 말하고 있다.
