독서노트: 넥서스6

우리는 늘상 감시당하고 있다

우리의 라이프를 장악한 컴퓨터 네트워크가 새로운 문화를 창조하고 우리에게 놀라울 정도의 편리함과 즐거움을 주지만 반면에 얼마나 위협적으로 기능하고 있는지 또 기능할 수 있는지를 작가는 재차 강조하고 있습니다. 기술이 장밋빛 미래만 선사할 거라 생각한다면 그것은 아주 순진한 생각이다. 정신 차려라, 컴퓨터에게 절대 핸들을 쥐어줘서는 안 된다. 그러다간 사태 파악이 되기도 전에 비극이 시작될 수 있다. 특히 위험한 것은 정신적, 정치적 장악임을 계속 얘기하고 2부 역시 어떤 위험인지를 좀 더 구체적으로 따집니다. 논지를 재차 강조하다 보니 레퍼런스가 좀 방대한 거 아닌가 싶은 생각이 들기도?;;

영화 <Leave the World Behind> 중. 자율주행차들이 자살하듯 처박히는 장면

여하튼 들어가 보겠습니다.

7. 집요하게: 네트워크는 항상 켜져 있다

인간은 감시받는 것에 익숙하다.

가족, 친구, 이웃은 우리가 뭘 하는지, 기분이 어떤지 늘 알고 싶어 했고 우리는 타인이 나를 어떻게 보고 나에 대해 무엇을 알고 있는지 늘 신경 썼다.

중앙 집중화된 관료적 네트워크가 등장했을 때, 관료의 가장 중요한 역할 중 하나는 국민 전체를 감시하는 것이었다. 진나라의 관료들은 백성이 세금을 내는지 반역을 모의하는지 알고 싶어 했고 가톨릭교회는 신자들이 십일조를 내는지 자위를 하는지 알고 싶어 했다.

통치자, 성직자, 상인은 우리를 통제하고 조종하기 위해 우리의 비밀을 알고 싶어 했다.

물론 유익한 서비스를 제공하기 위해서도 감시가 필요하다. 예를 들면 의료 혜택이 절실하고 기초 생활비가 필요한 사람들. 복지 관료들은 그런 사람들의 정보를 파악해 도움을 줄 것이다. 이럴 때는 감시라기보다 '관심'으로 표현될 테고.

여하튼 고대 중국부터 현대 미국에 이르기까지 제국, 교회, 기업, 의료 제도는 수백만 명의 행동에 대한 데이터를 수집하고 분석했다.

짐작하겠지만 히틀러의 독일, 스탈린의 소련, 루마니아에서 세워진 스탈린주의 모방 정권에서는 더 했다. 루마니아 최초의 컴퓨터 과학자 중 한 명인 이오시페스쿠는 비밀경찰 세쿠리타테 요원에게 일거수일투족을 감시당했고 그것은 루마니아 공산주의 정권이 붕괴할 때까지 13년 동안 계속되었다.

하지만 허점이 있었다. 그 감시 일지를 검토하고 분석하는 방법은 불가능에 가까웠다. 기록 보관소에 보관된 세부 보고들은 대게 읽히지 않은 채 방치되었다. 그리고 무엇보다 이오시페스쿠의 머릿속까지 들여다볼 수는 없는 일이었다.

하지만 2024년 우리는 도처에 깔린 컴퓨터 네트워크가 전 세계 인구를 하루 24시간 따라다니며 감시할 수 있는 시대를 맞이하고 있다. 이 네트워크는 수백만 명이 인간 요원들을 훈련시킬 필요가 없다. 시민들이 자발적으로 이 요원들에게 대가를 지불하며 가는 곳마다 데리고 다니기까지 하니까.

일자리를 찾거나 기차표를 사거나 처방전을 받는 일상 속에서 우리는 컴퓨터 네트워크와 끊임없이 상호작용한다. 게다가 거의 모든 금융거래, 사회적 혹은 정치적 거래의 중심에도 이제 컴퓨터가 있다.

더 중요한 사실은 그 데이터의 바다에서 패턴을 찾아내는 능력에서 알고리즘은 인간을 훨씬 능가한다는 것이다. 물론 어마어마한 긍정적 잠재력이 있다. 질병과 전염병을 파악하려는 의료진에게 큰 도움이 되고 가족들에게 학대받는 어린이를 찾아내주기도 한다. AI 혁명을 주도하는 기업가들이 충분히 이런 장밋빛 전망을 제시하고 있기 때문에 나는 더 불길한 잠재력에 주목함으로써 비전에 균형을 맞추고자 한다.

이 디지털 요원은 하루 24시간 근무할 수 있고 언제 어디서든 우리를 감시하며 우리와 상호작용할 수 있다. 하루 종일 우리를 따라다니며 일거수일투족을 감시하고 분석 또한 가능하다. 무섭지 않나?

뿐만 아니라 우리 몸 안에서 일어나는 일까지 지켜볼지도 모른다. 예를 들면 안구 추적.

2024년에는 일론 머스크의 뉴럴링크에서 인간에게 최초로 두뇌 칩을 이식했다. 그래서 전신마비 환자가 그 칩을 이식받고 생각만으로 컴퓨터를 움직여 게임을 하는 모습도 보였다. 이에 전문가들은 두뇌 활동을 추출한다는 것은 우리의 생각, 믿음, 감정에까지 접근할 수 있는 것이기에 사생활 침해가 우려되는 점이라고도 했다.(뇌에 ‘머스크 칩’ 심은 전신마비 환자 1년 후 근황... “게임 즐기며 새 삶”)

허나 하라리는 그것이 그리 쉽지는 않을 것이라고 얘기한다. 신체 활동을 몸 밖에서 정확하게 모니터링하기는 쉬운 일이 아니고 몸에 이식하는 것 자체가 위험하고 비용도 많이 들며 비효율적. 결정적으로 뇌 활동 같은 몸 안의 데이터를 토대로 정확한 정치적 견해를 유추해 낼 수 있는 생물학 지식이 아직 없다. 과학자들은 인간의 뇌는커녕 쥐의 뇌도 제대로 이해하지 못하고 있다. 따라서 인간의 뇌 안에서 일어나는 데이터 수집은 가능해도 그것을 해독하고 사용하려면 아직 갈 길은 멀었다고 본단다. 그래도 저런 기술적 접근과 의도는 경계 대상.

하지만 우리는 모두 스마트폰의 노예. 앉으나 서나 샤워를 하고 용변을 볼 때도 떼놓지 않는 스마트폰을 이용하는 것으로써 충분히 사생활은 무너져 내릴 수 있다.

정부 감시 네트워크는 일상적으로 전 국민의 생체 데이터를 수집한다. 국가에서 여권을 신청할 때 지문, 얼굴 스캔 등을 요구하고 전 세계 곳곳에는 CCTV 설치되어 있다.(23년에는 전 세계에 총 10억 대 이상의 CCTV 카메라가 작동하고 있었는데 이는 대략 여덟 명당 한 대꼴이라고 함)

게다가 요금 지불하고 예약을 하고 뉴스를 읽고 SNS에 사진을 올리는 등 모든 일상적인 활동은 온라인으로 기록된다. 정부가 특정 개인을 찾는 데는 시간이 그리 오래 걸리지 않는다는 말이다. 무슨 제이슨 본도 아닌데 말이다.

심지어 최근엔 얼굴 인식 알고리즘과 AI를 통한 기술로 중국에서는 20년 전 실종된 아이들을 찾아냈고(이거야 긍정적인 측면) 이란에서는 히잡을 제대로 쓰지 않거나 거부하는 여성들을 1만 9000명 넘게 체포했다.

요즘 보면 갖가지 상업 분야에 리뷰라는 시스템이 활성화되어 있고 그것이 구매에 지대한 영향을 끼친다. 평점을 매기고 사진을 올리는 등의 정보를 공유하는 유용한 시스템이 사실은 감시를 자연스럽게 만든다.(감시 자본주의라고 말하고 있음) 말하자면 고객의 기호, 직원들의 업무 태도가 의식 못하는 사이 당연시 노출되는 것이다.

그러하니.. 컴퓨터 네트워크의 가속도를 줄여야 한다는 것. 브레이크가 필요한 훨씬 더 중요한 이유는 네트워크를 바로잡을 기회를 갖기 위해서다.(...) 완전한 감시 시스템은 세상과 인간 존재에 대한 왜곡된 이해를 형성할 수 있다. 네트워크가 세상과 인간에 대한 진실을 발견하는 대신 자신의 막강한 힘을 이용해 새로운 종류의 세계 질서를 만들고 그것을 우리에게 강요할지도 모른다! 로 주장을 재차 반복한다.

다음 장은 컴퓨터의 오류를 다루고 있다. 핸들을 쥔자가 제정신이 아닌 경우 차는, 그 도로는 어떻게 되는가.

왜곡된 진실과 혐오 조장이 돈을 벌어들임으로써 미쳐 돌아가는 유튜버 정치와 그것을 방조하는 유튜브, 페이스북 등의 영향력 있는 IT 기업들에 대한 비판(을 넘어선 성토와 분노까지 느껴짐)이 이어진다.