brunch

매거진 성장판 서평단

라이킷 3 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 미소해 Aug 26. 2019

나는 누구, 여긴 어디

가상은 현실이다 - 서평

우리가 살고 있는 현실에 대해 가끔은 모호한 불안을 느끼며, 가끔은 열광하며 트렌드에 따라가고 있었는데, 이 책은 그 모호함을 날카로운 어조로 명확하게 집어주었다. 이 책에 빠져들어 마지막 페이지까지 다 읽고 났을 때 너무나 현실 같은 그러나 디스토피아를 그린 SF 영화를 본듯한 기분이었다. 더 무서운 건 이게 현실이라는 것이다. 그래서인가, 아이와 안고 뽀뽀하고 이야기하며 노는 물리적 실제의 시간과 현실이 참 감사하게 느껴졌다. 동시에 가상화라는 현실의 반(反)은 결국 합(合)에 이르는 변증법의 과정이라고 생각하고 싶다.

아래는 책에서 발췌한 문장을 조합한 글이다.

소셜 미디어는 ‘현실’을, 인공지능은 ‘지능’을, 암호화폐는 ‘돈’을 가상화한다. 클라우드에 저장된 지구는 실재하는 지구의 사본인 동시에 지구를 처음부터 끝까지 설명할 수 있는 원본 파일이다. 인간의 기억은 이미지로, 대화는 메시지로 관계는 그래프로 변환되어 클라우드에 저장된다(p21). 인공 시각은 우리로 하여금 현실을 실재 자체가 아닌 가상과 결합된 합성-현실로서 인식하게 만든다. 육안으로는 볼 수 없는 오직 카메라로만 볼 수 있는 가상이 현실보다 비대해질지도 모른다(p31-32)

가상은 실재를 빨아들이며 발전한다. 실재를 집어삼킨 가상은 마치 독립된 생명체처럼 움직인다. 가상을 만들어낸 것은 인간이지만 가상에는 인간도 어찌할 수 없는 주체성이 있다(p8). 합성-현실 시대에 인류는 풀어본 적 없는 다양한 문제들을 마주하고 있다. 가상 현실의 설계자인 인간은 동시에 가상 세계의 포로가 되고 있다.

1장 가상의 삶

숫자로 관리되고 평가받는 삶

'가상의 나'는 실재하는 나보다 분명한 취향, 관심, 선호를 가진 존재다. 우리 모두는 가상에 존재하는 자신의 모습에 더욱 최적화되려 한다(p23). 삶을 공유하기 위해 인스타그램에 사진을 업로드한다는 것은 큰 착각이다. 오히려 우리는 인스타그램에 사진을 업로드하기 위해 삶을 기획하고 콘텐츠를 생산한다 (p52). 인스타그램은 순위화된 피드를 통해 현실이 이 인스타그램의 질서에 맞춰 바뀌도록 명령한다. 관심은 돈과 같이 되었다. 프라이버시를 포기할수록, 가장 깊은 프라이버시를 공개할수록 우리는 더 많은 관심을 받을 수 있고, 디지털 가치 서열을 결정하는 경쟁에서 우위에 설수 있다(p78).

https://m.blog.naver.com/daishin_blog/220994394007

현대인의 사회적 평판 역시 가상 자아의 평판과 연동되어 있다. 가상 자아의 팔로워 숫자, '좋아요' 숫자, 댓글 숫자, 그가 올린 포스팅의 공유 숫자는 곧 그의 영향력이나 사회적 위치를 뜻한다. 암묵적으로 우리는 '좋아요' 숫자가 크면 사회적 권위가 있다고 받아들인다. 1달러의 가치는 국가마다 다르지만 1 '좋아요'의 가치는 모든 곳에서 동일하다. 디지털에 존재하는 모든 것이 숫자로 표현 가능한 것처럼, 디지털 시대의 삶과 자아는 모두 수치화된다. 행복, 만족도, 스트레스, 불안까지도 체중처럼 관리할 수 있다는 가상 질서의 논리를 보여준다. 근본적으로 이것은 인간의 정신도 마치 소프트웨어처럼 수치로 통제 가능한 대상임을 전제한다(p96).

봇과 같은 인간

오늘날 인공지능의 발전 속도만큼 빠르게 진행되고 있는 것은 인간 집단의 단순화이다. 봇의 특징인 기계적 단순성, 집단적 사고와 행동, 자동반사적 반응은 소셜미디어 시대 인간에게서 두드러지는 패턴이다(p113-115). 인터넷은 선택할 필요가 없는 공간으로 바뀌고 있다. 모든 것이 자동으로 '추천'되기 때문이다. 추천을 따라갈수록 우리는 세상의 다른 면을 보는 것이 어려워지고 편향된 정보로 구축된 세계 속에 갇혀버린다. 현대인에게 개인화 알고리즘은 세상의 부분을 전체로 확대하여 받아들이게끔 한다. 균형 잡힌 사실을 접한 뒤에도 사람들은 신념을 바꾸지 않는다. 오늘날 모든 신념 집단에서 보이는 공통적인 태도다. 그들에겐 진실이 사실보다 더 옳기 때문이다(p131-133). 현실에서 상호 합의할 수 있는 영역은 앞으로도 급격히 줄어들 것이다(p36).

오늘날의 기술은 사용자들을 빠져들게 하고 묶어두는 것을 목표로 삼는다(p139). 제품을 사용할 때마다 뇌의 보상 경로를 활성화시켜 결국 제품에 중독되게 만든다. 예측 불가능한 가변적 보상을 제공하여 보상에 대한 기대 심리는 더욱 강화되고, 사람들은 보상을 위한 행동을 반복적으로 수행하게 된다. 현실로 빠져나온 뒤에도 우리는 가상 세계가 제공하는 보상 때문에 다시 가상으로 끌려 들어갈 것이다. 우리의 삶 자체가 가상으로 옮겨질 것이다(p145). 가장 마지막까지 가상화되지 않고 실재의 여분으로 남는 것은 바로 우리 자신의 신체일 것이다. 그러나 인간 자체가 가상화가 되면 현실에서 인간은 사라지고 지구는 텅 빈 공간이 될 것이다(p338).

2장 가상의 뇌

인간의 지위는

http://www.sisajournal-e.com/news/userArticlePhoto.html

역설적이게도 철학을 전혀 의도하지 않는 순수한 기술이 역사상 인류에게 가장 철학적인 질문을 던질 것이다. 지능은 인간만이 가졌던 정체성의 근간이자 인간이 지구의 지배자로 군림해올 수 있었던 힘의 원천이었다. 인공 지능은 이 지능을 디코딩함으로써 지능을 컴퓨터도 갖게 했다. 인간이 누리던 유일함이 사라진 것이다. 기계 지능과 인간 지능 사이의 큰 차이점은 의식의 유무다. 하지만 의식 없는 지능이 더 열등한 지능을 뜻하지 않는다. 역설적으로 의식이 없기 때문에 알파고는 인간보다 자유로운 사고를 수행할 수 있다. 기계 지능이 특정 영역에서 인간보다 우월해진 것은 바로 스스로 학습해 인간이 생각하지 못했던 영역까지 사고하는 초월적 사고 능력 때문이다. 우리가 창의성이라고 부르는 것 역시 오직 인간만이 가능한 규칙을 깨는 임의성이 아니라 일정한 방식의 패턴 왜곡이라면 기계는 오히려 인간보다 더욱 다양한 형태의 창의성을 보여줄 수도 있을 것이다(p197)

가상화는 인간의 자리를 빼앗는다.

http://biz.chosun.com/site/data/html_dir/2018/10/29/2018102903021.html

가상화는 디지털 세계에서만 일어나지 않고 물리적 현실에 걸쳐 일어난다. 현실 세계는 소프트웨어가 설계되는 방식대로 기업이 운영되고, 노동이 편성되며, 도시가 설계된다. 아마존 고는 인간 노동을 자동화했다기보다는, 인간 노동이 개입될 여지 자체를 완전히 없애버렸다(p37-38). 우리는 기술로부터 편익을 얻는 사용자인 한편, 기술을 강화시켜주는 노동자다. 인간이 하는 노동은 기계를 학습시켜 결국엔 자신을 해고시킬 것이다(p 45). 더 나은 세상, 편리한 생활, 소비자 이익, 업무 효율화, 노동으로부터의 해방과 같은 약속으로 포장되는 알고리즘 강화 활동은 결국 인간의 노동할 위치를 아예 뺏고 있다는 것이다.

실재가 스스로에 대한 주권을 포기함과 동시에 주권을 가상에 양도하는 것이다. 감시는 인간이 아닌 기계가 수행하고 처벌은 자동화된다. 많은 예측 알고리즘이 그렇듯 과거 데이터를 기반으로 미래를 추정하는 것이기 때문에 알고리즘은 과거 데이터에 담긴 편향을 그대로 학습한다. 문제는 알고리즘에 대해 우리가 교정을 요구하기 어렵다는 것이다. 기계의 인종차별은 명확하게 규정하기 어렵고 내린 결정은 최적화된 기계의 판단으로 받아들여진다. 의사결정은 토론의 비효율성을 제거한 알고리즘에 의해 대체된다. 민주적 숙의는 데이터 기반의 학습에 패배할지도 모른다(p41).

3장 가상의 돈

인공지능이 수학일 뿐이지만 지능과 존재에 대한 철학적인 질문을 던지는 것처럼 블록체인 역시 혁명을 의도하지 않았지만 혁명적인 기술이다. 비트코인은 장부를 만들어내는 데 국가도 은행도 필요로 하지 않고 오직 컴퓨터 네트워크와 거래를 원하는 개인들만 필요하다. 데이터가 돈이라면 데이터 보관하는 플랫폼은 은행과 같다. "돈을 은행이 독점해도 되는가"에 이어 "개인 데이터를 디지털 플랫폼이 독점해도 되는가"라는 질문은 21세기를 관통하는 가장 논쟁적인 질문이 될 것이다.

http://cointoday.co.kr/coins/bitcoin/27347/

현대에 이르러 돈의 물리적 신체는 빠르게 증발되고 있다. 비트코인은 돈의 역사상 최초로 아무런 물리적 실체를 갖지 않는 순수하게 가상화된 통화다(p288-289). 근대에 이르러 돈은 반드시 국가가 허용한 장부에만 기록되었다. 비트코인은 새로운 장부를 만들어내는 혁명이다. 비트코인이 기반을 둔 블록체인은 국가가 통제하는 '중앙화 장부'와 정면으로 반대되는 '분산화 장부' 기술이다(p 296-297).

'현금 없는 사회'란 결국 사생활 없는 사회다. 기계의 감시란 결국 데이터 감시다. 데이터의 형태로 표현된다면 기계는 어떤 대상이든 감시할 수 있다. 모든 거래가 데이터로 남는다면 정부가 개인을 통제하거나 억압하는 일이 가능해질 수도 있다. 비트코인은 현금 없는 사회에서 디지털 현금 역할을 할 것이다. 비트코인은 윤리적인 물음들을 뒤로하고 거래들을 바로 가능하게 만들어버린다. 디지털상에서 안전한 익명 거래를 가능하게 하는 비트코인은 윤리적 논란에 대응하거나 답변하지 않는다. 이것은 인류 역사상 가장 급진적인 형태의 자유주의다. "소프트웨어 아키텍처는 메시지다" 기술이 구현된 방식은 그 자체로 메시지를 담는다. 비트코인은 '코드로 짠 자유주의'다. 비트코인은 표현의 자유를 위한 마지막 피난처다.

이 책을 읽고 나니 더더욱 매트릭스 영화는 예언서 같다. 다시 봐야겠다.

keyword