알고리즘의 시대에 자아를 외치다
<21세기를 위한 21가지 제언>
by
Feb 5. 2020
에세이만 읽다 보면 가끔 이런 생각이 든다. 이렇게 가볍고 잘 넘어가는 책만 읽다간 바보가 되고 말 거야. 이제 두꺼운 책을 집어. 그렇게 야심차게 고른 유발 하라리의 3부작. 그중 <사피엔스>는 읽다 말았고 <호모 데우스>는 손도 안 댔지만, 이 책 <21세기를 위한 21가지 제언>은 아주 흥미롭게 읽었다. 석학의 분석에 연신 감탄해가며.
그의 미래 예측을 요약하자면 이렇다. 세계는 점점 더 편리해지고 있다. 우리는 지금보다 훨씬 더 깊숙하게 그 편의성에 빠질 것이다. 음악 취향에 맞게 플레이리스트를 제공하는 것은 물론, 가정의 AI 비서가 자동으로 식료품을 구입하고, 체내 센서가 건강 상태를 체크해 병원 스케줄을 조율하는 등 삶의 모든 부분에서 인공지능의 도움을 받을 것이다. 그런 생활에 취한 나머지 우리는 모든 판단을 인공지능에게 위탁해버릴지 모른다. 삶의 통제력을 빼앗기는지도 모르면서 천천히, 무의식적으로, 서비스를 제공하는 소수 기업에게 정보와 영혼을 함께 털리는 것이다. 탈탈.
이런 점에서 인간은 가축화한 다른 동물과 비슷하다. 우리는 온순한 젖소를 사육해서 엄청난 양의 우유를 생산하지만 이들은 다른 면에서 보면 야생 조상에 비해 훨씬 열등하다. 민첩하지도 않고 호기심도 떨어지고 기지도 모자란다. 우리는 지금 거대한 데이터 처리 메커니즘 안에서 막대한 양의 데이터를 생산하며, 아주 효율적인 칩으로 기능하는 길들여진 인간을 만들어내고 있다. (p.121)
지금 우리도 삶아지고 있는 중일까? 유튜브에 의해, 구글에 의해, 삼성페이에 의해.저자는 또 경고한다. 과거엔 토지가 곧 계급이었고, 지금은 자본이 곧 권력이지만, 미래엔 정보가 그 자리를 차지할 거라고. 세계의 불평등은 더욱 심화될 것이고 부의 집중은 더욱 확고해질 것이다. 대중들은 아주 은밀하고 교묘하게 착취당할 것이다. 착취당하는 사실조차 모르고 착취하는 주체를 옹호할 수도 있다. 알고리즘과 인공지능이라는 불가침의 영역을 선점한 소수 기업과 국가에 대항할 수 있는 방법은 사실상 없다. 흔히들 우려하는 '대량 실업'이나 '인간 대 로봇 사이의 전쟁'같은 개념보다 훨씬 더 커다란 위험이 우리 앞에 놓여있는 것이다.
오늘날 공상과학 소설의 최악의 잘못은 지능과 의식을 혼동하는 경향이 있다는 점이다. 그 결과 로봇과 인간 사이의 전쟁 가능성을 지나치게 우려한다. 사실 우리는 알고리즘으로 증강된 소수의 슈퍼휴먼 엘리트와 무력해진 다수 하위 계층의 호모 사피엔스 간의 갈등을 두려워해야 한다. (p.370)
공상과학 스릴러물은 불과 연기가 난무하는 극적인 종말론에 끌리지만, 현실에서 우리는 클릭에 이끌려 지극히 시시해 보이는 종말에 직면할 수 있다. 그런 결과를 피하려면 인공지능 개선에 투자하는 돈과 시간만큼, 인간 의식을 증진하는 데 돈과 시간을 투자하는 것이 현명하다. 불행히도 현재 우리는 인간 의식을 연구하고 개발하기 위해 하는 일은 별로 없다. 인간 능력을 연구하고 개발할 때조차 의식을 가진 존재로서 장기적 필요에 따르기보다 주로 경제와 정치 시스템의 즉각적인 필요에 좌우된다. (p.120-1)
그러면서 해결책으로 '깨어 있을 것'을 요구한다. 내가 누구인지, 내가 진정으로 원하는 바는 무엇인지에 대해 탐구하는 것을 멈추지 말라고 한다. 의미에 대해 끊임없이 사유하고 궁리하는 행위만이, 인간으로서의 통제력을 잃지 않는 길이라고 말한다. 즉, '인간다움'을 지켜내는 일이 우리를 살아 있게 할 것이다.
코카콜라나 아마존, 바이두 혹은 정부가 우리의 가슴에 연결된 조종끈을 당기고 뇌의 버튼을 누르는 법을 아는 상황에서, 어떤 것이 나 자신의 목소리이고 어떤 것이 시장 전문가가 주입한 내용인지 식별할 수 있을까? 그런 막중한 임무를 제대로 수행하려면 우리 자신의 운영 체계를 더 잘 알기 위해 아주 열심히 노력해야 할 것이다. 내가 누구인지, 내가 인생에서 바라는 것이 무엇인지를 알아야 한다. 물론 이것은 책에 나오는 가장 오래된 교훈이다. 너 자신을 알라. 수천 년 동안 철학자들과 선지자들은 사람들에게 자신을 알라고 촉구했다. 하지만 이 조언은 21세기에 와서 더없이 다급한 것이 되었다. (p.401-2)
