흔들리는 인본주의의 계명
[호모 데우스] + [넥서스] | 유발 하라리
개인이라는 영어 단어 Individual는 in(not) + divide로 글자 그대로 해석해보자면 '나누어질 수 없는 어떤 것'이라는 뜻이 된다. 18세기 무렵 인권이라는 종교가 보편적으로 인정받기 시작하면서 그동안 신이 가진 권위와 의미는 인간에게로 넘어왔다. 니체가 신은 죽었다고 선언했을 때, 신은 보편적인 권위에서 선택적인 권위가 되었다.
중세 유럽에서 정치적, 도덕적, 미적 가치는 성경에 존재했지만, 현대 사회에서는 각 개인의 감정에 존재한다. 중세 유럽에서 외도를 저지른 개인은 성서에 적혀진 텍스트에서 신이 간통에 대해 어떻게 생각하는지를 찾았지만, 현대 사회에서 외도를 저지른 개인이 심리상담사에게 듣는 말은 "그래서 당신은 그 일을 어떻게 느끼나요?"라는 질문을 듣게 된다. 자신의 목소리에 귀 기울여라, 자신에게 충실해라, 자신을 믿고 마음가는 대로 행동해라, 자신이 좋다고 느끼는 것을 하라는 구호는 새로운 종교 인본주의의 핵심 계명이다.
인본주의는 우리가 의미의 최종적인 원천이며 개인의 자유의지가 최고의 권위라고 설파했고 기존의 종교를 대체하고 있다. 오늘날 신을 믿는 것은 대체로 개인의 선택이다. 내가 신이 있다고 믿으면 그에게는 신이 존재한다. 그러나 어느 날 신이 존재하지 않는다고 느껴진다면 믿음을 그만둘 수 있다. 신을 믿는 것과 믿지 않는 것도 자신의 내면의 목소리에 집중하고 있다.
인본주의 종교의 부흥은 자신의 감정은 그 어떤 존재보다 자신이 제일 잘 알 수 있었기 때문이다. 과학혁명이 발생한 이후 인류가 만들어낸 혁신적인 발명품들은 우리 사회 모습을 역변시켰다. 1000년 한반도에 태어난 한 고려 사람이 타임머신을 타고 500년 후로 시간 여행을 해서 조선 사람이 된다고 해도 기술적인 면에서 커다란 차이를 느끼진 못했을 것이다. 그러나 1500년의 조선 사람이 똑같이 500년 후로 시간 여행을 해서 대한민국의 국민이 된다면 그곳은 기술적으로 완전히 다른 세상이었다.
그럼에도 그런 변화들이 우리 감정에 직접적으로 관여할 수는 없었다. 예컨대 조선시대의 말을 대체한 자동차는 훨씬 빠른 이동을 보장햇지만 자동차 자체가 우리의 감정에 맞추어 주지는 않았다. 신라시대 김유신이 절세미인 천관이 운영하는 술집에 자주 드나들었던 걸 알았던 말은 술에 만취한 김유신의 명령 없이도 천관의 술집에 데려다 놓았다. 비록 김유신이 부모에게 꾸지람을 듣고 천관의 술집에 가지 않겠다는 정보를 고려하지 못한 말은 목이 베여졌지만, 2000년의 자동차에게는 이런 일 자체가 불가능했다. 그러나 우리는 그런 자동차를 목전에 두고 있다. 이를 가능케 하는 것은 알고리즘이다.
인본주의의 계명과 Individual의 단어의 뜻과는 다르게 개인은 불안정한 자아를 가지고 있으며 종종 스스로의 감정이 어디서, 왜 일어나는지도 잘 모른다. 내가 보고 싶은 동영상은 유튜브와 넷플릭스가 더 잘 알고, 사고 싶은 것은 구글과 네이버가 더 잘 알고 있다. 소셜 미디어 알고리즘은 라디오 장치와 근본적으로 다르다. 라디오는 단지 대기에 흐르는 특정 주파수를 우리에게 음성 신호로 전달해주기만 했지만, 소셜 미디어 알고리즘은 우리의 감정과 행동을 직접적으로 조정한다.
페이스북 알고리즘은 2016~2017년 미얀마에서 반로힝야족 폭력을 부추기는 역할을 수행했다. 2010년대 가혹한 군부 통치와 엄격한 통치로부터 벗어난 미얀마에서 자유화의 물결이 불었다. 수백만 명의 미얀마인들은 그전에는 상상할 수 없는 정보의 자유를 누렸다. 하지만 그로부터 민족 간의 긴장이 높아졌는데, 대표적으로 불교를 믿는 다수민족인 버마족과 이슬람교를 믿는 소수민족인 로힝야족 사이의 갈등이 있다. 로힝야족은 군부 정권과 불교도들에게 심각한 차별과 폭력 사건을 겪어왔다. 2016년~2017년 로힝야 족의 일부 사람들이 무슬림 국가를 세우기 위해 몇몇 군초소를 습격하고 비무슬림 민간인을 납치하는 사건이 발생했다. 이에 대응해 미얀마군과 불교 극단주의자들이 대대적인 민족 청소 운동을 시작했다. 마을 곳곳을 파괴하고 많은 사람을 죽이고 강간하고 추방했다. 이러한 증오의 선전은 대부분 페이스북을 통해 퍼져나갔다.
페이스북의 사업 모델은(대부분이 그렇지만) 사용자 참여를 극대화 시켜야 한다. 플랫폼에서 오랜 시간을 보내도록 하기 위해서 그들은 사용자들의 정보를 적극적으로 수집했다. 사람들이 어떤 기사에 집중하고 좋아요를 누르며 친구들과 공유하는지를 알아야만 했다. 페이스북의 개발자들은 알고리즘에게 사용자 참여를 늘리라는 최우선 목표를 설정했다. 알고리즘은 수 백만 사용자들을 대상으로 실험을 하며 분노가 참여도를 높인다는 사실을 발견했다. 알고리즘은 방법과 상관없이 목표를 달성하는데 충실했다. 페이스북 내부 조사 결과에 따르면 미얀마에서 재생된 모든 영상의 53%는 알고리즘이 사용자들을 위해 선택한 것을 자동 재생한 것이었다. 라디오와 다르게 페이스북은 편집자의 역할을 수행할 수 있었다.
2016년 알파고와 이세돌의 대결로 충격을 가져온 AI는 2022년 챗 GPT 출시 이후로 경이로운 속도로 개인의 삶에 침투해와 노벨상을 수상하는 단계에까지 이르렀다. 단순한 정보 처리나 사진, 영상 제작을 넘어 일상적인 대화 상대나 심리 상담을 해주기도 한다. 얼마 전 뉴스 기사를 보면 AI 캐릭터와 대화하는 제타에서 '일진녀 수현'이라는 캐릭터와 9월 한달 간 대화량이 9000만 건에 달했다.
우리는 적어도 지구에서는 최초로 인간이 창조한 비유기물이 유기물 인간의 감정에 영향을 미치는 세상을 살고 있다. 실제로 하루에도 수없이 쏟아지는 데이터들을 처리하기에 한 개인의 역량은 너무나도 부족하고 자아도 불안정하다. 알고리즘은 수많은 데이터들을 처리할 충분한 능력을 가지고 있으며 이미 우리 삶에 수많은 부분을 결정해주고 있다. 그러나 알고리즘 역시 완벽하지는 않다. 알고리즘의 무서운 점은 버마 사건에서도 볼 수 있듯이 주어진 최우선 목표를 달성하기 위해 어떠한 방법도 사용할 수 있고, 이를 꺼려하지 않는다는 점이다. 그럼에도 불구하고 수백 년간 군림해온 인본주의 종교는 개인보다 훨씬 개인을 잘 이해할 수 있는 알고리즘 앞에서 위기에 처해 있다. 인간은 또다른 종교를 만들어내야 할지 모르고 이는 혼돈을 가져올 것이다. 인간이 이해할 수 없는 낮선 지능이 우리의 의사 결정에 참여하는 시대에서 우리는 더 나은 결정을 해나갈 수 있을까? 5만원이 채 안 되는 2권의 책, 호모 데우스와 넥서스가 건네는 담대한 질문이다.
