인류라는 종의 미래
[책을 읽고] 유발 하라리, <21세기를 위한 21가지 제언> (2)
3장은 자유에 관한 이야기다. 전체주의와 공산주의를 누르고 왕좌에 앉은 자유주의는 과연 최종 해답인가?
나는 자유주의라는 것이 존재하지 않는다고 생각하는 사람이다. 자유권이 이미 기본권으로 확립된 시대에 태어난 사람으로서 그렇지 않았던 시대에 관한 기억이 전혀 없는 사람의 무지몽매함이라 볼 만하다.
그러나 자유주의란 무엇인가? "정치 체제가 없음"과 자유주의가 과연 다른가? "경제 체제가 없음"이 자본주의라 불리듯, 자유주의 역시 무체제에 대한 호칭이 아닐까?
“차라리 아인슈타인이 대수학을 맞게 풀었는지 결정하기 위해 국민투표를 실시하거나, 조종사가 어느 활주로에 착륙해야 할지를 두고 승객에게 투표하게 하는 것이 낫겠다.” (68쪽)
브렉시트 국민투표에 관해 리처드 도킨스가 한 말이다.
이상적인 세계에서 투표는 <생각>을 묻겠지만, 현실에서 투표는 <느낌>, 다시 말해 <호불호>를 반영할 뿐이다. 여기에서 또다시 하라리의 생각의 깊이가 번뜩인다. 기술의 발전으로 느낌은 머지 않은 미래에 조작될 것이기 때문이다. 물론 광고와 SNS가 이미 그런 일을 하고 있지만, 인공지능이 알아낸 인간 의식의 비밀을 이용하면, 그 조작은 훨씬 더 정교하고 정확해질 것이다.
소비자는 자신이 뭘 원하는지 모른다고 스티브 잡스가 말했다. 이제 대기업 마케팅 팀이 아니라 AI가 우리의 선호를 알아내고, 욕구를 충족할 것이다.
권위가 인간에게서 알고리즘으로 이동함에 따라, 우리는 더 이상 세계를 자율적인 개인들이 올바른 선택을 하기 위해 분투하는 장으로 보지 않게 될 수도 있다. 그 대신 온 우주를 데이터의 흐름으로, 생화학적 알고리즘과 다름없는 유기체로 보고, 인간의 우주적 소명이란 모든 것을 포괄하는 데이터 처리 시스템을 만든 다음 그 속으로 통합되는 것이라고 믿을 수도 있다. 이미 지금 우리는 그 전모를 진정으로 이해하는 사람이 아무도 없는 거대한 데이터 처리 시스템 속의 작은 칩이 되어가고 있다. (80쪽)
이는 하라리가 전작 <호모 데우스>의 결론으로 제시한 미래다. 그러나, 인간은 하나의 부품 같은 지위로 격하될 수도 있다. 아니, 더 적나라하게 말하자면 인공지능의 가축이 될 수도 있다.
이런 점에서 인간은 가축화한 다른 동물과 비슷하다. 우리는 온순한 젖소를 사육해서 엄청난 양의 우유를 생산하지만 이들은 다른 면에서 보면 야생 조상에 비해 훨씬 열등하다. 민첩하지도 않고 호기심도 떨어지고 기지도 모자란다. 우리는 지금 거대한 데이터 처리 메커니즘 안에서 막대한 양의 데이터를 생산하며, 아주 효율적인 칩으로 기능하는 길들여진 인간을 만들어내고 있다. 하지만 이 데이터-젖소는 좀처럼 인간적인 잠재력을 극대화할 줄은 모른다. 실제로 우리는 완전한 인간적 잠재력이 무엇인지 모른다. 왜냐하면 인간 정신에 관해서는 아는 것이 너무나 적기 때문이다. 그럼에도 우리는 인간 정신을 탐구하는 데는 별로 투자를 하지 않는다. (96쪽)
나는 배부른 돼지와 배고픈 소크라테스에 관한 밀의 허접한 비유에는 공감하지 않지만, 아무리 그래도 이런 미래는 너무 암울하지 않나. SNS 클릭하는 기계는 되지 말자.
다시 말하지만, 효율적인 것이 좋은 것이라는 보장은 어디에도 없다. 애덤 커티스(Adam Curtis)가 말하는 과정상화(Hypernormalisation)는 정상이 아니지만 효율적인 것이 어느덧 정상을 대체해버린 현실을 비판하는 용어다.
https://www.youtube.com/watch?v=Gr7T07WfIhM
인공지능을 활용하면 인간이 하는 거의 모든 것들을 더 효율적으로 만들 수 있다. 그러나 그것이 더 좋은 것인지는 생각해볼 문제다.
인간은 법과 규칙을 만들었지만 그것이 언제나 지켜지지는 않는다. 그리고 이것이 다행인 경우도 있다. 법과 규칙이 잘못 만들어졌을 때다. 인공지능에 의한 일률적 집행은 그런 "실수"를 허용하지 않을 것이다.
동성애와 신성모독을 처벌하는 법이 부분적으로만 시행된 것만 해도 극도로 운이 좋은 경우였다. 우리는 오류를 면치 못하는 정치인들의 결정이 중력처럼 가차없이 실행되는 체제를 진정으로 바라는가? (86쪽)
***계속***
https://brunch.co.kr/@junatul/1271
