AI에 사고와 판단을 맡겨버린 인류
해결 방안은 무엇일까?
1948년 조지 오웰이 발표한 소설 <1984>는 오늘날 시대를 그대로 예견하고 있다. 오웰의 <1984>에는 그 유명한 빅 브라더(Big Brother)가 나온다. 미래 정부는 빅 브라더를 이용해 모든 국민을 감시하고, 개인의 생각과 행동을 통제한다. 이 소설이 놀라운 점은 오늘날 인공지능과 빅데이터 기술을 통해 실현 가능한 무한 감시 시스템을 예견했다는 것이고, 더 놀라운 점은 그 시기가 1948년이라는 점이다. 1948년에 벌어진 또 다른 인공지능 관련 사건들은 아래 글에 정리되어 있다.
감시 자본주의를 강화해 가는 인공지능
조지 오웰의 디스토피아적 미래 예견은 하버드 비즈니스 스쿨 명예교수인 쇼샤나 주보프(Shoshana Zuboff)가 제시한 '감시 자본주의' 개념과 놀랍도록 맞아떨어진다. 주보프는 그녀의 저서 <감시 자본주의 시대>를 통해 현대 사회가 디지털 기술을 통해 어떻게 감시되고 통제되는지 심도 있게 분석하고 있다.
주보프는 감시 자본주의를 "인류 역사상 전례 없는 부와 지식, 권력의 집중으로 특징 지어지는 자본주의의 불량한 돌연변이"라고 정의한다. 쉽게 얘기해서 우리가 디지털 기기를 사용해 축적한 온라인 경험이 데이터화되어 상업적 착취를 위해 사용되며, 우리의 행동을 수정하고 통제하는 데까지 이어진다는 것이 그녀의 주장이다.
우리는 늘 스마트폰을 손에 쥐고 살아간다. 그뿐인가? 컴퓨터와 노트북, 스마트워치, 소셜 미디어, 스마트 홈 도구 등 다양한 기기를 통해 우리의 생활은 사소한 것 하나까지 기록된다. 좋게 말해서 기록이지, 감시라고 볼 수도 있다. 감시로 만들어진 데이터를 통해 빅테크 기업은 우리의 행동을 예측하는 제품을 만든다. 주보프는 이러한 상호작용의 부산물을 '행동잉여'라 부르며, 이는 인공지능에 의해 분석되어 우리의 생각과 행동을 예측하는 데 사용된다.
데이터와 인공지능만으로도 우리는 충분히 감시당하고 있는데, 더 무서운 도구가 아직 하나 남아있다. 바로 '소셜 네트워크'이다. MIT 미디어 랩의 저명한 컴퓨터 과학자, 알렉스 펜트랜드(Alex Pentland) 교수는 인간의 행동이 사회적 맥락에 의해 결정된다고 주장한다. 즉, 우리의 행동이 소셜 네트워크에 의해 지배된다는 것이 그의 주장이다.
우리가 자주 접하는 정보와 사회적 연결이 우리의 생각과 행동에 큰 영향을 미친다는 것을 우리는 인지하고 있다. 늘 접하는 페이스북의 정보는 우리의 사상을 알게 모르게 편향적으로 몰고 가며, 추천 알고리즘에 뜬 유튜브 영상은 진실이 확인되지 않은 왜곡된 정보를 심어준다. 이를 이용해 특정 행동을 유도하거나 특정 생각을 주입하는 세력이 실제 존재함을 우리는 이미 알고 있다. 재밌어서, 혹은 귀찮아서 그들이 던져주는 정보를 아무 생각 없이 받아들일 뿐이다.
자율적 사고를 포기하는 인류?
우리의 일상을 돌아보자. 아무 생각 없이 유튜브에 접속해서, 추천해 주는 영상을 본다. 내가 이전에 봤던 영상을 기반으로 하기에 나의 취향에 맞고, 정치 성향과도 맞는 영상들이다. 유튜브를 멍하니 보다, 인스타그램에 접속한다. 역시나 인스타그램이 추천해 주는 친구를 팔로잉하거나, 추천 릴스를 휙휙 넘겨가면서 보게 된다. 그리고 쿠팡에 접속해서는, 살 필요가 전혀 없는 추천 제품을 구매하고 있다. 오늘 바로 도착한다고 좋아하면서 말이다.
이처럼 오늘날 많은 사람들은 스스로 생각하는 귀찮은 일을 포기하고, 빅테크 기업이 만든 알고리즘의 안내를 받아 살아가고 있다. 인공지능이 만든 알고리즘이라는 덫에 빠져, 챔버(chamber)에 갇혀 있는 것이다. 비슷한 취향의 사람들끼리 모여 서로의 콘텐츠를 소비해 가며, 세상의 전부인 양 살아가고 있다.
더 큰 문제는 우리가 착취당한다는 사실을 모른다는 점이다. 우리는 상업적 이익을 추구하기 위해, 우리를 대신해 생각하고 정보를 추출하는 저 거대한 인공지능의 작은 부분이 되고 있다. 자율적으로 사고하지 않고, 인공지능의 사고를 따라가고 있다. 우리의 의사 결정은 이미 인공지능이 대신해주고 있다.
인간의 독립적 사고는 점점 어려워지고 있으며,
자율적 판단능력 역시 약화되고 있다.
해결 방안은 무엇일까?
<AI 시대 정치이론>을 쓴 마티아스 리스, 하버드 케네디 스쿨 교수는 칸트에게서 답을 찾고 있다. 감시가 만연한 디지털 시대인 오늘날은, 칸트가 얘기하는 지적 성숙이라는 이상이라는 꿈을 달성하기 힘들다는 것이 그의 견해이다. 인간이 독립성을 가지면서 동시에 사회에 기여하는 존재가 되기 힘들다는 말이다.
칸트는 1784년 쓴 그의 에세이 <계몽이란 무엇인가?>를 통해, 지배를 극복하는 데 있어 이성을 행사하는 것이 중요하다고 밝히고 있다. 생각하는 사람일수록 강압적인 지배에 당하지 않으며, 순응하는 사람일수록 권력에 굴복한다. 즉, 스스로 생각하는 시민이야말로 지배에서 벗어나 지적 성숙이라는 단계로 나아갈 수 있다는 것이다.
칸트의 견해를 빌려 내놓은 해결책은 이상적이다. 스스로 생각해서 이성을 행사하면 인공지능의 감시에서 벗어날 수 있다. 하지만 이미 우리의 뇌는 물리적으로 스스로 생각하는 능력을 잃어가고 있다. 그렇다면 보다 현실적인 해결책은 무엇일까?
리스는 공적인 방법으로 감시 자본주의에 맞서자고 주장한다. 시민적 가치를 중심으로 설계된 규범을 통해 디지털 공간에서 공공 및 시민 생활에 참여할 수 있는 디지털 공공 인프라를 확충하자는 것이 그의 견해이다. 또한, 업무의 영역을 변화시켜 일반인들이 더 의미 있는 삶을 살 수 있도록 여가 시간을 늘리자는 방안도 제시한다. 정부의 역할을 강조하며 규제 방안을 만들어 줄 것을 요구하기도 한다.
그리고 마지막으로 툭 던지는 그의 해결 방안
"빅테크 기업을 해체하자"
마냥 허황된 이야기만은 아닌 리스 교수의 주장 (출처 : SBS Biz)