기계의 진보, 인간의 퇴보?
AI 시대의 인간 주체성
[편집자 주] 작년 10월 말 중앙대 인문콘텐츠연구소 의뢰로 쓴 글이다. 지난 2월 말 웹에 발행된 사실을 어제 알았다. 그 사이 사회 현실에도 내 앎의 내용에도 이런저런 변화가 있었다. 하지만 기본적인 생각의 줄기에는 큰 변화가 없다. 그대로 수록한다.
기계의 진보, 인간의 퇴보?
요즘은 길에서 걸어가면서도 스마트폰을 들여다보는 사람과 종종 마주친다. 지하철 안의 풍경이야 더 말할 것도 없다. 대개는 게임이나 웹툰, 포털 뉴스, 드라마나 갖가지 동영상, 소셜 미디어나 쇼핑 사이트 같은 것들이다. 이제 사람들은 폰에 시선을 두고 있지 않으면 뭘 해야 할지도 몰라하는 것도 같다. 중독이다.
중국 인류학자 샹바오는 현대 사회의 특징을 ‘부근의 소실’에서 찾는다. 개인들은 자기 자신(의 눈앞의 이익과 관심사)에 대한 과몰입과 국가나 세계 차원의 대형 사건에 대한 거창한 논평만 오갈 뿐, 자기 주변은 잘 돌아보지 않는다는 이야기다. 그 배경에는 모든 중간 ‘마찰’을 장애물로 보는 플랫폼 경제가 있다. 사람들은 누구나 손에 쥔 폰에 탑재된 소셜미디어나 각종 앱으로 쉽게 연결된다. 이 과정에서 자기 부근의 여러 층위의 감각들은 잊게 된다. 신체로 직접 감지할 수 있었던 물리적 ‘부근’이 데이터화된 ‘부근’으로 바뀐 결과다.
시간 감각도 바뀌었다. 이제 사람들은 5분도 잘 못 기다린다. 어디서나 즉각성을 추구한다. 시간은 점점 추상화했고 신체감각과는 분리되었다. 사람들이 원하는 것은 ‘지금, 바로, 스크린 안의 것’이다. 여기에 시간을 필요로 하는 인간의 상호 신뢰가 쌓일 만한 관계는 자리 잡지 못한다. 즉각적으로 생겼다 사라질 일회성 거래(대개는 소비)만 있을 뿐이다. 사람들은 이제 서로에게 ‘예의 바른 무관심’을 유지할 뿐 진심 신뢰하는 것은 자동화된 시스템이다. 이 흐름에 장애가 일어날 때 문득 분노할 뿐이다.
AI 시대 인간 주체성
인공지능 분야의 석학인 스튜어트 러셀 UC버클리 교수가 2021년 BBC 리스 강연에서 주제로 삼은 것도 ‘AI와 살아가기’였다. 그중에서도 그가 가장 심각하게 우려한 것은 AI 기술에 대한 인간의 제어력 문제다. 그에 따르면 앞으로 머신러닝을 통해 위력을 더해갈 AI의 위험은 ‘초지능’이나 ‘의식’의 출현이라기보다 가공할 수행 능력에 있다. 주어진 목적이 무엇이든 그것을 달성해 내는 능력이 너무나 강력할 것이기에 오히려 예기치 못한 위험을 초래할 수 있다는 것이다. 앨런 튜링도 1951년 강연에서 “사고하는 기계가 일단 작동되면 인간의 미약한 능력을 앞지르는 데 오래 걸리지 않을 것이다. (중략) 따라서 어느 단계에 이르면 기계를 통제해야 한다.”라고 말했다. 사이버네틱스의 창안자인 노버트 위너도 기념비적인 저서 <인간의 인간적 활용> 1950년 초판에서 “기계 관리자machine a gouverner에게 의존하는 위협적인 신파시즘”을 경고한 바 있다.
인간의 기계 의존이 초래할 디스토피아를 그린 소설로 E. M. 포스터의 <기계는 멈춘다>가 있다. 여기서 ‘기계’는 모든 인간의 필요를 ‘최적화’해 충족시켜 주는 범용 AI 시스템으로 그려진다. 1909년에 발표된 이 단편 소설에는 이미 지금의 인터넷이며 이메일, 화상회의, 태블릿 PC, 온라인 대중 강의, 대면 접촉 기피 같은 현상들이 예언처럼 그려져 있다. 작중 인물은 이런 말을 한다. “‘기계’는 우리를 먹여 주고 재워 주고 입혀 줍니다. 그것을 통해 우리는 서로에게 말을 걸고, 그것을 통해 우리는 서로를 만나보고, 그것을 통해 우리는 존재를 갖게 됩니다.”
이곳에서 인간은 거의 모든 것을 기계에 의존하지만 기계가 어떻게 작동하는지는 모른다. 어려움에 처할 때마다 (“신이시여, 신이시여”가 아니라) “기계여, 기계여”라고 외친다. “해가 갈수록 기계의 효율성은 높아졌고 인간의 지능은 감소되었다. 인간은 기계에 대한 자신의 의무를 더 잘 알게 될수록 이웃들의 의무에 대해서는 점점 더 모르게 되었고, 온 세상에서 기계 전체를 이해하는 사람은 아무도 없었다. 그런 대가급의 두뇌는 모두 죽었다. 물론 대가들은 자세한 지시 사항을 남겨 놓았으나 그 후계자들은 지시사항의 부분만을 습득했다. 게다가 인간은 한없는 안락함을 추구한 나머지 도를 지나치고 말았다. 또 자연의 풍부한 자원을 착취했다. 인간은 자기도 모르게 서서히 타락하기 시작했고 진보는 곧 ‘기계’의 진보를 의미하게 되었다.”
러셀은 이 소설에서 두 가지 교훈을 끌어낸다. 하나는 우리가 문명의 경영을 기계에 넘겨줌에 따라 우리 스스로 경영하는 능력을 잃어간다는 것과 다음 세대는 그런 능력을 굳이 배울 동기마저 잃게 될 수 있다는 것이다. 오랫동안 세대 간 학습의 전달을 통해 지금의 문명을 이룬 인류가 학습의 필요성을 느끼지 못할 때 무슨 일이 일어날까? 더 중대한 교훈은 기계에 의존하는 대가로 인간은 자율성을 잃을 수 있다는 사실이다. 그는 역설한다. “자율성은 근본적인 인간의 가치다. 아무리 선의의 AI 시스템이라 해도 인간의 자율성 상실을 대가로 한 것이라면 최선의 미래는 보장할 수 없다. 인류가 자유의지라는 필수적인 환상을 가지고 살아가기 위해서는 우리가 어떻게 행동할지 예측하는 힘의 사용을 금지해야만 할지 모른다.”
일상 속 주의 침탈
AI에 대한 통제력 확보는 러셀 같은 이 분야 전문가들뿐만 아니라 인류 모두가 함께 풀어가야 할 중대 숙제다. 당장 현실적으로 더 다급해 보이는 것은 일반 시민의 일상적 주체성의 약화 문제다. 이미 인공지능은 여러 테크 기업들을 통해 우리 삶에 깊숙이 개입하기 시작했다. 이들의 관심사는 오직 인간을 감각적인 소비자로 수동적으로 길들이는 것이다.
여기에는 주의 분산의 문제가 자리 잡고 있다. 1978년 의사결정 모델 이론으로 노벨 경제학상을 받은 허버트 사이먼은 정보가 넘치는 세상에서 희소 자원은 인간의 주의가 된다고 말했다. 지금 테크 기업들은 사람들의 주의를 뺏고 잡아두기 위한 경쟁에 사활을 걸고 있다. 모두가 광고 수익 때문이다. 구글 전략가로 일하다 기업의 방향에 환멸을 느껴 옥스퍼드대에서 기술철학을 연구한 제임스 윌리엄스는 저서 <나의 빛을 가리지 말라>에서 이런 내막을 소상히 폭로한다. 오늘날 세계 최고의 소프트웨어 엔지니어와 설계자, 분석가, 통계학자들이 사람들의 생각과 행동을 원하는 방향으로 길들이는 데 막대한 시간과 자원을 투입하고 있다.
이들에 의한 주의 포획의 차원은 보통 사람의 상상을 초월한다. 주의 뺏기 경쟁과 사용자 설득 기술은 궁극적으로 의지의 조작이라는 단계까지 간다. 우리의 일상은 점점 더 작고, 빠르고, 흔하고, 지능적이고, 매력적인 디지털 주의력 경제의 진입점에 의해 중재되고 안내된다. 편리하고 똑똑한 AI 비서가 구현될수록 그 시스템의 논리와 가치는 점점 인식의 표면 아래 자동화 층으로 들어가고, 사용자는 그 사실을 인식하기 어려워질 것이다. 지금 정확히 그 방향으로 인공지능은 거침없이 질주하고 있다. 개인은 그것이 주는 편리와 즉각성에 저항하지 못하고, 기업과 정부는 경쟁의 우위를 포기하지 못한다.
그 결과는 개인과 공동체 모두에게 치명적이다. 주의 상실은 자유의지의 침식으로 귀결된다. 인간에게 주의란 당장 눈앞의 문제에만 관계된 것이 아니다. 삶 전체를 항해하는 방식에 관한 것이다. 인간 삶의 모든 단계에 걸쳐 목표와 가치를 설정하고 지향하게 해주는, 즉 ‘우리가 원하는 것을 원하도록 해주는’ 일련의 근본 역량이다. 주의는 민주주의를 위한 필수 역량이자 토대이기도 하다. 개인의 주의 약화는 공동체의 신경망 손실과 같다. 주의 분산은 집단적 차원의 정체성을 갈라놓는다. 이는 집단적 아크라시아akrasia(아리스토텔레스가 말한 의지박약)로 이어질 수 있다. 철학자 찰스 테일러는 “사람들은 공동의 목적을 세우고 이를 추구하는 능력을 점차 상실하고 있다”라고 말한다.
인문학적 성찰의 힘
결국 우리가 기댈 것은 인간 특유의 성찰의 힘이다. 인지과학자 스티븐 M. 플레밍은 소크라테스의 지혜를 인지과학적으로 구명한 저서 <나 자신을 알라>에서 인간의 인지 능력의 특징은 메타적 특성에 있음을 보여준다. 우리는 무엇에 대해 생각할 뿐만 아니라, 생각에 대한 생각(에 대한 생각에 대한... 생각)을 이어갈 수 있다. 이런 중층적 사고 능력의 발판이 깊이 읽기, 심층 문해력이다. 말에서 글로 넘어오면서 인류는 문명의 비약적 발전을 시작할 수 있었다. 덕분에 인간은 자연 진화의 단계를 넘어 문화적 진화의 도로를 질주할 수 있었다고 대니얼 데닛은 <박테리아에서 바흐, 다시 박테리아로>에서 설명한다.
그러나 책 말미에 이런 경고를 덧붙인다. “노동을 줄여주는 뛰어난 발명품에 지나치게 의존하게 된 나머지 우리는 과도하게 문명화되고 있으며, 지성적 설계의 시대를 지나 그다음 시대로 접어들고 있다는 불안한 징후들이 몇 가지 있다.” 우리는 어느새 선택과 결정의 권위를 인간에게서 기계로 넘겨주기 시작한 것이다. 지능적 기계에 점점 더 의존함으로써 우리는 스스로 하향평준화하고 있다. 데닛에 따르면 진짜 위험은 기계가 정말 똑똑해져 우리 운명의 선장으로 등극하는 게 아니라, 우리 스스로 기계에 과잉의존하고, 자신의 지력을 방기한 결과 기계에 합당하지 않은 권위를 섣부르게 넘겨줄 수 있다는 데 있다. 지금도 인공지능은 빅데이터를 토대로 학습의 속도를 높여 가는 반면 인간은 주체적 사고의 의지와 동기를 잃고 순간의 확실한 즐거움만 효율적으로 추구한다.
<기계는 멈춘다>에서 세계는 ‘기계’의 붕괴와 함께 그것에 의존하던 사람들의 공멸로 끝이 난다. 주인공은 절규한다. “기계는 우리의 공간 감각과 촉각을 빼앗아 갔고 모든 인간관계를 흐리멍덩한 것으로 만들었으며 사랑의 육체적 행위로 격하시켰어요. 그것은 우리의 신체와 의지를 마비시켰고 이제 우리로 하여금 그것을 숭배하도록 강요하고 있어요. 기계는 발달했지만 우리가 원하는 방향으로 발달한 것은 아니에요. 우리는 기계의 동맥 속을 흐르고 있는 혈구로만 존재할 뿐이에요.”
더 늦기 전에 우리는 인문학이 싹트던 시기의 가르침에 귀 기울여볼 필요가 있다. 2400년 전 아리스토텔레스는 인간의 좋은 삶이 무엇인지를 논하며, 삶의 방식을 세 가지로 나눴다. 즐거움(쾌락)을 좇는 삶, 시민적 활동(정치)을 좇는 삶, 관조하는(철학적) 삶이다. 아리스토텔레스는 이 중에서도 인간의 철학적 사고 능력을 ‘신적인 것’이라 부르면서 그것을 발휘하는 것이 최상의 삶의 방식이라고 봤다. 그 속에서 공적인 명예도 사적인 쾌락도 적절히 제자리를 찾을 때 우리는 행복해질 수 있다.
지금은 그 반대다. 심리학자 서은국은 <행복의 기원>에서 행복을 사랑하는 사람과 맛있는 음식을 자주 먹는 것에 비유한다. 요즘 각종 매체에서 경쟁적으로 보여주는 대로다. 모든 것은 감각적 쾌락과 즐거움으로 수렴한다. 다양한 선택지 앞에서 행복해 하지만 이미 정해진 범위 안의 선택지들일 뿐이다. 그 선택지나 결정 방식의 결정권은 별생각 없이 양도하고 방관한다. 니체는 그런 유형을 ‘마지막 인간’이라고 불렀다.
아리스토텔레스의 강의록 <니코마코스 윤리학> 마지막 장에 이런 대목이 나온다. “인간에게는 지성에 걸맞은 삶이 최선이자 가장 즐거운 삶이다. 지성이야말로 다른 어떤 것보다도 인간적이기 때문이다.” 인간만의 특권인 지혜를 추구하는 삶이야말로 가장 행복한 삶일 것이라는 얘기다. 질주하는 AI에게 주도권도 통제력도 잃지 않는 길이기도 할 것이다.
