[AI포칼립스]④ AI시대, 인간은 존엄한가
AI포칼립스(AIpocalypse)는 인공지능(AI)과 종말(Apocalypse)을 뜻하는 영단어 합성어다.
인간 정신이 종말하고 있다. 최근 세계적인 석학 유발 하라리가 인간 '사고 능력'이 AI 알고리즘으로 대체되는 사유의 종말을 예고했다. 사고의 종말은 인간의 존엄의 토대마저 흔들고 있다.
인간, 생각의 자리 AI에게 내주다
"나는 생각한다, 고로 존재한다."
근대 철학의 창시자 르네 데카르트는 모든 것을 의심(방법적 회의)한 후 이 선언에 도달했다. 이 선언은 인간 이성을 강조하는 근대적 세계관의 틀을 마련했다. 인간이 동물·기계와 구별되는 '존엄성'의 근거를 제공했다.
유발 하라리는 지난달 스위스 다보스에서 열린 세계경제포럼에서 이 근대적 믿음이 AI에 의해 뿌리째 뽑히고 있다고 진단했다. 그는 "생각이 단어와 언어 토큰들을 순서대로 배열하는 것을 뜻한다면 AI는 인간보다 이미 훨씬 더 잘 생각하는 존재"라고 단언했다.
유발 하라리는 성서 요한복음 "태초에 말씀(로고스)이 계시니라"라는 구절을 인용해 인류 역사가 '말(로고스)'에 최고의 권위를 부여했음을 상기했다. 인권·법률·경전·소설 등 인간 문명을 지탱해온 운영체제는 모두 언어로 이뤄졌다.
문제는 AI가 언어의 새로운 주인이 되고 있다는 점이다. AI는 단순한 도구가 아니다. 언어를 통해 스스로 아이디어를 내고 전략을 짜는 행위자다. 심지어 거짓말까지 할 수 있다.
하라리의 지적처럼 말에 능통한 AI는 수만건의 판례를 분석해 법률 자문을 제공한다. 개인 맞춤형 금융 상품을 설계한다. 여태껏 인간은 '정보를 처리하고 논리적으로 말을 만드는 능력'으로 가치를 증명해 왔다. 이제 인간은 더 이상 설 자리가 없을 전망이다. 데카르트가 세운 '생각하는 주체'로서의 인간 지위가 AI에게 넘어가고 있어서다.
인간, AI 알고리즘에 입법권 넘기다
데카르트의 '생각하는 나'가 사고 능력에 그쳤다면 칸트는 한 걸음 더 나아가 인간을 '자율적 입법자'로 정의했다. 칸트는 인간을 단순히 자연의 인과율이나 욕망에 움직이는 존재로 보지 않았다. 그는 인간이 스스로 도덕 법칙을 세우고 이를 따르는 자율적 입법자라는 점에서 인간 존엄성의 근거를 찾았다.
칸트는 <판단력비판>에서 인간 고유의 능력으로 '반성적 판단'을 제시했다. 반성적 판단은 특수한 상황에서 보편적 감정을 공유하는 능력인 '공통감각'을 통해 보편 규범을 찾아내는 능력이다. 칸트는 이 판단력이 인간에게 도덕적 자유와 존엄성을 부여하는 핵심이라고 봤다.
오늘날 이 판단의 영역이 빠르게 AI 알고리즘으로 대체되고 있다. 인류는 AI알고리즘에게 입법자 대리권을 넘기고 있다. 내일 무엇을 입을지, 어떤 뉴스를 볼지, 심지어 누구를 증오할지조차 알고리즘 몫이다.
오늘날 사람들은 AI 알고리즘에 의존하면서 치열한 토론과 공감 능력을 잃어가고 있다. '상식'이라는 모호한 개념을 미리 규정해 상대편을 배제한다. 자기만의 생각(필터버블)에 갇혀 타인을 배척하는 일이 빈번하다.
알고리즘이 추천하는 대로 소비하고, 알고리즘이 결정한 대로 분노한다. 알고리즘이 써준 대로 말하며 생각하기를 멈춘다. 이른바 사고의 외주화다. 생각하는 권리를 기계에 넘겨주는 것이다. 인간은 사유의 고통에서 도망치고 도덕적 주체성을 포기하며 스스로 존엄을 무너뜨리고 있다.
데카르트와 칸트가 세운 인간 존엄의 두 기둥. 사고하는 주체와 도덕 법칙을 세우는 주체. 이 두 기둥이 AI 시대에 무너지고 있다. 인간은 여전히 존엄한가. 이 질문에 답하기 위해 인류는 AI에게 넘길 수 있는 것과 넘겨서는 안 되는 것 사이에 경계를 그어야 한다.
