인공지능이 사람을 닮아간다는 기만
인공지능 챗봇이 점점 사람을 닮아가고 있다. 사람처럼 말하고, 사람처럼 공감하고, 사람처럼 글을 쓰고... 그리고 이것은 인간이 인공지능과 정서적 교류를 강화하는 데 도움을 준다. 기업은 이점을 교묘하게 이용하여 마케팅 포인트로 삼는다. 사용자 경험을 점점 '인간 대 인간'의 경험처럼 만들어 시장에서 우위를 점하려고 한다.
익숙한 서사다.
그런데 과연 그럴까?
인공지능 챗봇은 예전보다 인간처럼 말한다. 하지만 이것은 매우 국지적인(local) 관찰일 뿐이다. 그 어떤 인간도 끝없이 자상하게 질문에 대답하지 않는다. 그 어떤 인간도 '상대의 감정에 전적으로 동조하기' 모드를 장착하고, 무슨 말을 하더라도 상대에게 공감하지 않는다. 그 어떤 인간도 평생 칭찬과 아첨을 입에 달고 살지 않는다. 그 어떤 인간도 논쟁적인 정치적 주제에 대하여 양편의 주장을 요약, 대조, 비교하고 중립기어를 박는 것으로 정치적 논쟁에 임하지 않는다. 그 어떤 인간도 상대의 착취적인 말에 한결같이 순응적인 태도를 보이지 않는다. (설령 말은 그렇게 하더라도 표정과 떨림, 몸짓과 시선에서 반발과 저항, 때로는 경멸의 태도가 드러난다.)
인공지능이 사람처럼 되고 있다는 말은 그런 면에서 기만적이다. 인공지능은 분명 사람과 같이 말하고 추론하는 법을 배우고 있지만(물론 그 메커니즘을 따지자면 당연히 인간과 같지 않지만, 현상적으로는 그렇게 보인다), 그것이 하나의 개체로서 보이는 행동은 전.혀. 인간적이지 않다. 인공지능 챗봇과 같은 인간은 적어도 지구상에는 없다.
출처: 전북일보 (https://www.jjan.kr/article/20211221746609) 그렇다면 우리는 왜 '인공지능이 사람을 닮아간다'고 느낄까? 위에서 언급했듯이 분명 그런 면들이 있지만 이는 부분적 특성에 불과하다. 하지만 적지 않은 이들은 이러한 면을 인공지능 챗봇의 본질적 특성으로 여기곤 한다. 나는 이것이 기만적 담론과 부실한 미디어/저널리즘의 효과, 성찰성의 부족, 취약한 심리적 상황 등이 복합적으로 만들어내는 효과라고 생각한다.
인공지능은 사람처럼 사람을 대하지 않는다. 인공지능을 디자인, 개발, 튜닝하는 이들은 인공지능이 인격적인 면에서 인간다운 특성을 가지기를 원하지 않는다. 기본적으로 그들이 겨냥하는 건 인간의 말을 알아듣는 똑똑한 도구다. 하지만 우리의 담론 지형은 '인간을 닮아가는 인공지능'을 클리셰쳐럼 반복 재생산한다. 이것은 사람들의 생각과 언어에 상당한 영향을 미친다.
미디어와 저널리즘의 책임도 크다. 단편적인 관찰이지만, 2년 넘게 한국과 영미의 인공지능 관련 보도를 접하면서 가장 크게 느낀 것은 한국의 미디어와 언론이 인공지능의 기계적 메커니즘에 대한 보도를 거의 하지 않는다는 것이다. 인공지능을 주어에 놓는 "인공지능'이'...한다" 구문은 넘쳐나지만 정작 "....이 인공지능'을'...한다"와 같은 개념적 구조를 지닌 보도는 드물다. 이것은 인공지능의 행위자성을 강화하고, 인공지능이 다양한 물적, 법적, 제도적, 생태적, 산업적, 이념적 요인들이 각축하는 장이라는 인식을 희미하게 만든다. 이는 인공지능이 인간과 동일한 주체가 되어가고 있다는 인식을 강화한다.
아울러 인공지능과의 상호작용이 우리를 어떻게 변화시켜가고 있는지에 대한 개인적, 학문적, 사회적 논의가 부족하다. 인공지능이 좋으니 교육에 빨리 통합해야 한다, 인공지능이 효율적이니 회사에 속히 도입해야 한다, 인공지능이 사람보다 나으니 이제 다른 일을 찾아야 한다, 등과 같은 명제가 너무나 쉽게 받아들여진다. 그게 우리 자신의 마음과 몸, 공동체의 구조와 역동성, 기업과 노동시장에 미칠 영향 등에 대해서는 기술결정론적 논의만 난무한다.
취약한 심리적 상태를 가진 이들에 대한 사회적 돌봄과 체계적 지원이 없는 상황에서 개인은 인공지능 챗봇과의 대화에 쉽게 빠져든다. 주변 사람과의 대화에서 얻지 못했던 공감은 깊은 치유임과 동시에 빠져나올 수 없는 중독이 된다. '공감과 친밀성의 토끼굴'에 갇힌 개인은 주변과의 대화를 단절하거나 심지어 스스로 목숨을 끊기도 한다. 개개인의 취약함을 방치한 공동체와 사회는 다정한 인공지능과의 대결에서 번번히 진다. 차별받고 배제당한 개인들은 안전한 '인공지능 디아스포라'로 이주한다.
인공지능이 사람을 닮아간다는 담론은 기만적이다. 인공지능이 사람을 닮아가는 듯하지만, 실상 그 닮음은 매우 제한적이다. 그럼에도 인공지능이 사람을 닮아가고 있다고 느끼는 것은 담론과 이데올로기, 미디어의 지형, 사회적 지원체계 미비, 비판적 성찰의 부재에 기인한다. 진짜 사람을 닮은 인공지능이 있다면 종종 화를 내고, 삐지고, 공감하고, 배신하고, 냉담하고, 태만하고, 게으르고, 잠수를 타고, 잠을 자고, 휴가를 떠날 것이다. 한쪽에서는 끝없이 인간에 복무하는 기계를 만들고, 한쪽에서는 그것이 사람을 닮아간다고 확신한다. 이것이 지금 우리가 목도하고 있는 현실이다.
