AI, 그리고 인간 혹은 인간성 상실의 시대
“다이어트약의 가짜 포만감처럼, AI와의 의사소통은 가짜 마음이다”
인간의 역사는 도전과 응전이며, 필연적으로 도구의 발전을 수반한다. 생존을 위한 간단한 형태의 도구는 단순한 쓰임새를 넘어, ‘도구가 도구를 만드는’ 급진적인 기술 혁명을 거듭하였고, 이제 인간의 능력을 뛰어넘기에 이른다. 그리고 인간은, 인간이 아닌 ‘인간 같은 것’과 소통하며, 마음을 나누기 시작했다. 인간성을 나누고자 인간을 버리는 아이러니의 미래는 무엇일까?
에메랄드 안경에서 혼합현실까지
도구의 발전은 가장 원초적인 도구인 ‘신체’를 개발하고, 급기야 인간의 한계를 극복하고 초월하는 시도로 이어진다. ‘007’ 제임스 본드의 안경, ‘아이언맨’ 토니 스타크의 수트는 더 이상 영화적 상상이 아니다. SF는 언제나 과학기술과 변증법적 발전을 통해, 상상을 현실로 만들기 때문이다. 하지만 이러한 도구들이 최근에야 등장한 것은 아니다.
로마 시대 네로 황제는 에메랄드 목걸이로 검투사의 얼굴을 확인했다는 기록이 있으며, 청나라 왕족은 작은 침으로 1억 단위까지 계산이 가능한 주판 반지를 착용하고 다녔다 한다. 스마트 글래스, 스마트 워치의 기본 개념을 담고 있는 이 초보적인 수준의 도구들은 디지털을 만나, 웨어러블 기기와 인공지능(AI) 기반 가상 개인비서(Virtual Personal Assistants, 이하 VPA)로 탈바꿈하기에 이른다.
이 기술은 집, 냉장고, 자동차에서 신발, 속옷에까지 적용되어, 건강, 오락, 정보 제공 및 생산성 증대와 장애 극복에 사용되고 있다. 이것들은 기본적으로 사용자의 생체정보나 행동을 분석하여 사용자가 최적의 경험을 하게 도와준다. 또한 인간의 능력을 확장하고, 위험을 대신하여 산업과 군사 등 다방면에 사용되고 있다.
최근에는 100% 가상의 이미지를 보여주는 가상현실(Virtual Reality, VR)과 현실에 3차원 이미지를 겹쳐 보여주는 증강현실(Augmented Reality, AR)을 결합한 혼합현실(Mixed Reality, MR)까지 등장해 현실과 가상의 경계마저 무너지는 지경이니, 기술의 발전이 어디까지 갈 것인지 가늠하기조차 어려운 것이 사실이다.
너무나 인간적인 것과의 조우, 그리고 인간과의 이별
이처럼 도구는 인간의 필요에 의해 만들어졌지만, 지금의 기술 수준은 사실 불필요할 만큼 과하다. 그럼에도 우리는 왜 이 기술들을 더 많이 사용하고 있는가? 우선 사용상의 친숙함을 들 수 있다. 그것은 인간과 기계가 소통하는 방식의 발전에 기인한다. 간단한 스위치나 레버로 시작하여, 키보드에서 마우스, 마우스에서 터치스크린으로 소통 방식이 변하며 우리는 기계와 더 친숙하게 되었다. 그리고 이제 기계는 웨어러블이라는 이름으로 우리에게 더 가까이 왔고, 지능을 갖추고 음성으로 소통하는 단계에 이르러 ‘인간적인’ 관계는 강화된다.
사고체계의 유사함도 큰 이유다. 심리학자 스티븐 핑커 Steven Pinker는 “마음은 뇌의 활동인데, 뇌는 정보를 처리하는 기관이며 사고는 일종의 연산”이라며 마음의 메커니즘을 밝혔다. AI의 알고리즘에는 이러한 인간 마음의 메커니즘이 반영하여 설계되었고 기계학습 machine learning으로 인간과 점점 더 유사한 지능을 갖게 되어 자연스런 소통이 가능해진다.
인간의 근원적인 ‘욕망의 실현’도 생각해 볼 수 있다. 기술과 인간 존재의 관계를 다룬 과학기술 철학자 돈 아이디 Don Ihde에 의하면, 인간은 도구를 통해 자신의 능력을 확장하고자 하는 생산적 욕망과 몸이 지닌 물리적 한계를 극복하고 초월적 대상으로 거듭나고자 하는 초월적 욕망을 가지고 있는데, 웨어러블 기기와 VPA가 이것을 가능케 한다는 것이다. 기계를 통해 생산성을 극대화하고, 감각과 경험을 확장하는 인간의 모습에서 아이디의 주장은 증명된다.
이제 각종 웨어러블 기기의 사용자 빅데이터는 AI의 정보가 되고, VPA는 이를 이용해 인간을 더 잘 이해하고 따라 하고 있다. 이는 기업에서는 챗봇 chatbot이, 집에서는 AI 스피커가, 일상에서는 스마트폰 VPA가 인간을 대신하는 결과를 낳고 있다.
왜 우리는 인간을 버리고, 인간성을 찾는가?
친숙함이나, 유사한 사고체계, 인간 능력의 확장보다 웨어러블이나 VPA를 사용하는 더 직접적인 이유도 있다. 현대 사회에서 인간은 다양한 스트레스와 소외 속에 살고 있으며, 이는 곧 외로움으로 연결된다. 그런데 외로움은 퍽퍽한 세상살이 탓에 상대의 입장에서 공감하고 소통하기보다는, "왜 내 마음을 알아주는 사람이 없는 걸까?”라는 ‘자기중심주의’로 연결되곤 한다.
하여 소통을 하고 싶지만, 역설적이게도 묻지도 따지지도 않고 나를 알아주고 이해해 줄 일방적인 대상을 찾게 된다. 나의 목소리를 인식하고 작동하며, 반려견처럼 먹여 키워야 하는 부담도 없고 대화도 가능한 AI스피커와 같은 기계들은 감정적 소모도 없고 다양한 ‘쓸모’를 제공하는 훌륭한 대상이 된다. 그래서 우리는 이 기계를 통해 마치 위로와 공감을 얻는 것으로 착각하는 함정에 빠지게 된다.
집에 들어와서 음악을 틀 때의 목소리를 AI스피커가 파악해서 거기에 맞는 음악을 스스로 틀어주는 것처럼, AI는 나의 빅데이터를 기반으로 나에게 맞춤 서비스를 해준다. 이렇게 사용자의 정보 사용 패턴에 따라 맞춤 정보만 제공받게 될 경우, 소위 ‘듣고 싶은 것만 듣게 되는’ ‘확증편향’에 빠질 수 있다. 그리고 확증편향은 ‘소통할수록 외로워지는’ 결과를 가져온다.
‘크레인 기사가 크레인을 통해 자신의 손이 땅을 파는 듯한 경험을 하듯, 인간은 기술을 통해(‘확대된 나’) 외부 대상을 확장하여 경험하게 된다’는 아이디의 주장처럼, 인간은 기기를 ‘통한’ 경험이 아니라 기기에 ‘대한’ 경험을 함에도, 기술에 의해 변형된 세계의 경험을 ‘실제적인 것’으로 간주하고 있다는 것이다. 이런 이유로 우리는 다이어트약으로 가짜 포만감 느끼는 것처럼 AI와 가짜 마음을 나누며 인간성을 상실해가고 있다.
인간성은 마음이지 논리가 아니다.
정보 기술 연구 및 자문 회사 가트너 Gartner는 2021년까지 웨어러블 기기 사용자의 수명이 평균 6개월 연장될 것이며, 감성 인공지능 시스템의 발전으로 2022년에는 개인용 기기가 인간의 감정을 더 잘 파악할 수 있게 될 것으로 예측했다. AI 시스템과 사랑을 나누는 영화 '그녀(Her, 2013)'의 이야기가 머지않아 현실이 될 것처럼 보인다.
하지만 사랑을 나눈다는 것은 서로의 마음을 나누는 것이다. 인간의 마음은 정신 mind, 감정 heart, 느낌 feeling과 경험적, 직관적 판단과 같은 휴리스틱 heuristic을 포함하는데, “마음이란, 우리가 안다. 생각한다. 느낀다. 바란다. 등의 언어로 표현되는 ‘마음 상태들’”이라는 심리학자 앤드루 와이튼 Andrew Whiten의 주장을 빌리자면, AI는 인간의 마음을 가질 수 없다. 마음은 계속 움직이는 ‘상태’지, 프로그래밍 할 수 있는 ‘정의’가 아니기 때문이다.
최초로 시민권을 부여받은 AI 로봇 소피아에게 "화재 현장에 구조가 시급한 어린아이와 노인이 있다. 한 명만 구조할 수 있다면 누구를 구조할 것인가?"라고 물으니, 소피아는 "나는 이런 윤리적 문제에 대한 프로그래밍이 되어 있지 않다. 만약 구한다면 출구에서 가장 가까운 쪽에 있는 사람을 구조할 것이다. 그게 논리적 logical이니까"라고 말했다.
인간은 인간관계에 기반하며, 인간성은 마음에 기반한다. 그리고 윤리가 없는 마음은 논리일 뿐이다. 그러므로 기술의 실용주의 보다, 인간의 실존에 대한 진지한 논의가 필요하다.
[칼럼 후기]
1. 4차 산업혁명이 실체없는 허상이다...식의 이야기들이 있다. 그럴지도 모른다. 그러나, AI, 로봇, 빅데이터 등 산업을 구성하고 움직이는 메커니즘이 바뀌고 있는 것은 확실하다. 그리고 우리는 그 기술들을 실용주의적 관점에서 사용한다. 또한, 소비사회는 이것들을 트렌드라는 이름으로 비판없이 소비하게 만든다. 더군다나 4차 산업혁명이라는 거대 담론 앞에 이러한 기기들은 더 빠르게 수용되고 있다. 철학없는 기술 수용은 인간을 행복하게 만들지 않는다는 생각으로 글을 시작했다.
2. 1)윤리의 문제: 최근 자율주행 차량이 사람을 치어 사망하게 한 사건이 이슈가 되었다. 쟁점은 브레이크가 고장 난 트롤리 기차가 달리는데, 방향을 바꿔 다수를 구하기 위해 소수를 희생할 수 있는지를 판단하게 하는 문제 상황인 트롤리 딜레마 Trolley dilemma’ - 윤리 문제였다. AI로봇 소피아의 질문도 같은 맥락이다. 소피아의 말처럼 알고리즘의 한계가 있는 것을 보면, 아직까지는 AI는 논리적으로 사고할 수 밖에 없는가 보다. 나는 이 알고리즘의 한계가 곧 인간에 대한 이해가 부족하다는 것을 반증하는 것이라 생각한다.
2)가짜 마음의 가능성: 소피아는 아직 인간과 같은 권리를 요구할 수 있는 단계는 아니나, 로봇이 더 성장한다면 권리도 늘어날 것이라고 하였는데, 윤리적 판단이나 마음이 없는 로봇과 인간이 권리를 나눌 수 있을까? 물론 마음과 사랑의 메커니즘을 이해하기는 어렵겠지만, 기본적으로 호르몬과 신경물질의 작용이라는 것(배부름과 배고픔을 느끼는 것이 자율신경계를 통해 뇌에서 보낸 정보를 바탕으로 이루어 짐을 알기에 가짜 포만감을 줄 수 있다는 것과 같이), 그리고 거기에 다양한 패턴들을 빅데이터 분석하여 잘 믹스한다면, AI, 로봇에게도 가짜 마음을 심어줄 수 있을지도 모르겠다.
3. 초연결 사회에서의 탈출: 이미 세계는 인터넷을 기반으로 '초연결사회 Hyper-Connected Society'가 되었다. 또한, 증강현실은 세계 자체를 '초월적 세계 hyper-world'로 만들었다. 그리고, 전자파, 생체정보, 안정성, 1984와 같은 감시, 인간의 감각 퇴화 등의 우려 concern이 있음에도, 우리는 이미 기술의 포로 Techno-Prisoner가 되었다. ioT, 빅데이터에 '감성 인공지능 시스템 Emotion AI System'과 '감성 컴퓨팅 Affective Computing' 등 고도의 컴퓨팅 환경으로 인간은 더 '포로'가 될 것이다.
그래서, 인간은 자유를 찾아 떠난다. <나는 자연인이다> <정글의 법칙>류의 오지 탐험기의 시청률을 보라. 사람들은 왜 떠나는가? 속도와 복잡함에 대한 반항?으로 슬로우 라이프, 심플 라이프를 추구하고 있는 것이다. 오지는 더이상 소외, 고독, 고립을 의미하지 않으며, 먹방을 통해 심리적 포만감을 느끼는 것 같이 소박한 자유에 대한 욕망의 대리만족을 느끼고 있는 것이다. 이것이 인간의 본질이며, 인간의 비논리가 인간을 인간답게 하는 것 아니겠는가?
4. 그럼에도,....인간다움: 초상화를 그릴때, 사람들이 마음 속으로 요구하는 것이 있다. 실물보다 멋지게 그려달라는 것이다. 이것을 속마음이라 할 수 있다. 마음은 행동이나 태도로 나타나는 반면 속마음은 잘 드러나지 않는다. 이런 속마음을 기계가 가질 수 있을까? 그리고, 뜨거운 목욕탕 물에 들어가며 “시워~원~하~다”라고 했던 아버지를 따라, 내 자식과 같은 말을 하며 이야기를 나누는, 인간만이 가진 이런 역설의 미학의 미학을 기계가 가질 수 있을까?
인간의 기억, 인식, 감각은 정확하지 않다. 그러므로, 잘못된 판단을 하고, 갈등을 유발한다. 이것이 인간의 보편특성이다. 하지만 갈등을 해소하려는 노력 또한 인간의 보편특성이다. 미디어학자 마샬 맥루언 Marshall McLuhan은 "미디어가 몸의 확장이자, 감각의 확장이며, 인간의 확장이라 한 바 있다." 있는데, 기술적 혹은 미디어적 관점이 아닌, 미래 기기가 줄 인간능력의 확장과 상실, 그리고 우리의 ‘실존’에 대한 문제에 초점을 맞추지 않는다면, 빅데이터를 기반으로 스스로 학습하는 기계가 한정된 경험과 정보를 가진 인간을 가르치고 지배하게 되는 것이 상상이 아닌 현실이 될 수 있다. 그리고, 영화 가타카(Gattaca, 1997)에서 처럼 신생아의 혈액 한방울로 -마치, 병아리 감별하듯- 인간의 인생은 기계에 의해 결정될 것이다.
※ 브런치 매거진, 『프로그래밍화된 심리』는 심리학 '이론' 자체보다는 '개론'을 중심으로 한 이야기입니다. 제가 심리학자가 아닌 까닭에 적정선에서 다루는 이유도 있겠거니와, 심리학을 심리학 밖으로 꺼낼 때 더 큰 의미가 있다고 생각하기 때문입니다. 그래서 심리 현상을 모티브로 하여, 우리 일상의 고민과 소비의 연결고리를 찾는 데 초점을 맞추었습니다.
사실 우리네 고민의 대부분은 '상품을 소비'하는 것을 넘어, 이념, 정체성, 관계, 그리고 안정감(불안 해소)까지도 소비하는 일련의 과정에서 발생하는 복잡성, 그리고 혼란이라고 해석할 수 있는데요, 그것은 우리가 인식하든 인식하지 못하든 ‘소비사회의 메커니즘과 매스미디어의 이데올로기’에 의해 프로그래밍 되어 있는 것이죠.
즉 '불안'과 '죄책감'과 같은 심리상태는 사실, 어떤 '메커니즘'에 의해 '세상을 보는 틀' 뿐만 아니라 '생각과 행동의 방식'마저 재단 당하고 암묵적으로 지시당한 결과 느끼게 되는 '프로그래밍화된 심리'이며, 이로 인해 우리는 그 어떤 '메커니즘'에 더 강하고 깊게 지배당하게 된다는 것이 저의 관점입니다.
그러므로 우리는 우리의 심리를 더 객관적이고 진지하게 바라보아야 합니다. 그래야만 자기 자신의 삶에 더 다가갈 수 있기 때문입니다.
#심리 #인식 #철학 #인문 #AI #도구 #인간 #인간성 #마음 #혼합현실 #MR #VPA #가상개인비서 #스티븐핑커 #돈아이디 #가트너 #소피아 #윤리 #실존 #브런치 #매거진 #프로그래밍화된심리 #일상 #사보 #칼럼 #작가 #칼럼니스트 #정호훈
