관계와 권력, AI시대의 두 가지 키워드

(책 리뷰- 포스트휴먼이 몰려온다)

포스트휴먼이란 무엇일까? 포털 사이트를 열어 사전 검색을 했다.

‘인간을 뛰어넘어 존재하는 신인류를 뜻하는 학문상의 용어’.

정의는 한 문장으로 그치지 않고 긴 설명이 따라 붙는다.

‘현재의 부족함 많은 호모 사피엔스가 강화되어 마침내 도달하게 될, 더 이상 인류라고 봐야 할지도 불분명한 경지에 도달한 상태. 그 구체적인 형태와 특성이 무엇이 될지는 아직 아무도 장담할 수 없다. 어디까지가 인간이고 어디까지가 인간이 아닌지 경계가 모호해지기 때문에 인간과 인간이 아닌 것들 AI, 외계인, 인공생명체, 동물과의 관계에 대해서도 조화를 추구한다.’

‘현재의 부족함 많은 호모 사피엔스’ 라는 표현이 무시무시하다. 인간의 능력에는 견줄 수 없는 AI가 등장할 것이고 인간과 기계, 주객이 전도되는 상황이 그려진다. 4차 산업 혁명이 오고 있으니 생존을 위해 변화에 대비하라는 말도 떠오른다. 정신을 바짝 차리자. 눈 뜬 채 코 베일 수는 없지 않은가.

인공지능의 미래를 이야기하는 수 많은 책들 중, 이 책의 매력적인 부제가 눈에 띈다. 《포스트휴먼이 몰려온다: AI 시대, 다시 인간의 길을 여는 키워드 8》 역시 희망을 얘기해야 한다. 기계지능, 사이보그, 인공자궁, 소셜로봇, 가짜뉴스, 기본소득, 마이크로워크, 인류세의 여덟 가지 키워드를 다 읽은 지금 내 머릿속에는 두 가지 키워드가 생겼다. 첫째는 관계, 둘째는 권력이다.

1. 관계, 인공지능 시대에 인간다움이란?

<4장 소셜로봇: 로봇과의 사랑? 관계의 재구성>에 나오는 단종된 아이보 장례식 이야기는 매우 흥미로웠다. 기계인 로봇은 물론 감정이 없다. 하지만, 사람들은 로봇에게 자신의 마음을 투영한다. 그 순간 사람에게는 기계인 로봇은 마음을 지닌 존재가 된다. 마음이란 주고받는 것이 아닌가. 인간과 기계의 경계가 모호하고, 사람다움의 정의가 흐려진다.

종래의 인간다움의 정의는 무엇인가? 이 책에 따르면, 휴머니즘의 의미는 광범위하게 해석되어 왔으나, 근대 이후의 휴머니즘은 인권을 강조하는 인본주의와 인문주의의 성격을 띤다고 하였다. 인간 능력에 대한 자신감으로 대표되는 인문주의의 성행은 근대 이후 인류가 엄청난 진보를 보이게 된 이유로 보인다. 과학과 기술의 비약적 발전, 눈부신 경제 성장도 놀랍지만, 민주주의 사회의 실현 또한 눈부시다. 인류의 역사는 진보하였는가 란 물음에 나는 그렇다고 답하겠고 특히 최근 200년의 역사는 변화의 속도는 매우 빨랐다. 그럼에도 불구하고 떳떳하지 않은 구석이 있다. 인간이 지구에 저지른 만행의 역사가 진보의 역사가 맥을 같이 하기 때문이다. 사람다움의 의미에 대해서 <1부 질주하는 기술> 에서 저자가 던진 물음은 매우 유효하다. 오직 인간만이 존엄한가? 인간은 비인간과 구별되는 특별한 가치가 있는가? 겸연쩍음에 고개가 숙여질 뿐이다.

기술 개발자들은 인공지능은 인간지능이 갖는 의식과 경험을 갖지 못하고 알고리즘에 의한 작업을 수행할 뿐이라고 한다. 그래서, ‘1장 기계지능, 3만년 만에 만나는 낯선 지능’의 저자는 인공지능보다는 기계지능이란 말을 사용하는 것이 맞다고 한다. 인공지능이 아무리 뛰어난 능력을 갖는다 해도, 인간과는 달리 자각이나 느낌없이 작업을 수행할 것이기 때문이다.

나는 이 의견에 동의하지 않는다. 이는 인간과 기계의 관계에 대한 물음과도 자연스럽게 연결된다. 기계라는 말 속에는 ‘인간이 필요에 의해 부리는 도구’라는 개념이 녹아 있다. 주인이 노예에게 일을 시키듯 인간과 기계에 주종의 관계를 암시한다. 그러나, 지금 개발중인 초인공지능에게 그런 관계가 어울릴까? 인간이 만들어 놓고도 스스로 이해하지 못하는 도구를 노예라 부를 수 있을 것인가? 얼마 전, 유발 하라리의 강연에서 들은 에피소드는 결코 웃어 넘길 수 없다.

조만간 어느 미래에 당신이 은행에 가서 대출 신청을 한다. 그러면 AI는 당신에 대한 엄청난 양의 데이터를 분석할 것이다. 이는 당신의 인생 전체의 인간이 볼 수 없는 엄청난 양이다. 그리고 패턴을 분석하고는 당신의 대출 신청을 거부한다. 당신이 은행에 가서 항의를 했을 때, 은행에서는 이렇게 말할 것이다.

“알고리즘의 결정입니다. “

“왜죠?”

“우리도 모릅니다. 하지만 우리는 AI를 믿습니다.”

“그 이유를 알고 싶습니다.”

은행에서는 당신에게 알겠다고 말하고 그 이유가 적힌 200만 페이지가 넘는 자료를 넘길 것이다. 이렇게 우리가 알지 못하는 방식으로 우리의 인생이 결정된다. 바로 인공지능에 의해서 말이다.

비록 인공지능이 인간의 자의식이나 감정은 갖지 않는다 하더라도, 더 이상 인간의 노예라고 말하기는 어렵다. 인간과 기계의 관계는 달라지고 있으며 인간다움이란 무엇인가에 대해서도 새로운 관점이 필연적이다. 거창한 답을 내리기 보다는 한 가지 확실한 사실을 직시하려 한다. 사람다움의 개념은 확장될 수 밖에 없다는 것이다. 인간과 기계의 합체인 호모 사이보그의 존재가 늘 것이고 기계와 우정이나 사랑을 나누는 현상이 생길 것이다. 포스트휴먼 시대에 선행되어야 할 자세는 열린 마음일지 모르겠다.

2. 권력, AI 시대의 민주주의

관계는 곧 권력의 문제이기도 하다. 모든 관계는 자세히 들여다보면 권력 구조가 보인다. 하다 못해 두 사람이 모여서 놀이를 하는 상황에서도 주도하는 아이가 생긴다. 하지만, 권력은 수시로 이동한다. 갓난 아이와 엄마가 있다고 치자. 아기는 힘이 없는 존재이고 엄마는 아기를 보살피고 관리한다. 그렇다고 엄마가 일방적으로 지배력을 갖지만은 않는다. 아기가 울음을 터뜨린다면 엄마는 아기를 달래고 기저귀를 갈아주며 진땀을 뺀다. 밤새도록 아이를 돌보느라 잠을 제대로 자지 못할 수도 있다. 권력은 다양한 요인이 복잡하게 얽혀 있고 매 순간 역동적으로 이동한다.

오늘날의 민주주의는 피와 땀으로 이루어졌다. 고대 그리스 국가의 소규모 민주주의를 제외한다면 역사의 대세는 왕정이었다. 약 200년 전 서구에서 혁명에 의해 민주주의가 선언되었고 이후는 제도와 이념이 정착되기 위한 투쟁의 역사였다. 정보와 통신 기술의 발달은 민주주의를 구축하는데 큰 도움이 되었다. 언론은 정권이 하는 일을 대중들에게 알리고 대중은 여론을 형성하고 정치에 참여하는 다양한 창구를 갖게 되었다.

민주주의의 핵심은 권력의 분산이다. 권력은 다수의 시민에게 있으며 한 곳으로 권력이 흐르면 독재정권이 되기 쉽다. 그러나 정보와 기술은 권력의 원천이 되었는데 이를 다루는 집단은 소수이다. 일반 시민들은 기술의 편리함을 누리고 살지만, 정작 그 원리에 대해서는 무지한 현실이다. 편리함과 효율성이라는 달콤함 뒤에는 악용 가능성과 인간의 심리 조정이라는 위험이 있음을 보짐 못한다. 더불어 정보는 한 곳으로 집중되기 쉽기 때문에 더욱 위험하다. 정보를 가진 독재 권력에 의한 전체주의 사회가 되기에 매우 쉽다.

민주주의의 미래를 밝혀 온 기술의 발달이 한편으로는 민주주의를 위기로 내몬 격이다. 이에 독립적 판단 능력을 가진 시민의 역할이 절실하다. 인터넷에는 가짜뉴스가 판을 치고 있고 특히, 특정 집단의 이익을 위해 악용되기도 한다. 현대인들은 인공지능에 의한 알고리즘에 더욱 의존하고 있고 여론 형성의 몰이에 이용되기 쉽다. ‘5장 가짜뉴스: 디지털 사회와 보이지 않는 권력’의 결말은 깊은 여운이 남긴다.

바보 라는 말의 그리스 어원은 이디오테스다. 그리스에서는 공적인 일에는 관심이 없고 사적인 일에만 관심을 쏟는 사람을 이디오테스, 즉 시민이 아닌 바보라고 지칭했다.

어렵게 일구어 낸 민주주의를 지켜내야 하지 않겠는가?

한나 아렌트가 관찰한 아이히만의 이야기를 떠올리며 인간다움의 뜻에 대한 중요한 교훔으로 삼으려 한다. 나치의 친위대 중령으로 유대인 대학살을 주도한 아이히만은 아무 생각 없이 명령을 따르는 무능력한 존재였다고 한다. 그녀는 그를 관찰하면서 무사유가 인간 악의 근원이며, 인공지능의 활약은 인간이 무사유의 노동에서 해방되어 작업과 행위는 생산적인 활동에 치중하도록 할 것이라 주장한다. 작업은 인공적인 생산물로 문화를 만드는 활동이고, 행위는 다른 사람들과 어울려 다양한 관점과 의견을 나누는 활동이다. 인간에게는 당연히 생존을 위한 노동이 필요하다. 그렇다면, 노동의 삶은 다른 생명체와 인간이 구별되지 않는 삶일 뿐이다. 그러나 현대 사회에서는 소비가 미덕이 되었고, 작업의 생산물인 문화마저 일회적 소비물로 바뀌었다.

아이히만은 인간성이 부족한 인간임이 분명하다. 그는 작업능력은 있었지만 인공지능처럼 의식이나 자각이 없었다. 노동에만 치중하지 않고 삶의 질을 높이기 위해 유의미한 활동을 찾는 모습은 인간다움과 가깝다. 가를 중시하고 배움과 문화의 가치를 높이는 것은 인간성 회복의 출발이다. 역시 바보가 되지 않으려 한다. 내 일에만 관심을 두고 사회적 문제에는 전혀 관심을 두지 않는다면 누군가에게 조종당하는, 자아를 잃어버리는 삶을 살게 될지도 모른다.