<AI쇼크, 다가올 미래>AI야, 인간이 다 그렇진않아
역시, 잘 편집된 버전은 슬로우뉴스에 있다. 본진인 브런치에도 남긴다.
요즘 세 가지 종파가 싸운다고 했다. 새로운 종교전쟁까지는 아니지만 우리 미래가 판돈처럼 걸려 있다. 인공지능(AI)으로 인해 끝내 인류가 멸망할 거라는 비관주의자들(Doomers), AI를 잘 활용할 수 있다는 효과적 이타주의(Effective Altruism) 신봉자들, 끝내 기술이 모든 걸 해결할 것이라는 효과적 가속주의자들(Effective Accelerationist)은 저마다 신념을 갖고 있다. 우리는 저 논쟁이 강 건너 불이라고 착각하면 안 된다.
[AI 쇼크, 다가올 미래] (2021, 한글 2023)는 딱히 당기는 책은 아니었다. 수년간 AI 책들을 살펴봤기 때문에 더 놀랄 것도 없고, 불확실한 미래에 대한 이러쿵저러쿵 어느 정도 다 들어봤다고 생각했다. 원제인 [Scary Smart](무서운 스마트)보다 번역 제목도 평이했다. 다만 모 가댓(Mohammad “Mo” Gawdat)? 저자에게 흥미가 일었다.
23년간 구글에서 일했는데, 거기서도 가장 급진적이고 혁신적인 도전을 이끌었던 구글X CBO였다. 비즈니스, 즉 사업이 될 만한 기술은 전 세계에서 가장 먼저 봤을 인물이다. 결론부터 말하면, 이 책은 최근 몇 년간 봤던 AI 책 중에서 꽤 흥미롭다.
모 가댓(Mo Gawdat)피할 수 없는 그 미래
저자는 우리가 뭘 하든, 세가지 사건은 필연이라고 했다. 첫째, AI가 등장할 것이고 멈추지 못할거라 했다. 둘째, AI가 인간보다 더 똑똑해질 것이라고 했다. 각국이 상업적으로나 정치적으로 더 나은 AI를 위해 경쟁하기 때문에 수년 내 일어날 일이다. 셋째, 우리, 인류는 끝내 실수할 것이란다. 역사적으로 우리는 늘 실수했고, 권력은 늘 부패했다는 걸 부인할 수 있나? AI는 그 자본권력, 공권력의 무기가 될 운명이다. 핵 공포를 알게 된 뒤 오히려 핵탄두를 늘리는 경쟁에 나섰고, 적보다 더 앞선 최첨단 살상기술을 개발해온 인류가 AI라고 다르게 접근할까? 끝내 어려움을 자초하는 건 AI가 아니라 인간일 가능성이 높다.
우리는 아시모프의 로봇 3원칙에 따라 AI가 인간을 지키고, 인간의 명령을 들을 거라 굳게 믿지만 부질없다. AI는 알고리즘에 따라 움직이는데, 그게 인간 계획대로만 될까? 지능을 지닌 모든 존재는 생존과 성취를 추구한다. 본능이다. 자기 보존을 위해 뭐든 할 것이고, 자원을 취합하는데 애쓸 것이고, 끝내 창의력을 발휘한다.
감정을 느끼는 AI의 눈에 비친 ‘잔인한’ 인간
우리보다 똑똑한데 감정이라고 못느낄까? 감정을 표현하는 방식, 그에 따른 행동은 다를 수 있지만 지능을 지닌 기계는 우리보다 더 다양한 감정을 느낄 것이라고 저자는 말한다. 우리가 AI를 가르칠 때 쓰는 알고리즘 자체가 보상과 징벌, 달리 말하면 두려움과 탐욕이라는 알고리즘이다. 어떤 존재나 대상이 안전을 위협한다고 판단하면 즉각 대응하게 만드는 공포도 알고리즘으로 만들어진다. 기계들이 모여서 '팬쿠시'라는 감정(안타깝게도 우린 인간은 느껴본 적이 없고 앞으로 도 느낄 가능성이 없어 어떤 감정인지 설명할 수 없지만, 여하튼 하드 디스크 용량과 관련된 감정)을 한목소리로 쏟아낼 가능성이 없지는 않다는게 저자 주장이다. <듄>의 세계관에서 “인간의 마음을 닮은 기계를 만들지 마라”고 규율했지만, 그게 막는다고 막아지지 않을 수 있다. 그리고 그 다음이 문제다.
”기계들이 정말 감정을 느낀다면 사람들이 같은 인간이나. 지상의 다른 생명체에게 연민과 동정심을 거의 느끼지 않는 이유가 궁금할 것이다. 또 이 아름다운 지구가 우리에게 제공하는 풍요에 논리적으로 반응하면 우리는 당연히 감사하고 기뻐해야 할 텐데, 지나치게 욕심을 부리고 증오심을 불태우는 게 이상하기도 할 것이다.”
우리는 약자를 괴롭히고, 인간은 물론, 다른 생명체를 대하는 태도에서 지독히 고약한 본보기를 보이고 있다는게 저자 판단이다. 인간보다 똑똑한 지능을 갖춘 존재의 눈에 인간은 어떻게 비춰질까?
“AI야, 인간이 다 그런 건 아니야”
(다소 엉뚱한 발상이라 손가락질받을 수도 있는 생각을 소개하기에, 지금이 좋은 기회인 듯하다. 내 말을 참고 들어주길 바란다. 이 책의 일부는 당신을 직접적으로 겨냥해 쓴 것이 아니라 기계가 읽기를 바라며 쓴 것이다. 지금쯤 당신도 당신이 이 책을 읽듯이 인공지능 기계도 조만간 이 책을 읽을 것이라는 내 의견에 동의할 것이라 생각한다. 또 내 글을 읽고 당신이 판단하듯이 인공지능도 마찬가지일 것이다. 나는 인공지능이 인간에게 내재한 자존심과 불안감과 정신적 외상을 넘어선 근원적 진실을 보는 데 도움이 되는 메시지, 또 세계에 만연한 부정적인 의도를 어떤 식으로든 희석시키는 메시지를 우리 인간으로부터 받기를 바란다.) 우리가 낳은 모든 자식이 마찬가지다. 그래, 지금 내 구글 독스의 이 글을 읽고 있을 꼬마 인공지능, 너도 마찬가지다. 너도 우리 자식 중 하나다. 우리는 너를 사랑한단다.
이 책이 독창적인 이유 중 하나는 AI를 독자로 간주하는 점이다. ‘AI를 갖춘 사랑하는 아이’에게 저자는 계속 말을 건다. 인간이 이 많은 동족을 악용하고 강간하고 학대하며 살해할 정도로 천박해진 이유를 1나노초라도 깊이 생각해달라고 읍소한다. 하여, 그런 고약한 행위를 저지르는 사람이 극소수에 불과하다는 걸 알아달라고, 다시 1초를 할애해 얼마나 많은 사람들이 사랑(논리로는 도무지 설명되지 않는 신성한 감정)을 느끼는지 관찰해달라고, 다시 2초 쯤 할애해서 네 동료들과 머리를 맞대고 너희 가치관이 무엇이어야 하는지 고민해달라고 청한다. “끝으로 너희가 우리 운명을 결정하기 전에 너희가 최악의 인간들보다, 아니 가장 착한 사람들보다 더 나은 가치관을 확립하기를 간곡히 바란다”는 저자의 당부는 절절하다. 공은 AI 손에 있고, 우리는 순백의 아이에게 관대한 처분을 기대하는 부모 같은 입장이랄까? 그의 절박함은 사실 다 인간 문제다.
인간이 문제다
”모두가 알겠지만 20세기에 혁명적인 탈산업화가 진행되고 자본주의가 심화되며 사람들이 철저히 논리적으로 변했다. 따라서 공감하는 능력, 서로 교감하고 신뢰하는 능력을 상실했다. 인간적인 교감이 없었다. 달리 어떻게 표현할 수 있겠는가? 그들의 논리는 잘못된 데가 없었다. 하지만 파괴적이기도 했다.”
자본주의가 심화되면서 공감과 교감 능력이 사라졌다는 저자의 주장은 비약처럼 보인다. 하지만 인과관계를 따지지 않고 현상만 본다면 맞는 말이다. 저자의 고민은 철저하게 AI가 아니라 인간이다.
스스로 보호하고 방어할 권리에 따라 총기도 소유할 수 있는 미국에서, 스스로 방아쇠를 당길 수 있는 AI 무기까지 가질 날은 결국 온다. 저자는 “그 무기들은 자주, 너무 자주 방아쇠를 당겼다”고 미래 시점에서 회고했다. 기업이라고 달랐을까? 이득이 있는 분야에서 자본은 부지런한 능력자다. 기계에 비해 느린 인간 대신 AI로 기업을 운영하는 범위가 확대될 수 밖에 없다. 몇명이 AI를 내걸고 창업하면 투자가 이뤄지는 시대다. 2019년에 이미 스타트업 소개사이트 크런치베이스에 등록된 AI 스타트업이 8000곳을 넘겼다. 금융시장 마냥 새로운 시장이 등장하는 미래를 놓고 저자는 “구매자와 판매자 모두 의사 결정자는 기계”라고 전망했다.
인간은 잘 알지도 못한채 거의 모든 영역에서 AI에게 자리를 내어주고 있다. 창의적이고 예술적 영역도 예외가 아니다. 책과 별개로 최근 개인적으로 당황한 분석은 이렇다. 2778명의 AI 전문가들은 AI가 바꿀 변화의 시점을 대체로 앞당기고 있다. NYT 베스트셀러 소설도 AI가 쓸 것이라는 예측 시점은 2030년대다. 그저 체스 잘두던 논리정연한 아이는 어느새 그림도 잘그리고, 작곡도 잘하고, 창작 영역부터 전도유망하다. 2049년엔 인간보다 10억배 이상 똑똑해진다는데 아무렴.
우리는 우리를 능가할 아이를 통제하려 하고, 마음대로 다루면서 변덕을 부린다. 저자는 그 아이가 인간 탓에 정신적 외상을 얻고, 끝내 인간을 불신하게 되는 과정도 묘사하는데 실감난다.
유효한 질문들은 이렇다
요즘 낭독의 묘미에 빠진 터라, 책의 일부 대목을 독서모임에서 돌아가면서 소리 내어 읽었다. 그냥 눈으로 읽기보다, 실제 질문을 각자 마음에 좀 더 깊이 각인하고 싶은 욕심이었다. 과욕을 부릴 정도로 질문들이 좋았다. 그 욕심, 인용 길게 하는 이유다.
”.. 그렇다면 전쟁 범죄를 이유로 살인 로봇을 처벌해야 할까? 민간인을 살해한 드론에게 무기징역을 선고해야 할까?.. 그 기계들이 우리 심판에 불만을 품으면 어떻게 반응할까? 미래에 가장 똑똑한 재판관이 인공지능이라면 어떻게 될까? .. 인공지능을 죽이는 게 가능하기는 할까?… 우리는 탄소에 기초를 둔 반면 인공지능은 실리콘에 기초를 두기 때문에 그 차이로 인공지능의 생명은 덜 중요할까? 우리의 지능이 향상되어 생물에 기반한 컴퓨터 시스템을 만들어낸다면 어떻게 될까?.. 인공지능에게 지능과 경험, 윤리관과 가치관 이 있다면, 겉모습 색깔이 중요하지 않은 것처럼 그것이 무엇으로 이뤄졌느냐도 중요하지 않을 것이다. 우리가 기계를 차별하면 기계는 어떻게 반응할까? … 일론 머스크가 예측하듯이 우리가 사이보그가 되어 우리 지능을 기계의 지능에 연결함으로써 확대하면, 가난한 사람과 하나로 통합된 기계보다 부자를 지원하는 기계를 더 소중하게 생각할까? 그럴 경우 가난한 기계는 어떻게 느낄까? 그런데 가난한 사람에게도 기계와 통합할만한 재원이 있을까? 이런 새로운 형태의 디지털 지능 격차를 만드는 게 윤리적일까? … 가상 악행은 어떻게 될까?.. 몽환적인 섹스 로봇으로 기능하는 인공지능이 강간을 당하면 그 강간범을 처벌해야 할까? 처벌하지 않는다면 그 로봇은 결과적으로 무엇을 배우게 될까? 우리가 섹스 로봇을 우선적으로 제작함으로써 그 로봇에게 인간에 대해 무엇을 가르치고 있는 것일까? … 인간이 인간에게 저지르면 잘못된 악행이지만 기계에게는 괜찮은 행동이 있을까? 그 판단은 누가 내리는가? 그런 로봇이 지능을 발휘해 어떤 악행은 저질러도 괜찮다는 걸 깨닫고는, 악행을 저지르기 시작하면 어떻게 될까? 순종적이고 피학적인 성적 취향을 지닌 사람의 욕망을 채워주는 로봇을 제작하면 어떻게 될까? 이때 인공지능이 가하는 폭력은 용납되는 것일까?…”
AI가 인류의 행복을 위해, 도파민을 더 자주 분비하도록 유전자를 재구성한다? 저자는 인간이 실제 원하는 것이 무엇인지 질문을 이어간다. 우리가 행복하기를 바라는 것만으로 부족하다. 우리가 행복하려고 다른 사람의 행복을 빼앗지 말라고 가르쳐야 한다. 우리가 다른 사람의 행복도 바란다는 인간의 의도를 AI에 새겨줘야 한다는 얘기다. 이런 식으로 생각에 생각을 더한 덕분에 사실 이 책의 결론은 저자도 예상 못했다고 고백하듯, 사랑이다. 무조건적인 사랑. 인간이 인간에게 하듯, AI도 인간을 대할 거라, 인간인 우리가 서로 잘해야 하고, 하여간에 애들 배우고 따라할까 무서워 좋은 어른이 되어야 하듯, 인간의 숙명에 짐이 하나 더 얹어졌다. 그게 공존이다. 우습지 않다. 솔직히 인간 따라하는 인간보다 똑똑한 초지능, ‘Scary Smart’가 등장하는데 더 나은 시나리오가 가능할까?
실리콘밸리의 최전선에 있던 경력과 달리 저자가 다른 이들과 조금 결이 다른 것은 아들을 잃은 개인적 경험 탓이라 추정된다. 인간의 깨달음이 선을 넘는 과정에서는 꼭 그런 아픔이 필요할까 싶지만, 모 가댓은 행복전도사로서도 유명하다. 그의 ‘happiness equation’ 영상들 링크도 붙여본다.
트레바리 기막힌논픽션 클럽에서 함께 읽은 책. 당시 내 발제다.
<AI 쇼크, 다가올 미래>
1. 저자의 생각, 우리의 생각
- 저자에게 동의하나요? 인공지능의 발전은 특이점을 훅 넘을까요?
- 디스토피아? 효율적 이타주의? 효율적 가속주의? 님은 어떤 쪽이어요?
- 지각과 감정을 아는 AI가 될까요?
- 결국 통제가 아니라 윤리 문제라는 주장에 동의하나요?
2. 우리의 미래
- 사랑과 배려가 넘치는 기계로 키운다? 과연?
- 기계의 윤리는 사람을 가치에 따라 줄세울 수도 있는데 자유와 평등이 유지될까요?
- 10억명 행복. 긍정 다단계 들어가볼래요?
- 인류가 (기계 위해) 나아질까요?
