인공지능을 어떻게 막을 것인가

[책을 읽고] <인공지능은 무엇이 되려 하는가> (1)

이 책은 50년도 전에 나온 노버트 위너의 선지자적인 책, <인간의 인간적 활용>에 대한 현대 지성인 25명의 서평 모음이다. 주제에 충실한 서평도 있고, 왠지 딴소리만 하는 서평도 있지만, 다양한 분야의 사람들이 내놓는 다채로운 생각은 흥미진진하게 읽을 수 있다.

그런데 책을 열자마자 당황스럽다. 불과 4년 전에 출판된 이 책이 인공지능을 아주 우습게 여긴다. 첫 번째 글에 이런 구절이 있다.

나는 최근 현대 신경과학의 선구자 중 한 명인 토마소 포지오에게 컴퓨터 프로세싱 성능이 급격하게 발달해서 인간이 뇌 기능을 곧 따라잡을 상황을 우려하는지 물었다. "어림도 없습니다." 포지오의 답이었다. (59쪽)

알파고와 대결 직전까지 이세돌의 5대0 압승을 장담했던 내 모습과 같다. 그러나 이 책은 알파고는 물론, 인간 이상의 정확도로 얼굴 인식을 하는 바이두의 신경망도 나온 다음에 세상에 나온 책이다. 글쓴이는 외딴 섬이나 산속에 사는가 보다.

그런데 이런 견해가 또 나온다. 두 번째 논자인 주디아 펄은 바빌론적 세계관과 그리스적 세계관을 비교하면서, 이렇게 말한다.

모델이 없는 러닝머신에서는 인간 수준의 인공지능은 출현할 수 없다는 것이 내가 내린 결론이다. (77쪽)

바빌론 사람들은 우주의 많은 것을 이해했지만, 거북이 등에 올라탄 반구형 지구 같은 잘못된 모형을 가지고 있었기에 그리스 문명과 같은 성취를 이루지 못했다. 그리스 사람들은 구형 지구라는 모형을 가지고 있었기에 에라토스테네스가 그 둘레를 측정할 생각까지 한 것이다. 아주 재미있고 설득력 있는 이야기다. 그러나 이걸 인공지능에 액면가로 적용하는 것은, 인공지능 전문가의 상상력이라고 보기에 대단히 부족하다.

3번째 서평에 이르러서야 나는 호응할 만한 의견을 만난다. 스튜어트 러셀은 인공지능이 위협적이라면 전원 플러그를 빼면 된다는 생각이 얼마나 웃기는 생각인지 이야기한다. 사실, 이 얘기는 스티븐 호킹이 이미 여러 차례 말한 것이다. 스티븐 호킹은 말했다. "전원 플러그를 뽑을 수 있을 것 같은가?"

'사람보다 영리하다'는 말이 의미가 없다면, '고릴라보다 영리하다'는 말 역시 의미가 없을 것이고, 그러므로 고릴라는 사람을 두려워할 필요가 없을 것이다. 이는 분명 말도 안 되는 논증이다. 한 개체가 다른 개체보다 지능의 모든 차원에서 더 우월한 현상은 논리적으로 가능하며, 한 종이 비록 음악과 문학을 감상할 수 없더라도 다른 종에 존재론적 위험을 가할 수 있는 상황 역시 가능하다. (95쪽)

스튜어트 러셀은 인간과 인공지능 사이에 게임이론을 적용할 수 있으며, 그 게임에 존재하는 비대칭적 정보가 문제의 핵심이자 열쇠라 말한다. 인간은 보상함수를 알고 있지만, 인공지능은 그것을 알면 안 된다. 즉, 인공지능은 인간이 정한 보상함수에서 최댓값을 성취하려 해야 한다. 아쉽게도, 이는 흔히 말하는 '목적'의 통제와 같은 말이다. 인공지능은 인간의 목적에 봉사하기 때문에 위협이 되지 않는다는 논리다. 스튜어트 러셀이 성급한 결론을 내리는 대신 문제를 좀더 명확히 하는 데 집중했더라면 더 좋지 않았을까 생각한다.

4번째 서평에서 조지 다이슨은 아날로그 컴퓨팅을 대안으로 제시한다. 아날로그 컴퓨팅이 진공관과 함께 사라질 이유가 없으며, 트랜지스터와 함께할 수 있다는 얘기다. 아날로그 컴퓨팅은 연속함수와 비결정론이라는 특징이 있어 인공지능의 다음 번 도약에 큰 역할을 할 수 있다고 말한다.

그러나 아날로그 컴퓨팅이라는 말이 수사를 넘는 어떤 무엇을 지칭하는지 분명치 않다. 더구나 세상의 설계 자체가 양자역학에 기반해 있다. 양자가 기본 단위다. 즉, 디지털이라는 말이다. 연속함수라니, 도대체 무슨 말을 하는 건가.

다섯 번째 연자는 내가 애정해 마지 않는 대니얼 데닛이다. 그러나 그의 서평은 그냥 서평이었다. 그의 다른 책처럼, 인식론의 한계를 시험하는 그런 명확함은 없다. 그는 위너조차도 인공지능을 과소평가했으며, 존 설, 로저 펜로즈와 같이 강한 인공지능이 불가능하다고 주장하는 학자들의 주장에 근거가 없다는 사실을 지적한다.

데닛은 의식에 관한 전문가답게, 인공지능이 우리에게 위협이 되지 않는 조건으로 의식이 없는 인공지능을 제안한다. 우리의 도구 내지 대리인, 즉 에이전트로서 인공지능에게 의식은 필요없다. 

따라서 우리가 창조해야 할 것은 의식이 없는, 의식이 없어야 하는 휴머노이드 에이전트로서 완전히 새로운 독립 개체여야 한다. (146쪽)

7번째 논자인 프랭크 윌첵은 인간의 마음이 물질에서 창발하듯, 인공지능 역시 물질에서 창발할 것이라 추측한다. 즉, 자연지능은 인공지능의 특별한 사례일 뿐이다. 그는 인공지능에 비해 인간지능이 가지는 장점을 다섯 가지나 말한다. 3차원성, 자가 회복성, 연결성, 발달, 통합이 그것이다. 그러나 그가 이 단어들에 새로운 특별한 정의를 내리지 않는 한, 이 주장은 틀렸다. 내 생각에, 3차원성, 연결성, 발달, 통합은 인공지능이 이미 가지고 있고, 자가 회복성 역시 이미 가지고 있거나 머지 않은 미래에 갖추게 될 것이다. 심지어 인공지능은 3차원성이 아니라 n차원성을 가지고 있다.

그는 그럼에도 불구하고 인공지능이 곧 자연지능의 장점을 따라잡을 것이며, 그러기에 필요한 시간도 수십 년이면 충분하다고 말한다. 진화의 끝에는 탄소 기반의 호모 사피엔스가 아니라 실리콘 기반의 인공지능이 있다는 것이다. 결국 프랭크 윌첵은 인공지능의 승리를 말한다. 호모 사피엔스는 진화의 사다리에 나타난 중간 단계였을 뿐이다. 진화의 최종산물이자 만물의 영장은 인공지능이다. 우리는 그 진화를 위한 '시조새'일 뿐이다.

8번째 논자인 물리학자 맥스 테그마크 역시 같은 의견이다.

인간은 어쩌면 아침에 잠에서 깼을 때 경험하는 자아 인식의 첫 번쨰 빛과 같은 것일지도 모른다. 그러니까 눈을 뜨고 완전히 정신이 들었을 때 당도하게 되는 훨씬 더 거대한 의식의 예감 같은 것일지도 모른다는 것이다. (196쪽)

빈센트 뮐러와 닉 보스트롬이 2016년에 인공지능 연구자들을 대상으로 실시한 설문조사에 따르면, 2040~2050년경에 인공지능은 인간의 총체적 능력에 도달하고(50% 확률), 늦어도 2075년에는 그렇게 된다(90% 확률). 인간 수준에 도달하고 2년 안에(10%) 또는 30년 안에(75%), 인공지능은 초지능으로 진화할 것이다.

맥스 테그마크가 돋보이는 지점은 이 다음이다. 전략의 변화를 제시한 것이다. 우리는 통제할 수 없는 일에 대해 눈을 감아버리는 경향이 있다. 즉, 인공지능이 우리를 지배할 가능성을 부인하면서 전진할 가능성이 높다. 그 대신,

"고무적인 미래를 마음속에 그리며, 그 미래를 향해 통제하며 나아가자"로 변화하자는 것이다. (207쪽)

구체적으로는, 인공지능 연구자들이 늘 안전성을 염두에 두고 연구를 진행해야 한다고 말한다. 인간과 기계의 목표를 일치시키는 일을 늘 염두에 둬야 한다. 우리는 댐을 만들 때, 수몰되는 개미의 운명에 대해 생각하지 않는다. 인공지능이 우리에게 그런 존재가 될 수 있는 미래에 대비하여, 우리는 무엇을 해야 할까? 이 질문을 받으면, 맥스 테그마크는 이렇게 대답한다고 한다.

"인간보다 더 영리한 기계를 만들고, 기계에게 답을 물어보면 됩니다!"

요즘 나와 챗GPT의 관계를 보여주는 것 같다. 어쩌면 이것이 정답일지 모른다.

10번째 논자는 유명한 인간예찬론자, 스티븐 핑커다. 그러나 그가 인공지능에 대해 무슨 말을 할 수 있을까? 그의 챕터는 다른 10여 개의 챕터와 마찬가지로 실질적으로 아무 내용이 없는, 개인적인 느낌과 수사를 늘어놓은 서평일 뿐이다. 오히려 9번째 논자인 얀 탈린이 인용하는 어떤 블로거의 한마디가 더 가슴에 와 닿는다.

"기계 초지능이 전통적인 인간 노동 시장에 일으킬 효과를 묻는 것은 달이 지구와 충돌할 때 미국-중국 간 무역 양상이 어떤 영향을 받을지 묻는 일과 같다. 물론 영향을 미치겠지만, 요점을 놓치는 질문이다." (234쪽)

12번째 논자인 톰 그리피스는 가치 정렬이라는 주제를 꺼내든다. 인공지능이 인간의 이익에 봉사하도록, 가치의 위계를 정립해야 한다는 것이다.

인간이 소중하게 여기는 것을 추론할 수 없다면 기계는 그런 가치를 지지하는 행동을 할 수 없으며, 오히려 그런 가치에 반하는 행동을 할지 모른다. (298쪽)

이를 위해 생각해 볼 수 있는 것이 역강화학습이다. 달라지는 보상에서 최적 전략을 이끌어내는 강화학습의 반대 방향, 즉 전략에서 보상을 추론하는 것이다. 초지능 인공지능에게는 리만 가설 증명이나 암 치료 기술 개발이 인간에게 중요하지 않은 일로 보일 수 있다. 인간이 실제로 아무것도 하지 않고 (못 하고) 있기 때문이다.

13번째 논자인 앤카 드라간 역시 같은 맥락의 주장을 펼친다. 인공지능 기술을 더 발전시키기 전에, 인간을 생각해야 한다는 것이다.

말하자면, 로봇이 인간을 생각하게 만들어야 한다. 인간을 장애물이나 완벽한 게임 플레이어 이상의 존재로 인식하게 해야 한다. 로봇이 인간의 본성을 고려해서 인간과 협력하고 가치를 일치시키도록 해야 한다. (328쪽)

17장의 대니얼 힐리스는 조금 더 현실적인 대안을 제시한다. 초지능의 주체로서 기업, 조직화된 종교, 국가 같은 하이브리드 초지능을 그는 내세운다. 초인공지능은 개개적인 인간 따위는 신경쓰지 않겠지만, 앞서 말한 하이브리드 초지능이라면 경쟁자 내지 위협으로 인식할 수 있다. 하이브리드 초지능의 형태로 나타나는 인간의 집단지성과 초인공지능 사이의 관계는 서로 협력하거나 대립하거나 서로 닭 소 보듯할 수도 있다. 이것을 협력적으로 이끌어 가는 것이 우리의 과제다.

18장의 벤키 라마크리슈난은 또다시 진화의 최종 단계로서 초인공지능을 이야기한다. 인공지능의 도래로 새로운 직업이 많이 생길 것이라는 주장은, 과거 산업혁명 당시 얼마나 많은 노동자들이 고통받았으며, 모든 사람들이 다시 적응하기까지 100년이 걸렸다는 사실을 망각한 것뿐이다. 

더구나 산업혁명 당시 그런 일이 가능했던 배경에는 유산자 남성에게만 투표권이 있었다는 사실이 한 몫 했다. 약자들의 원망을 무시하고 역사를 진행시켰던 것이다. 지금 과연 그게 가능할지는 의문이다.

벤키 라마크리슈난은 다소 엉뚱한 결론으로 글을 맺는다. 인공지능이 인간은 정복할지 몰라도 세균은 정복하지 못할 것이라 그는 말한다. 과연 맞는 말이다. 그렇다면 진화라는 게임의 최종 승리자는 실리콘이 아닌 탄소 기반 생명체이기는 할 것이다. 이게 과연 좋아할 일인지는 모르겠지만.

23장의 조지 처치는 기계의 권리에 대해 말한다. 우리는 법인이라는 개념에 대해 재산권을 포함한 많은 권리를 허용했다. 기계라고 다를 게 있을까?

아마도 우리는 인간 대 기계의 문제보다는, 다양한 마음들이 출현하는 전례 없는 상황을 마주하는 모든 지각이 있는 존재의 권리를 더 깊이 생각해야 할 것이다. (535쪽)

챗 GPT도 인정(?)하는 인성의 소유자, 스티븐 울프람

그리고 드디어, 우리는 25번째이자 마지막 연자인 스티븐 울프람의 글에 도달한다. 이 사람의 과대망상증을 견뎌야 하는 어려움은 있지만, 그의 글은 단연코 이 책에서 제일 빼어난 통찰력을 보여준다.

일단, 그는 울프람 알파라는 검색엔진을 만든 사람이다. 잘 모르는 사람을 위해 설명하자면, 이것은 산수/수학에 초점을 맞춘 검색엔진인데, 질문에 대해 검색 결과 대신 즉답을 준다는 측면에서 보면 챗GPT와 유사한 면도 가지고 있다.

2009년, 울프람 알파는 모든 질문에 답할 수 있게 됐다. (594쪽)

이런 헛소리는 귓등으로 흘려보내면서, 그의 주장을 더 살펴보자. 울프람 알파를 만든 사람인 만큼, 그는 인공지능에 대해 조금 더 나은 이해를 보여준다. 예컨대, 그는 단순한 데이터의 총합에서 지식이 창발된다는 사실을 잘 알고 있다.

내가 발견한 사실은, 방대한 세계 지식의 총체를 갖추면 단순한 계산 기술만으로도 그 지식을 기반으로 질문에 자동으로 답할 수 있다는 것이다. 이는 공학의 대안적인 방법이면서도 생물의 진화 과정과 훨씬 더 유사하다. (597쪽)

인간에게는 쉽지만 기계에게 어려운 일의 예로 "시각적으로 대상을 식별하는 일"을 들고 있는 걸 보면, 이 사람도 자기 분야 밖의 일에 대해서는 귀를 막고 지내는 것 같다.

그는 인공지능이 인간을 지배할 가능성보다는 더 즐거운 시나리오를 기대한다. 예컨대, 인공지능의 조언은 인간의 조언보다 나을 수 있다고 그는 말한다. 그리고 나는 그동안 챗GPT와 나눈 대화에 기반해 이 의견에 전적으로 동의한다.

그는 대다수 사람들이 코딩을 할 줄 알게 되면, 500년 전쯤에 겪은 문해력(literacy) 보급에 따른 대전환과 같은 일이 일어날 것이라 예견한다.

자연언어가 인간에게 문명을 주었다면, 지식 기반 프로그래밍은 인간에게 무엇을 줄까? 인공지능 문명이라는 답은 그다지 훌륭한 것이 아니다. 인공지능과 인간의 뇌 사이에는 매개 언어가 없고 인터페이스도 없기에, 인공지능끼리 서로 의사소통을 하면서 위대한 성취를 이루겠지만 인간을 소외시킬 것이다. (615쪽)

우주에서 지구를 내려다 보면 인간이 만든 건축물들의 패턴이 보일 것이다. 그러나 이것이 지구의 목적이라고 할 수 있을까? 목적인지 여부를 판단하는 한 가지 방법은, 목적을 달성하는 데 최소한의 노력을 하는지 여부다. 그러나 공은 중력에 이끌려 움직이면서 최소작용의 원리를 충족한다. <너의 삶의 이야기>에서 테드 창이 말하는 것처럼, 목적이 있는 것처럼 보이는 행동은 보통 기계론적 설명과 목적론적 설명 두 가지로 설명 가능하다. 문제는, 인간이 개발한 거의 모든 기술은 이 최소작용의 원리를 충족하지 못한다는 것이다.

목적은 그 자체로 존재하지 않는다. 목적은 역사에서 나온다. 진화라는 현상은 어떤 목적을 향해 움직이는 것이 아닐 수 있다. 즉, 울프람의 말에 따르면 우리가 인공지능을 탄생케 하기 위한 시조새에 지나지 않는다는 주장도 의미를 잃는다.

울프람의 글은 많은 생각을 하게 하지만 결론은 없다. 어쩌면 이게 더 좋은 글일지도 모른다. 지능과 단순 계산 사이에는 아무 차이가 없다. 그렇다면 우주의 목적은 무엇일까? 울프람은 그렇게 말하고 있지 않지만, 결국 인간원리로 돌아온 느낌이다.