인공지능: 기계를 위한 인간, 인간을 위한 기계
가장 인간다운 인간 [초개인] (4)
Max Richter - On The Nature Of Daylight (Entropy)
'인간다운 인간’이 만들어낸 발명 중 매우 각광받으면서도 동시에 인간다운 인간을 위협하는 모순적 상황에 놓인 기술 중 대표적인 것을 꼽으라면 ‘인공지능’일 것입니다. 2017년 1월 미국 캘리포니아주의 알실로마에 세계적 석학과 산업 권위자들이 모였습니다. ‘물리학과 우주론의 근본적 질문을 위한 재단 FQXI, Foundational Questions Institute‘이 후원하는 한 컨퍼런스에 참석해 인공지능 문제를 다루기 위함이었습니다.
이 모임에는 구글의 경영진 에릭 슈미트 Eric Emerson Schmidt, 래리 페이지 Lawrence Edward "Larry" Page, 그리고 구글의 핵심 개발자 였단 레이 커즈와일 Raymond "Ray" Kurzweil, 데미스 하사비스 Demis Hassabis, 피터 노빅 Peter Norvig 등이 참석했습니다. 또 인공지능의 대가라 불리는 앤드루 응Andrew Ng, 얀 르쿤Yann LeCun 등도 있었습니다. 이들이 이 자리에서 논의한 요지는 인공지능이 머지않아 인간의 지능을 초월할 것이며 그것이 세상에 끔직한 위협이 될 수 있다는 점을 알리기 위함이었습니다.
그런데 아이러니하게도 '그 위협은 누구 때문에 임박한 것일까?' 바로 여기 모인 사람들, 인공지능을 앞다투어 개발하고 발전시키고 있는 실리콘밸리, 더 나아가 수많은 컴퓨터 기술 기업, 연구자 자신이었습니다. ‘물리학과 우주론의 근본적 질문을 위한 재단FQXI, Foundational Questions Institute‘의 리더 MIT 물리학자 맥스 테그 마크는 기계가 인류 사회 및 경제의 최고 명령권을 인간에게서 넘겨받는 시점이 분명이 온다고 주장합니다. “기하급수적으로 성장해 현재의 처리능력을 갖추 모든 프로세스들은 앞으로도 계속 규칙적으로 두 배씩 능력을 키워갈 것이고, 결국 나중에는 기하급수적 폭발exponential explosion에 이를 것이다.[1]"
테그마크는 IBM의 왓슨, 체스 챔피언 빅 블루Big Blue, 구글 딥마인드, 자율주행 프로그램 등과 같은 온갖 인공지능 프로그램들이 거둔 성과를 통해 우리 인간으로서는 도무지 그 깊이를 알 수 없는 초지능super-intelligence가 나타날 징후가 보인다고 주장합니다. 레이 커즈와일은 과감하게 그 시간을 2049년이라 주장했습니다. 가히 인공지능의 위협은 현실로 다가온 것일까요? 수많은 인공지능 전문가들이 말하는 것처럼 강한 인공지능이 인간과 같아지거나 혹은 초월하는 어떤 날이 머지않은 시기에 도래할까요?
학자이자 저널리스트 조지길더 George Guilder는 이에 대해 다음과 같이 반문합니다.‘1초에 수백만 번의 반복적인 연산을 하는 이 기계는 곧 인간이 지금까지 기록한 바둑의 모든 기보를 자기 경험 가운데 지극히 한 부분으로 만든다. 이 기계가 하는 일이 마치 우주탐사 로켓이 인간의 서식지를 넘어서는 우주의 어떤 영역을 ‘발견’하는 것과 마찬가지로 인간의 능력을 넘어서는 수백만 가지의 해법을 ‘발견’하는 것이라고 말할 수도 있다. 그러나 반복연산의 속도를 지능이라고 할 수는 없다.’[2]
조지 길더는 어쩌면 가장 높은 지능 수준에 이른 인간들이 어떤 순간 자신들이 만들어낸 기술에 대해 크게 오해하고 있는 것 아닌지 우려합니다. ‘아실로마의 종말론자들은 연산 속도와 지능의 차이, 즉 프로그램화 할 수 있는 기계와 그것을 다루는 프로그래머의 차이를 놓치고 있다.’[3]
미 철학자 존 설John R. Searle과 휴버트 드레이퍼스Hubert L. Dreyfus는 이보다 앞서 흥미로운 논증과 의문을 제기한 적이 있습니다. 존 설은 인간의 두뇌와 기계의 두뇌(인공지능)은 본질적으로 다르며 이 두가지가 결코 유사한 가치로 판단될 수는 없다고 주장하기 위해 중국어 방이라는 사고실험을 제안했습니다. 존 설의 논문에 따르면 인공지능을 지배해 온 사상, 예를 들어 강한 인공지능의 기본사상인 '인간의 마음과 두뇌와의 관계가 컴퓨터의 프로그램과 하드웨어와의 관계와 같다'는 생각은 근본적으로 오류가 있다는 것입니다. 중국어 방 논변은 바로 그 주장이 거짓임을 논박하기 위해 가상으로 가정된 상황입니다. 1980년대 이후로 인공지능의 본성과 그 범위나 한계의 문제를 논의할 때마다 이 논변은 자주 언급되었는데 그 내용은 다음과 같습니다.
“나는 강력한 AI를 반박하는 여러 논증들 중 가장 잘 알려진 것이 나의 중국어 방 논증이라고 믿는다 …(중략)… 인간의 인지 능력 중 일부, 가령 중국어를 이해하는 능력을 완벽하게 모방하는 프로그램을 가진 체계라 해도 중국어에 대해 이해하지는 못한다는 걸 보여주었기 때문이다. 상상해보자. 중국어를 전혀 이해하지 못하는 사람이 방에 갇혀 있다. 방 안에는 중국어 문자들이 적힌 카드들과 중국어로 된 질문에 답하도록 구성된 컴퓨터 프로그램이 있다. 그 방이라는 시스템에 중국어 문자로 된 질문을 입력한다. 그러면 질문에 대한 대답이 중국어 문자로 적힌 출력으로 나온다. 프로그램이 매우 뛰어나서 질문에 대한 답만 봐서는 진짜 중국인이 대답하는 것으로 착각할 정도라고 하자. 그러나 방 안에 있는 사람이나 시스템을 구성하는 어떤 부품도 중국어를 이해하지는 못한다는 것이 분명하다. 시스템 전체가 갖지 못 한 무언가를 프로그램된 컴퓨터가 갖고 있는 것도 아니다. 따라서 프로그램된 컴퓨터는 중국어를 이해하지 못한다. 프로그램은 순전히 형식론적이거나 구문론적인 반면 인간의 마음은 정신적이거나 의미론적인 내용을 담고 있다. 컴퓨터 프로그램으로만 마음을 모방하려는 시도는 마음의 본질적 특성을 놓치고 있는 셈이다.”[4]
존 설의 중국어 방 논변에 의하면 디지털 컴퓨터는 다분히 형식적이고 구문론적이기 때문에 기술이 아무리 발전해도 심리적 과정이라는 의미론적 내용을 지닌 지능의 일을 해낼 수 없습니다. 중국어 방 사람이 제 아무리 중국어로 해답을 잘 해낸다고 하더라도 규정을 다루는 절차만 익힌 그가 중국어를 마음으로 이해하고 있다고는 할 수 없기 때문입니다.
휴버트 드레이퍼스Hubert L. Dreyfus 역시 우리가 기술, 인공지능을 판단하고 생각함에 있어 유사한 관점을 제시합니다. 그에 따르면 인간의 사고와 행위는 인공지능의 ‘형식’과 질적으로 다릅니다. 인간의 사고와 행동은 우리가 이미 알고 있는 복잡한 '맥락context’ 속에서 일어납니다. 이것은 컴퓨터가 정보를 처리하는 선형적인 방식이 아니라, 거의 무의식적으로, 직관적으로, 여러 단계를 건너뛰면서 나타납니다. 드레이퍼스 는 AI가 이런 “맥락”을 포함하지 않는 한 실패할 수밖에 없는 프로그램이라고 비판합니다. 그런데 그가 인공지능이 왜 인간이 갖는 복합적인 ‘상황 맥락’을 가질 수 없는지 제시한 이유가 좀 더 근본적이고 흥미롭습니다. ‘기계는 인간과 같은 욕구를 갖고 있지 않다.’
드레이퍼스에 따르면 인간과 인공지능의 결정적인 차이는 욕구의 유무입니다. 그에 따르면 기계에 목적 명령어를 입력하는 것과 인간이 욕구를 가지는 것은 전혀 다른 종류의 문제입니다. 기계의 목적은 (인간이 제시한) 문제 해결을 위한 것이며 일단 문제가 해결되면 목적이 해야 할 역할은 더 이상 없습니다. 하지만 인간의 욕구는 단지 만족하는 데에서 그치지 않습니다. 그는 인간의 욕구가 기계의 목적과 달리 끊임없이 변화한다는 점을 강조합니다. 그에 따르면 인간의 욕구는 기계의 목적처럼 사전에 목록으로 저장할 수 없습니다. 결국 컴퓨터가 인간처럼 사고할 수 없는 이유는 바로 컴퓨터가 끊임없이 변화하는 인간의 욕구를 고정된 사실과 규칙으로 표현할 수 없기 때문입니다.
강한 인공지능이 인간과 같아지거나 혹은 초월하는 어떤 날이 도래할까? 물론 일어나지 않는 미래에 대해서 어떤 식으로든 예단하는 것은 위험할 것입니다. 때문에 우리가 섣불리 뭐라 답하기는 어렵습니다. 그리고 사실 그 질문 자체는 우리의 관심사가 아닙니다. 다만 우리는 적어도 존 설과 휴버트 드레이퍼스의 관점에 우리가 반드시 깨달아야 할 중요한 통찰이 있다고 믿습니다.
점점 가속화되는 기술의 혁신, 그리고 기술 혁신에 따른 사회경제적 팽창과 패러다임의 대전환이 이뤄지고 있는 시기인 것은 맞지만, 사실 가만히 생각해보면 그 핵심 동력이 ‘기술’ 그 자체가 아니라는 사실을 말입니다. 기술, 그보다 중심에 있는 것은 기술개발, 혁신을 향해 돌진하는 인간의 마음과 의지, 욕구가 아닐까요?
기술의 발달과 성장, 성공 그 반대편에서 필연적으로 생산되는 오용과 악용, 그에 반대급부로 등장하는 기술 거부, 맬서스 주의와도 같은 파괴주의 마저도 생각해보면 ‘기술’ 자체의 의지와 욕망 때문에 벌어지고 있는 상황이 아니라 우리 인간의 의지와 욕망 때문임을 누가 부인할 수 있을까요?
많은 지식인들은 인공지능이 인간의 지능을 넘어 인간세계를 파괴할 것을 우려했습니다. 하지만 과연 그 파괴가 ‘인간을 넘어선 초지능’ 때문일까요? 컴퓨터의 역사를 과거로 돌려서 다시한 번 생각해 봅시다. 컴퓨터에 관한 부정적 사건을 돌이켜 보았을 때 조금 과장해서 말하면 컴퓨터는 죄 속에서 잉태되었다고도 할 수 있습니다.
컴퓨터의 탄생으로 냉전기간 강대국들의 파괴력이 엄청나게 높아졌기 때문입니다. 컴퓨터 탄생에 크게 일조한 헝가리 출신의 수학자 폰 노이만Von Neumann은 제 2차 세계대전이 끝나갈 무렵부터 컴퓨터를 만들겠다는 강한 야심을 가졌습니다. 그는 전쟁 후반부 원자폭탄 프로젝트에 매달렸습니다. 충격파에 관한 수학 전문가로 선발되었기 때문입니다. 그의 계산 덕분에 원자폭탄의 연쇄반응을 일으키는 ‘내폭 렌즈implosion lens’를 개발할 수 있었습니다. 그러난 과정에서 노이만은 IBM에서 개발한 기계식 도표작성기를 활용했습니다. 폰노이만은 그 경험을 계기로 보다 범용적인 기계를 창조하기를 갈망했습니다. 폰 노이만은 컴퓨터를 물리적으로 구현하는 세부 사항에는 별 관심이 없었습니다. 하지만 그는 실력 있는 팀을 꾸려 수석 엔지니어 줄리언 비글로Julian Bigelow에게 책임을 맡기고, 자신은 유능한 관리자로 나섰습니다.
비글로는 이렇게 회상했습니다. “폰 노이만이 우리에게 조언을 했는데 뭐든 독창적인 시도를 하지 말라는 것이었다.” (테일러리즘과 유사하지 않은가요?) 폰 노이만은 자신의 논리 구조를 실현하는데 꼭 필요한 일에만 엔지니어의 임무를 국한시켰고, 아울러 매니악이 수속폭탄 제작에 중요한 계산을 제때에 하도록 만들기 위해 만전을 기했습니다.
물리학과 수학의 힘으로 사실 ‘초강력 폭탄’인 수소 폭탄은 일찌감치 1942년 예견되었습니다. 수소폭탄이 터지게 하려면 히로시마와 나가사키를 초토화시킨 폭탄의 수천 배나 되는 파괴력이 필요합니다. 당시 많은 과학자들은 그것이 이론적으로는 가능하지만 그것이 ‘어느모로보나 확실히 사악한 것’이기 때문에 반대했습니다. 하지만 폰 노이만은 찬성했습니다. 또다른 세계 대전을 막기 위해서라도 조금도 주저해선 안 된다고 주장했습니다.
폰 노이만을 비롯해 소수의, 하지만 열렬한 열망을 지닌 과학자, 수학자들은 첫 설계안을 내놓았습니다. 핵심 인물이 에드워드 텔러Edward Teller와 스타니슬라프 울람Stanislaw Ulam이었습니다. 이들은 폰 노이만과 군의 지원을 받았습니다. 처음에는 오류가 있었습니다. 하지만 이내 성공할 수 있는 대안을 내놓았습니다. 그 방법을 찾았을 때 많은 과학자들은 그 매력적인 유혹에 반대에서 ‘적어도 만들어 보긴하자’는 찬성으로 넘어갔습니다.
당시 프린스턴 고등과학연구소 소장 자리에 있던, 원자폭탄 프로젝트를 이끌었지만 그 파괴력을 실감한 이후 수소폭탄 프로젝트를 반대했던 로버트 오펜하이머도 “기술적으로 너무나 근사해서”, “적어도 만들어보기는 해야할” 것이라 말했습니다. 그 과정에서 폰 노이만의 컴퓨터가 작동했습니다. 원자핵융합반응에 관한 꼐산은 1951년 여름에 하루 24시간씩 60일 내내 실행되었습니다. 컴퓨터 매니악은 그 작업을 완벽하게 해냈습니다. 이듬해 ‘아이비 마이크’가 남태평양에서 폭발했고 엘루겔라브 섬은 지도에서 사라졌습니다.
영화 [오펜하이머]의 한 장면그런데 여기서도 현시대 알실로마에서 벌어졌던 유사한 패턴의 일이 벌어집니다. 수소폭탄이 만들어지고 난 이후 폰 노이만이 해당 프로젝트에서 떠나고 또 불과 2년 후 골수암에 걸려 세상을 떠나자 컴퓨터 프로젝트 역시 완전히 폐기된 것이었습니다. 1958년 컴퓨터 매니악은 영원히 작동을 멈추었습니다. 수소폭탄 프로젝트를 지원하고 독려했던 수뇌부는 컴퓨터가 재앙을 불러올 수도 있는 ‘악마’와 같은 존재라고 믿었습니다.
그런데 정말 컴퓨터가 죄악이었던 것일까요? 컴퓨터의 역사에서 우리가 기억해야 할 인물은 폰 노이만 이전에 앨런 튜링입니다. 튜링은 ‘추론은 계산으로 환원될 수 있을까? 특정한 전제들의 한 집합으로부터 특정한 결론이 논리적으로 도출되는지 여부를 결정할 자동화된 절차가 존재할까? 그 질문에 대해서 튜링은 그런 자동화된 절차가 존재할 수 없음을 수학적으로 증명해 냈습니다. 그 과정에서 튜링은 계산 가능성의 한계를 정의한 이상화 된 기계를 구상해냈습니다. 바로 ‘튜링 기계’ 입니다. 그 기계가 사실상 폰 노이만에게도 강력한 영감을 준 물리적 컴퓨터로 실현되게 됩니다. 그런데 동시에 우리가 기억해야 할 것은 ‘신탁’입니다. 컴퓨터가 제대로 작동하기 위해는 결국 신탁(시스템 바깥에 존재하는 지능의 원천)이 필요하다는 것입니다. 그가 신탁에 대해 할 수 있는 말은 ‘그것은 기계일 수 없다’는 것 뿐이었습니다. 이는 괴델의 불완전성 원리- 어떤 논리체계도 스스로 자신이 무모순임을 보일 수 없음-을 따르는 것이기도 했습니다.
목적의식성과 자유의지는 자기지시적입니다. 우리가 이 목적의식성을 받아들이지 않고는 마음을 설명할 수 없습니다. 슈퍼 인공지능 과학자들은 기계가 충분히 지능적이 되면 목적의식성을 가진 것으로 인식될 것이라 주장하지만 당장 튜링과 괴델의 증명에서부터 이는 사실이 아니며, 단지 순환 논법의 오류에 해당하는 표현일 뿐입니다.
폰노이만과 앨런 튜링은 동시대 사람이었습니다. 앨런튜링은 폰노이만보다 어렸고 그 둘은 학교 선후배 관계였습니다. 폰노이만은 4~50년대 폭탄의 개발과 연계해 컴퓨터라는 물리적 실체를 고안했습니다. 다만 그것은 앨런 튜링의 36년 사고실험에 영향을 받은 탓이 컸습니다. 그럼 앨런 튜링 역시 ‘인류의 죄악’에 기여한 것일까요? 폰 노이만 처럼 튜링 역시 제 2차 세계대전에서 중요한 막후 역할을 했습니다.
유명배우 베네딕트 컴버배치, 키이라 나이틀리가 주연한 영화 ‘이미테이션 게임’ 을 통해 대중에 어느정도 널리 알려졌듯 그는 당시 연합군을 위해 암호 해독가로 활동하면서 자신의 컴퓨팅 개념을 이용, 나치 암호를 해독했습니다.
영화 [이미테이션 게임] 한 장면_아직 안보신 분들은 보시기를 추천합니다.이는 1941년 영국이 절망적 패배의 위험에서 벗어나 전쟁의 양상을 뒤바꾸는데 결정적인 역할을 한 업적이었습니다. 그런데 그의 이런 영웅적 활약은 철저히 기밀로 부쳐졌습니다. 관련 문서들은 1970년대 이전까지 비밀이 해제되지 않았습니다. 그리고 80년대가 되어서야 이 업적과 마찬가지로 가공할만한 업적 – 컴퓨터의 청사진을 제작한 것 – 을 이룬 사람으로 알려지게 되었습니다. 2009년 영국 총리 고든 브라운은 ‘앨런 덕분에 자유롭게 살고 있는 모든 이들’을 대신해서 그가 받았던 ‘비인간적인’ 취급에 대해 공식적으로 사과했습니다. “죄송합니다, 당신은 훨씬 더 나은 대우를 받아야 마땅했습니다.”[5]
우리가 일련의 내러티브에서 이야기 하고 싶은 바는 결국 모든 문제는 곧 ‘인간’의 문제라는 것입니다. 만약 인류가 비관적 운명에 처한다면 그것은 초지능이 머지않아 이루어져 그들에 의해 우리가 속박받고 파괴되는 것이 아니라 비극은 우리 인간의 의지에 의한 때로는 의도한 혹은 의도치 않은 복잡계 상호작용의 산물일 것입니다. 동시에 인류가 여전히 희망적이고 낙관적이라면 그 역시 마찬가지일 것입니다.
인공지능의 맹점은 목적의식성이라는 것이 어떤 기계 혹은 기계 부품 속에 숨어 있다가 모습을 드러내는 게 아니라는 데 있습니다. 목적의식성은 생각 속에 숨는게 아니라 생각의 원천입니다. 앨런 튜링이 결정적으로 전제한 ‘신탁’의 프로그래머는 시스템 바깥에 있어야 합니다.
그런데 왜 사실상 이 신탁의 프로그래머가(알실로마의 지식인들로 대표되는) 자신의 역할과 본분을 어느 순간 축소하고 그 책임을 기계, 기술에 부과하려 할까요? 20세기 가장 영향력 있는 작가 중 한명으로 평가받은 길버트 키스 테스터턴G.K Chesterton은 일련의 모순을 통찰력 있게 풀어 설명했습니다. “어떤 것을 연구하고 또 이것을 날마다 실천하는 전문가가 그 대상을 날마다 더 많이 바라보며 또 그것이 가지는 의미를 더 많이 바라본다는 가정이 참이라는 전제조건 아래에서라면, 당연히 그 전문가를 신뢰하는게 마땅하다는 주장을 절대 반박할 수 없다. 그러나 그 전제조건에 문제가 있다. 그 전문가는 날마다 그렇게 하지 않는다. 그는 날마다 그 대상을 덜 바라보고, 그것이 가지는 의미를 적게 바라본다.”[6]
인공지능은 상징과 대상을 연결하는 인간의 지능과 경쟁합니다. 그러나 분명한 것은 인공지능은 인간의 마음 없이는 아무것도 할 수 없다는 것입니다. 자기에게 상징체계와 언어를 제공하고, 프로그램을 만들고 훈련 과정 동안에 단어든 이미지든 간에 자기가 흡수하는 정보를 구조화하고 수없이 많은 연관성을 찾을 수 있는 빅데이터를 제공하고 또 만들어내며, 마지막으로 목표와 보상 체계를 설정하고 연산을 반복, 최적화하고 어떤 해결책에 수렴하도록 해주는 표적순위target sequence를 설정하는 것에는 결정적으로 인간의 마음이 있어야 합니다. 생각은 목적 의식적이고 의지를 동반하고 상상할 수 있고 창의적인 것입니다. 천문학적 속도로 계산을 해 체스, 바둑과 같은 결정론적인 게임을하는 컴퓨터는 여전히 기계일 뿐입니다. 문제도 희망도 결국 복잡계 세계 속 인간의 몫일 뿐입니다.
reference
[1] Max Tegmark, 『Life 3.0: Being Human in the Age of Artificial Intelligence』(Newyork: Alfred A. Knopf, 2017), 158
[2] 조지 길더George Guilder(이경식 옮김), 구글의 종말Life After, 청림출판, 2019, [chapter 9. Life 3.0, 165~188p]
[3] 조지 길더George Guilder(이경식 옮김), 구글의 종말Life After, 청림출판, 2019, [chapter 9. Life 3.0, 165~188p]
[4] 존 설John Searle, "The Rediscovery of the mind"(Cambridge, Mass : MIT Press, 1992
[5] The Guardian, Pm’s apology to codebreaker Alan Turing: we were inhumane, 2009. 9. 13
[6] G.K. Chesterton, 『Tremendous Trifles』 (Beaconsfield, England: Darwen Finlayson, 1968), 55p [조지길더George Guilder / 이경식 옮김, 구글의 종말Life after google, 청림출판, 2019, 178p 재인용]
