괴델, 튜링, 알파고,
그 전진하는 황금 노끈
더글러스 호프스태터의 『괴델, 에셔, 바흐』를 읽고
그 난이도 때문인지 아니면 애초에 그 주제 자체가 가진 성질 때문인지는 몰라도, 이 책은 신비로움으로 둘러싸여 일반적인 독자에게는 접근하기 어려운 아우라를 담고 있다. 이 책은 누구나 읽을 수 있을까? 가볍게 부산 가는 기차에 머리 식힐 겸 사서 읽을 수 있을 정도로? 전혀 아니다. 그렇다면 1980년 뉴욕 타임즈 베스트셀러에 오르게 이 책을 구매한 사람들은 도대체 누구란 말인가? 나도 잘 모르겠다. 2010년대의 한국 30~40대 일반적인 직장인에 둘러싸여 있는 나로서는 1980년대 뉴욕의 도서 구매층이 잘 이해되는 편은 아니다. 난 이 책을 지하철에서 읽기 위해 들고 다니면서, 직장동료들에게 “당신은 항상 두꺼운 책을 들고 다니시는군요. 나도 책을 읽어야 하는데…”라는 식의 이야기를 적어도 다섯 명의 다른 화자에게 들었다. 물론 나는 얇은 책도 읽는다. 얇은 책과 두꺼운 책을 읽는 비율은 정확히 정규분포를 따르고 있지만 (그렇다는 것은 내가 특별히 두꺼운 책을 ‘취향적으로' 선택하는 것은 아니라는 소리이며, 단지 책의 두께에 대한 요소는 랜덤적으로 골라지는 것이라는 소리다.) 두꺼운 책을 읽는 데 오랜 시간이 걸리기 때문에 ‘대부분’ 두꺼운 책을 읽는 것처럼 보이는 것이다.
Gödel, Escher, Bach — Douglas Hofstadter (개정 번역판)물론 나도 이 책을 완전히 이해하는 데 세 번의 완독(그리고 더 많은 횟수에 걸친 시도), 15년 정도의 세월이 필요했다. 첫 번째의 리딩은 20% 정도만이 머릿속 안에 들어왔고, 나머지 80%는 글자를 읽는 수준에 불과했다. 그래도 큰 틀은 그릴 수 있었다. 물론 번역의 질에 대한 논란이 끊이지 않던 초판 번역본 때문이라고 말할 수도 있었으나, 그렇게 핑계대고 싶진 않았다. 몇년 후, 전공 관련으로 또 다시 읽어 보았는데 (사실 대학원 전공을 학부와 다르게 바꾼 이유가 이 책 때문이기도 했다), ‘적어도 20%는 이해했다’ 나의 생각은 착각이었음을 깨달았다. 무엇보다도 에피메데니스 역설과 괴델의 정리간의 차이에 대해서 전혀 다르게 이해하고 있었음을 알게 되었다.
그리고 개정 번역판이 출판되었다. 기회삼아 이번 세 번째 리딩은 특별히 개역판을 읽어보았다. 다행히 새로운 번역자를 끼고 다시 작업한 개역판은 번역의 질에 대한 논란은 줄어드는 듯 하다. 내가 굳이 초판 번역판과 개역판을 한줄 한줄 비교해 가면서 따질만한 깜냥도 시간도 없겠거니와, 그 논의는 책의 본질에 대한 논의에 하등 도움이 안 되는 작업일 것이다. 역시나 이해량은 번역이 아닌 나의 역량의 문제로 따져야 하겠다. 이번 독해는 거의 모든 글자가 의미로 이해될 정도였으니, 적어도 이번 리딩은 꽤나 수준높은 이해에 도달하였다고 자부할 수 있다. 물론 네 번째 리딩에서는 또 다시 나의 무지를 ‘선불교’적으로 깨달을 수도 있을 것이다. 그 때가 되면 세 번째의 나에 대해 한없이 부끄러워질 수도 있겠으나, 일단 세 번째 나에 대한 자신감을 가지고 글을 진행해 보자.
알파고와 ‘딥 뉴럴 네트워크’
대중들에게 받아들여지는 인공지능의 이미지는 알파고 사태 이후로 급격히 변화했으니, 2017년 기술 트렌드를 좇는 기획자에게 인공지능이란 ‘대화하는 스피커’라거나, 적어도 음성인식 되는 자연어 처리 VPA(Virtual Personal Assistant)일 것이다. 인공지능이라는 트렌드는 사실 그 역사가 오래되기도 오래된지라, 심지어 ‘퍼지 이론’이라는 한물 간 이론을 적용한 세탁기조차 ‘인공지능 컴퓨터 세탁기’라는 이름으로 팔린 지가 30년이 지났다. “인공지능은 아직 실현되지 못한 무언가이다”라는 말도 있다. 딥러닝 알고리즘 역시 여전히 무엇인가 부족하며, ‘바둑으로 사람을 이기는 컴퓨터’, ‘예술적인 그림을 그리는 컴퓨터’, ‘일상적인 대화를 하는 컴퓨터’까지는 만들어낼 수 있을지 몰라도 우리가 진정 인격체로서의 인공지능을 달성하기 위해서는 ‘심리적으로 사람을 속여서 이겨먹는 컴퓨터’, ‘예술을 이해하고 새로운 그림을 그려 그 화법을 후대에 가르쳐 주는 컴퓨터’, ‘심도깊은 대화를 통해 우정을 나누는 컴퓨터’, ‘유추하는 컴퓨터’까지 가기 위해서는 한 시대가 더 필요할 지도 모른다.
어쨌든 이 난리바닥을 일으킨 불꽃은 30년간 시들어가는 ‘뉴럴 네트워크’ 한우물만 파던 제프리 힌튼 교수, 앤드류 응 교수 등의 ‘Deep Neural Network(DNN)’ 알고리즘의 발표 때문임이 거의 확실하다. 그렇다. 인공지능 마케팅 뿐 아니라 인공지능 알고리즘 연구 자체도 수없는 부침을 겪었다. 사이버네틱스, 퍼지 이론, 고전적 신경망, 전문가 이론, 머신 러닝, 나이브 베이즈, 제네틱 알고리즘 등등…다른 방법론과 달리 인간의 뇌를 시뮬레이션 하자는 Neural Network 방법론은 성과가 나오지 않아 벌써 80년대에 한물 간 이론이었다. 그런데 결국 돌고 돌아 본질적으로 Neural Network와 다르지 않은, 인간의 뇌를 시뮬레이션하는 이론인 DNN이 극적으로 살아났다는 사실 자체가, ‘정답은 결국 뇌 따라하기’라는 사실을 극명하게 드러내 주는 것임이 아닐까?
인공지능에 정답이 있다는 말인가? 나이브 베이즈나 제네틱 알고리즘이 영원히 이룰 수 없고 오직 DNN만 도달할 수 있는 인간 수준의 인공지능이란 말은, 결국 ‘뇌만이 정답’이란 이야기일까? 나는 정녕 ‘존 설(John Searle)’의 생물학적 본질으로서의 의식을 이야기하고 있는 것인가? 존 설의 생물학적 자연주의는, 생물학적 구조 같은 것이 의식에 있어 절대적이기 때문에, 오직 ‘뇌’만이 의식을 유발할 수 있다는 주장이다. 딥 뉴럴 네트워크는 존 설이 말하는 ‘오직 뇌’에 속하는 카테고리일까? 존 설에게 물어보고 싶긴 하다. 당신의 생물학적 자연주의 가설이 이루어진 것입니까? 여전히 나는 존 설에 대해 부정적인데, 그 이유는 딥 뉴럴 네트워크가 실제 탄소 뉴런이나, 물리적으로 복제된 ‘규소 뉴런’이 아닌, 규소 반도체 ‘내부에서’ 소프트웨어적으로 시뮬레이션된 뉴런으로 작동하기 때문이다.
이는 층위에 대한 이야기로 넘어간다. 규소 반도체 ‘내부’는 어떤 내부를 말하는 것일까? 내 이야기를 듣고 반도체를 쪼개어 내부를 들여다 보는 사람은 없을 것이다. 여기서의 ‘내부’라는 말은 같은 물리 층위 내에 구조화된 물리적 실체가 아닌, 물리적 층위에서 연산되어 ‘만들어지는’ 소프트웨어적인 가상 세계를 일컫는다. 그 층위는 물리적 실체가 없지만, 내적으로 물리적 오브젝트로 ‘간주되는’ 것들을 얼마든지 만들어낼 수 있다. 그러나 그 만들어진 가상(2차)-물리적 오브젝트들은, 우리가 실제로 상호작용하는 1차-물리적 실체와 절대로 상호작용할 수 없다.
앨런 튜링과 ‘알고리즘’
PC 내부에는 그래픽 카드라는 부품이 있다. 우리가 실제로 1차-물리적 실체에서 가상(2차)-물리적 실체를 구현해 내기 위해서는, 수학 계산 같은 것이 필요하다. 그 수학 계산을 실제로 수행하는 것이 그래픽 카드라는 것이다. 이 그래픽 카드는 — 당연하게도 — 1차-물리적 실체이다. 우리는 그것을 돈을 지불하고 구매하여, 택배로 받아본 다음, 포장을 까서 덩어리진 물체를 역시나 덩어리진 물체인 메인보드라는 곳에 꼽는다.
그렇다면, 1차-물리적 실체의 상호작용 수학 계산을 하게 해 주는 0차-그래픽 카드 같은 것이 있는가? 물론 1차-세계의 주민인 나는 그것이 없다고 확실하게 말할 수 있다. (1차-)물리학은 그것이 없다고 말한다. 우리의 우주를 돌리는 그래픽 카드는 없으며, 그 기능을 수행하는 수학 계산은 시공간의 틈 사이에서, 그리고 소립자와 원자, 분자들이 스스로 수행하고 있다. 그러나 누가 아는가? 2차-세계에 살고 있는 주민들도 우리와 똑같이 생각할 것임을.
왜 물리적 상호작용을 구현하는데 수학 연산이 필요한지, 그리고 그것을 수행하게 하는 데에 상위 차원의 물리적 실체가 필요한지를 최초로 깨달은 1차-존재가 바로 앨런 튜링이다. 놀라운 생각의 전환이다. 왜냐면 우리의 세계는 물리적 상호작용이 상위 차원의 물리적 실체 없이 이루어지고 있기 때문이다. 앨런 튜링이 수학 연산을 실제로 수행하는 무엇인가를 구상할 때, 명확한 물리적 실체인 테이프와 움직이는 헤드를 제일 먼저 떠올렸다. 튜링이 떠올린 가상의 그것은 1차-물리학의 지배를 받아 작동되며, 우리와 같은 시공간상에서 움직인다.
튜링 머신이 온전히 구현하는 것은 무엇이라 불러야 하는가? 그것을 지칭하는 단어는 바로 ‘알고리즘’이다. 아랍어로부터 출발하여 영어 단어처럼 들리지도 않는 이 단어의 올바른 개념은, 내가 앞서 ‘수학 계산’이라고 부르던 것과 정확히 동일하다. 즉, 튜링 머신은 수학 계산을 하는 알고리즘 구현 기계이다.
그런데, 사실 그가 만든 것은 완전히 새로운 창조물이 아니었다. 튜링 기계보다도 훨씬 더 놀라운 성능을 발휘하는 ‘뇌’라는 기계가 있었으니까. 어찌 보면 튜링 머신은 뇌의 ‘불완전한’ 복제판이다. 음…그런데 불완전하다고? 튜링 머신은 아직 그 가능성을 점치기엔 너무나 새롭게 만들어진 기계였다. 앞으로 인간은 몇십 년동안 튜링 머신의 가능성에 대해 계속적으로 탐구해 나갈 것이었다. 아직 튜링 머신이 뇌에 비해 알고리즘적으로 ‘불완전’한지, 아니면 완전하거나 더 뛰어넘는지 조차 몰랐다. 새로운 질문이 생겼다. 튜링 머신이 구현한다는 ‘알고리즘’의 한계는 어디까지인가? 알고리즘으로 ‘뇌’의 2차 가상 물리체를 만들 수 있을까?
물론 우리는 뇌가 잘 하고 컴퓨터(튜링 머신)가 잘 못하는 것의 리스트를 잘 안다. 그 리스트는 계속해서 줄어들고 있지만, 그래도 아직도 몇백, 몇천 페이지가 더 있다. 튜링 머신이 알고리즘의 더도 말고 덜도 말고의 완전한 구현체라면, 뇌는 알고리즘을 넘어서는 초-알고리즘의 구현체인가? 만약 그렇다면, 우리는 (인간의 뇌 만큼 작동하는) 인공지능을 컴퓨터로 만들 수 없다. DNN 또한 알고리즘 구현체이다. 왜냐하면, 현대의 모든 컴퓨터는 튜링 머신이기 때문이다. DNN으로도, 지금까지 개발된 어떤 인공지능 알고리즘으로도 진정한, 사람만큼 뛰어난 인공지능은 만들 수 없다. 우리 시대의 모든 컴퓨터 아키텍처는 알고리즘적으로 튜링 머신과 ‘동등’하게 완전하기 때문이다.
괴델과 ‘수학’
칸토어 (또는 칸토르)라는 수학자는 유리수라는 무한집합보다 ‘더 큰’ 무한집합이 있다고 증명했다(그것은 무리수라는 무한집합이다). 어떤 무한집합보다 어떤 무한집합이 더 크다니, 범인으로서는 이해할 수 없는 세계관이다. 어쨌든 그 즐거운 상상 후에, 칸토어와 그 후예들은 더욱 더 즐겁게 상상력을 발휘해 더 이상하고 증명되거나 증명되지 않은 질문들을 만들어 냈다.
유리수 무한집합보다 작으면서 그냥 유한집합보다 큰 (최소의) 무한집합은 있는가? (없다고 밝혀짐)
유리수 무한집합보다 더 크고, 무리수 무한집합보다 더 작은 무한집합이 있는가? (유명한 연속체 가설)
무리수 무한집합보다 더 큰 무한집합은 있는가? (증명되었는지 안되었는지 내가 모름)
무한집합의 크기는 연속적인가? 이산적인가? (이런 질문이 의미있는지조차 내가 모름)
‘알고리즘’이란 개념도 이렇게 접근하면 어떤가? 가장 작은 1-알고리즘은 튜링 머신으로 완전히 구현되는 알고리즘이다. 그러나 그 알고리즘으로도 계산하지 못하는 연산이 있으며, 2-알고리즘만이 그 계산을 가능하게 한다. 우리의 뇌는 2.53-알고리즘으로 밝혀졌으며, 존 설의 말대로 튜링 머신이 기반인 현대의 컴퓨터 아키텍처로는 뇌를 완벽하게 구현할 수 없다. 수학자들은 4-알고리즘까지 증명했고 조심스레 2³-알고리즘까지는 가능하지 않겠냐고 내다보고 있다. 컴퓨터공학자들은 인간의 뇌를 조금이나마 뛰어넘는 3-알고리즘에 대한 코딩을 시도하고 있다…
수학적으로 완전히 증명된 튜링-처치 테제는 그런 초-알고리즘이란 없다고 분명히 못박고 있다. 알고리즘은 하나 뿐이다. 그렇다면, 당연히 뇌도 알고리즘적이어야 한다. 딥 뉴럴 네트워크, 디퍼 뉴럴 네트워크, 그도 아니면 디피스트 뉴럴 네트워크(물론 모두 초-알고리즘이 아닌 일반 알고리즘으로 코딩된)가 궁극적으로 인간의 의식까지 코딩할 수 있어야 함을 어쩔 수 없이 믿어야 하는 이유이다.
그렇다. 이 모든 것은 괴델의 정리로부터 시작되었다. 수학 체계란 ‘완전한’ 것과 ‘불완전한’ 것밖에 없으며, 2차-완전이라던가 더 상위적으로 완전한 수학 체계란 존재하지 않는다. 불가피하게도, 완전한 수학 체계란 필연적으로 내적 모순을 가지고 있다. (괴델의 ‘G’ 증명) 이것이 괴델의 불완전성의 정리이다. 왜 인공지능과 인간 지능에 대한 연구가 수학으로부터 시작되어야 하는지에 대한 당연한 사실이다.
책에 대하여
신비롭고 아름다운, 대칭적인 상징과 언어 유희로 가득한 책 「괴델, 에셔, 바흐」는 사실상 상징과 언어 유희를 뛰어넘는 수학적 모순의 우주적 아름다움을 예찬하는 책이다. 교양 과학 수준에서 이 모순적 대칭의 미학을 온전히 이해시킬 수 있는 책은 더도 말고 덜도 말고 이 책 뿐임이 확실하다. 곁다리의 언어적 표현들은 있어도 그만 없어도 그만이련만, 어쨌든 있음으로 해서 더욱 더 읽을 가치가 있는 고전이 완성되었다. 게다가 인공지능에 대한 논의는, 순식간에 유행이 지나고 이론이 뒤쳐져 버리는 그 분야에서, 몇십 년이 지나도 그 가치가 흐려지지 않을 정수만을 논하고 있다.
아마 그만이 해낼 수 있는 일이리라.
