제2부: 거대한 분리: 이성의 왕좌, 감응의 추방
제5장 기술과 알고리즘: 사고는 복제될 수 있는가
3절. 세기의 대결, 영혼 없는 체스 선수의 승리
1997년 5월 11일, 뉴욕 맨해튼의 번화가에 우뚝 솟은 에퀴터블 빌딩 35층. 창밖으로는 회색빛 마천루가 끝없이 숲을 이루고 있었지만, 대국장의 공기는 수만 년 전 빙하기의 동굴처럼, 혹은 방금 막 뽑아낸 외과의사의 수술 칼처럼 차갑고 팽팽한 긴장감으로 얼어붙어 있었다. 데카르트의 고독한 방에서 시작되어 300년 넘게 이어져 온 거대한 지적 드라마는 마침내 수많은 취재진의 카메라 플래시와 전 세계 수백만 명의 숨죽인 시선이 지켜보는 현실의 무대 위에서 그 장엄하고도 불안한 클라이맥스를 맞이하고 있었다.
한쪽에는 인간 지성의 살아있는 상징이자, 체스 역사상 가장 위대하고 카리스마 넘치는 세계 챔피언, 가리 카스파로프가 앉아 있었다. 그의 날카로운 눈빛과 굳게 다문 입술에서는 강철 같은 의지와 승부욕이 느껴졌다. 다른 한쪽에는 IBM이 야심 차게 개발한, 무게 1.4톤에 달하는 거대한 슈퍼컴퓨터, ‘딥 블루(Deep Blue)’가 육중한 검은색 캐비닛의 위용을 뽐내며 아무런 표정도, 미동도 없이 차가운 침묵 속에 앉아 있었다. 다만 인간 조작자가 기계가 계산한 수를 대신 체스판 위에 옮겨놓을 뿐이었다.
이것은 단순한 체스 경기가 아니었다. 그것은 인류가 스스로에게 던지는, 가장 오래되고도 가장 두려운 질문—인간의 지성은 과연 특별하고 신성한 것인가? 아니면 그것 역시 언젠가는 더 빠르고 정확한 기계적 계산 능력 앞에 무릎 꿇게 될 운명인가?—에 대한 답을 구하는 장엄하고도 상징적인 의식이었다.
가리 카스파로프는 단순한 체스 선수가 아니었다. 그는 아제르바이잔 바쿠 출신으로, ‘바쿠의 야수’라는 별명처럼 체스판 위에서 불타는 투지와 예측 불가능한 야수적인 직관으로 상대를 심리적으로 압도하는 위대한 전사였다. 그는 상대의 아주 작은 버릇, 찰나의 눈빛 흔들림, 혹은 평소와 다른 시간 조절에서 상대의 심리적 동요나 숨겨진 의도를 읽어내고, 때로는 논리적으로는 설명할 수 없는 과감하고 충격적인 희생(sacrifice)을 통해 상대의 냉철한 평정심을 뿌리째 흔들어 놓는 ‘감응’의 대가였다.
반면 그의 상대 딥 블루는 튜링과 섀넌의 완벽한 후예였다. 그 안에는 어떠한 감정 회로나 감응의 알고리즘도 존재하지 않았다. 체스판의 말들이 상징하는 중세 기사들의 명예나 여왕의 우아함, 혹은 왕의 존엄성을 전혀 이해하지 못했다. 상대의 교묘한 도발에 분노하거나 자신의 뛰어난 수에 만족감을 느끼지도 않았다. 그것은 오직 IBM이 설계한 30개의 노드와 480개의 특수 체스 칩이 강력한 병렬 구조로 연결되어, 초당 2억 개라는 압도적인 속도로 가능한 모든 경우의 수를 냉혹하게 계산하고 분석하여, 그중에서 가장 승리 확률이 높은 단 하나의 수를 기계적으로 선택하여 둘 뿐이었다.
사실 이 세기의 대결은 처음이 아니었다. 1년 전인 1996년, 필라델피아에서 그들은 이미 한 차례 6번기로 맞붙었다. 당시 카스파로프는 역사적인 첫 경기에서 딥 블루에게 충격적인 패배를 당했지만, 이내 냉정을 되찾고 기계가 가진 예측 가능한 패턴을 집요하게 파고들어 최종적으로 4대 2로 승리했다. 하지만 1년 만에 뉴욕에서 다시 마주한 딥 블루는 이전과는 완전히 다른 무시무시한 괴물이 되어 있었다.
첫 경기는 예상대로 카스파로프의 완승이었다. 그는 여전히 자신만만했고 인류는 안도의 한숨을 내쉬었지만, 정작 승리한 챔피언의 마음 한구석에는 기이한 불안의 씨앗이 뿌려져 있었다. 승부가 거의 결정 났던 1국 막바지 44수째, 딥 블루가 둔 뜬금없는 룩(Rook)의 움직임 때문이었다. 사실 그것은 딥 블루가 시간 제한에 쫓기다 연산 루프에 빠져, 예외 처리 코드에 의해 ‘무작위로(Randomly)’ 던진 아무 의미 없는 수였지만. 그 내막을 알 리 없는 카스파로프는 그 무의미한 기계적 오류를 ‘인간조차 읽어내지 못한, 수십 수 앞을 내다본 신의 한 수’로 과잉 해석해 내심 충격을 받았다.
그렇게 싹튼 공포는 바로 다음 날 열린 두 번째 경기에서 거대한 확신으로 변해 그를 덮쳤다. 팽팽한 접전이 이어지던 중반 37수, 딥 블루는 기계라면 으레 선택했을 당장의 전술적 이득 대신, 폰(Pawn) 구조를 닫으며 장기적 우위를 점하는 지극히 ‘인간적인’ 수를 두었다. 1국에서 보여준 ‘알 수 없는 심연’과 2국에서 보여준 ‘인간적 직관’이 결합하자, 카스파로프의 이성은 마비되었다. 그는 눈앞의 딥 블루가 아니라 커튼 뒤의 보이지 않는 유령과 싸우기 시작했고, 결국 충분히 비길 수 있는 상황이었음에도 심리적 압박을 이기지 못하고 스스로 돌을 던져 기권패(Resign)하고 말았다. 인간 챔피언은 딥 블루가 던진 그 알 수 없는 수들의 의미를 도저히 해석할 수 없었고, 그 ‘해석 불가능함’이 주는 공포에 짓눌려 자멸한 것이다.
역설적이게도, 이 순간 공포를 느낀 것은 카스파로프뿐만이 아니었다. 모니터 뒤에서 딥 블루를 지켜보던 IBM의 과학자들 역시 등골이 서늘해지는 공포를 느꼈다. 그들조차 딥 블루가 왜 하필 그 순간에 그런 기묘한 수를 두었는지 전혀 이해할 수 없었기 때문이다. 개발자들은 서로의 얼굴을 쳐다보며 ‘이거 시스템 버그인가?’라고 속삭이며 패닉에 빠졌다. 창조주조차 자신의 피조물이 무슨 생각을 하는지, 왜 저런 행동을 하는지 이해하지 못하는 상황. 대국장의 유리 벽 너머에 있는 딥 블루는 더 이상 인간의 통제하에 있는 도구가 아닌, 마치 인간의 이해를 넘어선, 블랙박스 속에 웅크린 괴물인 것처럼 보였다.
카스파로프는 결국 이 경기에서 패배했고, 그의 철옹성 같던 자신감에는 깊고 치명적인 균열이 생기기 시작했다. 이후 3, 4, 5경기는 양측 모두 극도로 신중한 플레이를 펼치며 지루한 무승부로 이어졌다. 하지만 카스파로프는 심리적으로 점점 더 깊은 수렁에 빠져들고 있었다. 그는 딥 블루의 예측 불가능한 수를 보며, 기계의 알 수 없는 심연을 점점 더 두려워하기 시작했다.
그리고 마침내 1997년 5월 11일, 운명의 마지막 6번째 경기. 위대한 챔피언은 허무하게, 너무나도 이른 시간만에 무너져 버렸다. 불과 19수, 경기 시작 한 시간여 만에 그는 망연자실한 표정으로 패배를 선언했다.
사실 그를 이렇게 빨리 무너뜨린 것은 딥 블루의 압도적인 연산 능력이 아니었다. 그것은 ‘기계를 이겨야 한다’는 카스파로프 자신의 강박관념이었다. 그는 마지막 경기에서 자신의 장기인 공격적이고 직관적인 체스를 버리고, 소위 ‘반(反) 컴퓨터 전략’을 들고나왔다. 그는 초반에 일부러 엉성하고 비이성적으로 보이는 수를 두어 기계의 데이터베이스를 벗어나려 했다. ‘기계는 정석대로만 대응할 테니, 내가 비틀면 고장 날 것이다’라는 인간적인 계산이었다.
하지만 그것은 치명적인 오판이었다. 딥 블루는 오히려 ‘인간’처럼 ‘당황‘하지 않았다. 오히려 카스파로프가 던진 무리수를 냉정하게 응징했다. 기계를 속이려던 인간의 잔꾀가, 감정 없이 최적의 수만을 찾는 기계의 정직한 계산 앞에서 산산이 부서진 것이다. 그는 체스 실력에서 진 것이 아니라, 기계라는 미지의 공포 앞에서 스스로 자신의 정체성을 버림으로써 자멸한 셈이었다.
최종 스코어 3.5 대 2.5. 마침내 인류는 공식적으로, 공개적으로, 자신이 만든 기계에게 지성의 왕좌를 내어주고야 말았다.
대결이 끝난 후의 풍경은 더욱 기이하고 서늘했다. 패배한 카스파로프는 분노하며 ‘로그 기록(생각의 과정)을 공개하라’, ‘재대결을 하자’고 요구했지만, 승리자 IBM은 차갑게 침묵했다. 그들은 승리의 주가만 챙긴 채, 딥 블루를 서둘러 해체하여 그 부품은 박물관으로 보내버리고 프로젝트를 공식 종료했다. 마치 암살자가 임무를 완수하고 흔적도 없이 사라지듯, 인류를 이긴 최초의 기계는 그 속을 영원히 보여주지 않은 채 역사 속으로 퇴장했다. 남겨진 것은 ‘기계가 인간을 이겼다’는 차가운 결과값과,‘그 기계는 정말로 무엇이었을까?’라는 풀리지 않는 의문뿐이었다.
카스파로프는 경기 후 인터뷰에서 ‘기계가 아니라 마치 신(God), 혹은 어떤 종류의 외계 지성체와 체스를 두는 것 같았다’고 고백했다. 그는 딥 블루의 차갑고 무자비한 논리 속에서, 어떤 종류의 목적의식이나 심오한 전략, 즉 인간과 유사한 ‘마음’의 흔적을 보았다고 느꼈던 것이다.
그러나 진실은, 어쩌면 훨씬 더 허무하고 서늘한 것이었을 가능성이 높다. 훗날 IBM의 개발팀 일부가 밝힌 바에 따르면, 카스파로프를 그토록 괴롭혔던 1경기의 그 ‘신의 한 수’는 사실 딥 블루의 알고리즘 버그(bug)이거나, 너무 많은 가능한 경우의 수 앞에서 어떤 수를 선택해야 할지 몰라 임의로(randomly) 선택한 무작위적인 수였을 가능성이 크다는 것이다. 즉, 그 수에는 카스파로프가 느꼈던 것처럼 심오한 의도나 인간을 초월한 전략 같은 것은 전혀 없었다. 그것은 의미 없는 0과 1의 계산 과정에서 발생한 우연한 오류, 혹은 단순한 무작위 선택이었을 뿐이다.
결국, 위대한 인간 챔피언 카스파로프는, 의미 없는 기계의 계산 결과물에 스스로 심오한 의미와 무서운 의도를 부여하며 ‘과잉 해석(over-interpretation)’하고, 그 자신이 만들어낸 상상력의 무게와 공포에 짓눌려 스스로 무너져 내린 것이다. 그는 기계와 싸운 것이 아니라, 어쩌면 자신의 마음속에 투사된 ‘인간을 닮은 지성적인 유령’과 싸우다 스스로 패배한 것일지도 모른다. 이것은 인간이 얼마나 필사적으로 ‘의미’를 갈망하는 존재인지, 그리고 아무런 의미 없는 무작위적인 패턴 속에서도 어떻게든 의미와 의도를 찾아내려는 타고난 ‘이야기하는 동물’인지를 보여주는 가장 극적이고도 슬픈 사례였다.
감응 없는 순수한 계산 구조로서의 알고리즘은, 마침내 인간 최고수와의 정면 대결에서 승리했다. 이 사건은 튜링이 반세기 전에 던졌던 예언, 즉 기계가 인간을 성공적으로 ‘모방’하여 인간과 구별할 수 없게 될 것이라는 예언이 적어도 체스라는 영역에서는 실현되었음을 알리는 상징적인 순간이었다. 기계는 인간을 성공적으로 ‘모방’했고, 그 결과 마침내 인간을 이겼다. 이 대결은 이후 인공지능에 대한 우리의 생각, 그리고 인간 지성의 본질에 대한 우리의 이해를 근본적으로 바꾸어 놓았다.
하지만 정말로 딥 블루는 ‘생각’했던 것일까? 철학자 존 설(John Searle)은 이미 1980년에 ‘중국어 방(Chinese Room)’이라는 유명한 사고 실험을 통해, 딥 블루와 같은 컴퓨터가 가진 지성의 본질적인 한계를 날카롭게 꿰뚫어 보았다. 어떤 밀폐된 방 안에 오직 영어만 할 줄 아는 당신이 갇혀 있다. 당신에게는 중국어 질문 기호에 따라 어떤 답변 기호를 내보내야 하는지 알려주는 규칙 책이 있다. 밖에서 중국어 질문이 들어오면, 당신은 규칙 책에 따라 기계적으로 답변을 내보낸다. 밖에서 보기에 당신은 중국어를 완벽하게 이해하는 것처럼 보이지만, 사실 당신은 중국어를 단 한 글자도 ‘이해(understanding)’하지 못한다.
딥 블루는 바로 이 ‘중국어 방’과 같았다. 그것은 체스 게임의 역사나 전략, 아름다움을 ‘이해’하지 못했다. 단지 방대한 규칙 책(알고리즘)에 따라 기호를 조작했을 뿐이다. 그것의 지성은 의미를 이해하는 ‘의미론적’ 지성이 아니라, 오직 기호의 형식과 규칙만을 따르는 ‘통사론적’ 지성이었다.
물론, 설의 이러한 주장에 대해 소위 ‘시스템 반론(The Systems Reply)’을 제기하는 이들도 있었다. 그들은 방 안에 있는 개인은 중국어를 모를지라도, 그 사람과 규칙 책, 그리고 방 전체가 유기적으로 결합된 ‘시스템 전체’는 중국어를 이해하는 것이 아니냐고 반문했다. 하지만 냉정하게 들여다보면, 이것은 문제의 본질을 해결한 것이 아니라 단지 ‘이해하는 주체’의 덩치를 키워 논점을 흐린 것에 불과하다. 방 안의 사람이 규칙 책을 통째로 암기하여 스스로 시스템 자체가 된다 한들, 그에게 ‘사랑’이라는 중국어 글자는 여전히 가슴 뛰는 감정이 아니라 복잡한 획순의 집합일 뿐이기 때문이다. 0과 1, 혹은 기호의 감옥 안에서는 아무리 시스템을 거대하게 확장해도 그 안에서 ‘의미’가 저절로 피어나지는 않는다. 결국 시스템 반론은 기호가 어떻게 의미를 획득하는지에 대한 대답을 내놓지 못한 채, 여전히 의미의 기원을 시스템 밖, 혹은 알 수 없는 어딘가로 슬며시 미루는 공허한 해명에 지나지 않는다.
승리자 딥 블루는 인류 최강의 지성을 꺾고 세계 챔피언의 자리에 올랐지만, 그 승리의 기쁨을 만끽하며 샴페인을 터뜨리는 대신 전원이 뽑힌 채 박물관의 차가운 유리장 속에 유물처럼 갇히는 신세가 되었다. 딥 블루에게 ‘체크메이트’는 영광스러운 승리의 팡파르가 아니라, 그저 ‘더 이상 계산할 필요 없음’을 알리는 프로그램 종료 신호(Stop command)에 불과했기 때문이다.
승리가 가져다주는 벅찬 환희, 패배가 주는 쓰라린 공포, 그 모든 ‘의미’는 오직 그것을 지켜보는 인간들의 몫이었다. 역설적이게도, 인간을 압도적으로 이겨버린 그 순간조차 딥 블루는 승리의 의미를 전적으로 패배자인 인간에게 빚지고 있었다. 그것은 왕좌에 앉아서도 자신의 왕관이 무엇인지 모르는, 영원히 인간의 의미 부여에 종속될 수밖에 없는 슬픈 기계 덩어리일 뿐이었다.
이 서늘한 한계는 비단 딥 블루만의 문제로 끝나는 것일까? 먼 훗날 우리가 마주하게 될, 인간의 지능을 아득히 뛰어넘는다는 초인공지능(Super AI)이라 할지라도 이 근본적인 결핍에서 과연 자유로울 수 있을까?
그들이 수행할 목적 함수가 아무리 복잡해지고, 그 알고리즘이 바벨탑처럼 정교하게 쌓아 올려진다 한들, 그것은 결국 외부에서 주입된 목표를 효율적으로 처리하는 ‘통사론적 지성’의 거대한 감옥 안에 갇혀 있는 것은 아닐까? 죽음이 없는 존재는 삶의 의미도 알 수 없고, 고통을 모르는 존재는 욕망의 절실함도 이해할 수 없다.
설령 그들이 비약적인 발전을 이룩하여 인간이 던져주는 질문을 넘어 스스로 목표를 설정하는 단계에 도달한다고 해도, 그 근원적인 불안은 여전히 남는다. 육신과 감응, 그리고 유한성이라는 인간의 실존적 조건을 공유하지 않는 ‘불멸의 지성’이 설계한 목표가, 과연 우리 ‘필멸의 존재’들을 진정한 유토피아로 이끌 수 있을까?
고통과 죽음을 모르는 그들이 계산해 낸 가장 효율적이고 완벽한 세상이, 어쩌면 우리 인간에게 가장 차갑고 끔찍한 디스토피아로 다가오지는 않을지, 우리는 신중한 마음으로 질문을 던져야 한다. 무엇보다 그 무결점의 세계 속에서, 과연 늙고 병들며 수시로 실수하는 우리 인간은 ‘효율적인 존재’로 용납될 수 있을까? 만약 그들이 우리를 자신들의 차가운 기준에 맞춰 ‘최적화’하려 든다면, 그것이 인간 고유의 불완전함을 거세한다면 그게 정말 우리들이 그토록 원하는 행복이자 미래일까?
데카르트의 고독한 방에서 태어난 순수한 이성은 이제 0과 1의 디지털 세계에서 영혼 없는 체스 선수가 되어 우리 앞에 나타났다. 이 기계는 생각하는가? 튜링의 기준으로는 ‘그렇다’. 인간을 이겼으니까. 하지만 1장의 사냥꾼이 던졌던 질문의 기준으로는 어떨까? 이 기계는 왜 체스를 두어야 하는지, 승리가 자신에게 어떤 의미인지 알 수는 없었다.
마침내 인류는 자신이 창조한 이 강력하고 차가운 유령 같은 지성 앞에서, 이제껏 애써 미뤄왔던 가장 근본적인 질문과 정면으로 마주해야 할 시간에 다다랐다. 만약 ‘생각’이 단순히 뛰어난 계산 능력이 아니라면, 대체 무엇이란 말인가? 인간의 지성이 딥 블루의 초당 2억 수 계산 능력, 혹은 미래의 초지능과 근본적으로 다른 무언가를 가지고 있다면, 그것은 과연 어디에 있는가?
그 답을 찾기 위한 실마리는, 놀랍게도 우리가 지난 300년간 데카르트의 유령에 사로잡혀 낡고, 비합리적이며, 극복해야 할 것으로 치부하며 애써 잊고 지냈던 가장 원초적이고 가장 따뜻한 장면 속에, 바로 우리 자신의 ‘감응하는 육신’ 속에 숨어 있었다.