질주의 역사 - 2
2/ 인간은 백업되지 않는다
2/ 인간은 백업되지 않는다
알파는 회사의 가장 값비싼 자산인 시뮬레이션용 양자컴퓨터인 “몽상” 속에서 이미 2년 째 주행하고 있다. 코드로 짜여진 세상 속을 코드덩어리가 질주하는 것이다. 그것이 OS의 완결성에 대한 1차적인 검증이다.
가우재 수석연구원은 파란 냉각수 속에서 반짝거리는 양자컴퓨터 몽상을 응시한다(그는 그걸 ‘어항’이라고 부른다): 그는 생각한다: 그래서 알파OS가 이 어항을 나올 수 있는 날은 언제인가? 물고기가 세상이라는 바다를 유영 할 수 있게되는 날은 언제인가?
그녀는 생각한다: 바뀌어야 하는 것은 물고기가 아닌 ‘바다’이다. 물고기의 몸은 이미 완성되어 있다. ‘감각하드웨어’라 불리는 사물 인식 장치들 근몇년간의 비약적인 발전으로 당초의 목표치를 월등히 뛰어넘을 정도로 훌륭하게 작동한다(가우재 연구원은 그걸 ‘눈’에 비유한다). ‘제어하드웨어’와 인터페이스도 마무리 단계였다(가우재 연구원은 그걸 ‘친절’에 비유한다).
가우재 연구원은 자리로 돌아와 모니터를 통해 어항 속을 떠도는 알파OS가 만들어내는 코드들이 올라가는 것을 지켜본다(연구원의 주요 업무). 물고기의 생각을 본다. 무슨 생각? 무슨 꿈?
회사는 ‘정신’의 무결성을 추구했다. 공장을 팔아 지은 연구소에는 국내외의 유명한 법률전문가, 윤리학자, 언론사 기자출신들이 모여 들었다. 가우재는 그들을 ‘계율의 아버지’라고 부르곤 한다: 바로 그들이 원고지에 ‘계율’을 적기 시작한 것이다. 이들이 처음 작성한 최초의 계율을 ‘원시계율’이라고 하는데, 원시계율은 총 20개의 장과 대략 500개의 조, 1,200여개의 항, 3,000여개의 목과 호로 구성된다.
계율이 정신 그 자체인 것은 아니다: 계율은 정신이 준수해야 할 규칙인 것이다.
프로젝트의 김학주 팀장은 완벽한 ‘정신’을 만들고자 했다; 사업가 정우령 회장은 완벽함은 불가능하다는 것을 직감했을 것이다. 정우령은 다른걸 요구한다: ‘최선의 정신’을 요구한다. 그걸 할 수 없다면 애초에 시작해서는 안되는 배팅이다. 그러니 계율이 필요하다. 그게 그들의 합의점이다. 적어도 알파OS가 ‘최선’이라는 점에 대한 물증은 필요하다. 계율은 그들이 완벽함을 향해 노력했다는 물증이 되어 줄 것이다.
프로젝트가 가동되고 계율은 나무처럼 뻗어 나간다. 논문들, 보고서들, 끈질긴 토론들, 그것들이 녹아 원시계율이 된다. 원시계율은 출력물로 정확히 1,000쪽에 이른다. 1,000이라는 숫자는 의도된 것이 아니다. 김학주 팀장은 그 우연이 그걸 일종의 계시라고 생각한다: 완전성, 무결성이 갖고 있는 특유의 아름다움이 자신 앞에 현신한 것이다. 이동하는 물건이 지켜야할 윤리성의 현신; 계율은 영원불변하다; 앞으로 지상에 인위적 움직이는 모든 것은 계율이 드러낸 그 영원한 윤리준칙을 준수해야 할 것이다; 마치 모든 떨어지는 물이 지켜야 하는 중력의 법칙처럼.
알파OS는 그 계율에 따라 자라나게 된다. 김학주 팀장은 나무가 자라나는 것에 비유한다. 햇빛, 토양, 물과 같은 항수가 주어지면, 나무는 그 항수에 맞춰 자신을 변화시키고 성장시킨다. 계율이 바로 항수이고, 알파OS는 그걸 따라 성장한다.
가우재는 '씨앗'을 만들었다: 정확하게는 '트롤리'를. 트롤리는 일련의 메커니즘을 통해 스스로의 코딩을 수정해나갈 수 있다. 그존의 기계학습과 다른 점이라면 트롤리의 자체 수정영역은 코딩 속에 구현된 계율 외에는 전부 가능하다는 점이다. 심지어는 기계학습 매커니즘 자체도 수정할 수 있다. 그녀는 생각한다: 그러니 차가 공도에 달릴 때, 사람들이 기술이 주는 그 안락함 외에 관심이라도 있을까.
트롤리가 자체 학습을 통해 시뮬레이션이 가능한 첫번째 알파OS를 만드는데 정확하게 60분00초가 소요되었다. 가우재에게 59분 59초와 60분 00초는 아무런 차이가 없다. 하지만 김학주 팀장은 이 우연에 다시 한번 매료된 건 당연하다.
알파OS는 몽상으로 옮겨진다. 알파OS는 시뮬레이션에서 끊임없이 주행해가면서 스스로를 수정한다. 마치 빛과 같은 속도로.
몽상 속에서 알파OS는 초당 256킬로를 주행한다. 몽상 속에서의 밤과 낮, 태풍 속에서, 작열하는 태양아래서 질주 한다.
알파OS는 거기서 계율의 헛점을 발견한다: 몽상에 들어간지 34일째 되던 날 알파OS는 처음으로 '질문'을 제기한다.
질문의 형식은 단순하다: 오른쪽으로 가는가, 왼쪽으로 가는가. 알파OS는 스스로를 설명하는 기능이 없다. 이제 프로그래머들이 달라붙어 알파OS가 제기한 ‘질문’의 배경과 그 질문에 이르게된 사고메커니즘을 분석해야 한다.
몽상을 중단된다: 연구원들은 알파OS의 질문에 매달린다: 첫번째 '질문'을 해석하는데 18일이 걸린다: 그것과 계율의 연관성을 찾는데에는 31일이 소요된다. 계율의 무결성을 확신하던 김학주는 '질문'이 오류의 산물이 아닌가 의심했다. 상급 연구위원회가 알파OS가 계율의 헛점을 발견했다는 결론에 이르렀을 때 김학주는 이를 '신의 계시에 대한 인간의 저항'이라고 비유했다. 가우재는 그 비유가 못마땅 했지만 불필요한 논쟁에 휩쌓이고 싶지 않았다.
원시계율에 대한 수정/평가에는 79일이 소요된다. 몽상이 다시 가동되고 3일만에 두번째 '질문'이 제시된다: 오른쪽인가 왼쪽인가?
가우재는 질문을 해석하기 위해 그간 개발한 인터페이스 프로그램을 작동시키나 실패한다. 단순한 코딩오류가 아닌 원리적인 오류에 가까웠다. 질문은 불가해하다. 두번째 질문의 해석에는 34일이 소요된다.
이미 50초에 이른 가우재는 그렇게 순진하지 않다. 그녀는 질문에 대한 해석을 의심한다. 해석의 정확성을 어떻게 검증하는가? 어쩌면 불가해한 질문에 적당한 합의를 하고 넘어간 것은 아닐까?
가우재는 상급연구회에서 정밀성과 작업속도를 위해서라면 질문을 평가하고, 계율을 스스로 수정할 수 있는 기계학습 매커니즘이 필요하다고 주장한다: 김학주가 반발한다: 스스로 수정된 계율을 인간이 이해할 수 있는가? 그렇게 만들어진 계율을 사회와 법률이 수용할 수 있는가?
가우재는 마침내 그의 오랜 라이벌을 이해한다. 근본적인 입장: 기계들의 신이 되고자 한다.
총 39개의 질문이 제기되고, 계율은 이에 따라 39번 수정된다. 기존의 방식대로. 연구원들이 매달리고 하나둘씩 '합의'를 해가면서. 마침내 침묵이 온다. 알파OS 몽상속에서 계율에 따라 자신을 끊임 없이 수정하지만, 39번째 수정 후에는 더 이상 질문을 하지 않았다: 2년째의 침묵.
‘침묵’이 1년째 지속 되던 날 정우령은 알파OS의 완성을 선언한다.
말에 어폐가 있다. 알파OS는 완성되지 않는다. ‘완성’이라는 개념이 성립한다면, 그건 알파OS에게 심어진 계율일 것이다. 물론 가우재는 그 계율의 완전성도 의심한다. 그녀의 생각은 그리고 불완전한 계율에 의해 창조되고 수정되어지고 있는 알파OS의 완전성으로 이어진다.
어쩌면, 우리의 '그'의 생각을 쫒아가지 못하고 있기 때문일까? 아니면 '그'는 우리가 영원히 보지 못하는 세계와 생각이 이 어항 속에 있는 것일까? 몽상 속을 질주하는 '그'는 무슨 풍경을 보고 있는건가?
아니다: 그건 문제가 아니다. 그녀의 실용적 정신이 고개든다: 우리가 그 생각을 쫓아가지 못한다는 것은 문제가 아니다... 이 침묵의 질주는 2년간 아무 문제 없이 이루어졌다. 우리가 그걸 이해할 수 있든 없든. 우리는 우주의 운행을 이해하지 못하지만 잘만 살고 있다.
그렇다면 출시해야 한다. 아니, 이미 출시되었어야 한다.
가우재는 생각한다: 회사는 쓸데없이 일에 몰두 하고 있다: 회사는 알파OS 완성을 선언 한 후에 1년째 공도에 차를 달리게 하고 있다. 심지어 할일이 없어진 연구원들까지 태워서. 테이터 수집이다.
회사의 목표: 짧은 기간안에, 가능한 많은 인원을 투입해서, 가능한 많은 거리를 주행하고, 가능한 많은 돌발상황에 노출시켜, 가능한 많은 데이터를 수집한다. 하지만 “몽상”은 완전하고, 현실에서의 주행은 불필요한 일이다. 가우재는 어항을 만지면서 생각한다.
그런데도 그걸 한다? 그건 과학이 아니다. 사업이다. 아니, 그건 정치다. 법이 문제였다. 제5단계 자율주행차량의 허용 여부를 둘러싸고 논쟁이 이어졌지만 핵심은 표계산으로 귀결된다. 공약으로 들고나갔을 때 과연 유권자들이 어떻게 반응할지에 대한 판단이 서지 않는다. 미래를 개척한다고 열광할까? 위험한 짓을 한다고 비난할까? 경제가 성장한다고 칭찬할까? 일자리가 없어진다고 분노할까?
그들은 가장 현명한 선택을 했다: Low-key를 유지한다. 요지부동.
전 회사 차원에서의 로비와 물빝접속이 이어진다. 정우령 회장이 직접 1000쪽에 이르는 두꺼운 계율을 들고가서 일장연설을 펼치고 “한번은 봐주십쇼!” 읍소한다(하지만 누가 1000쪽에 이르는 계율을 ‘한번 보고’ 싶겠는가?).
정우령의 눈물겨운 호소에 마음이 동한 최석호 대통령은 아무걱정하지 말라며 회장을 다독인다. 곧이어 정부는 야심차게 규제타파를 외치며 규제타파 TF를 만드는 일에 집중한다. 야당은 TF의 위헌성을 들먹이면서 훼방을 놓는다. 정권말기에 이르러서야 TF가 들어서고 당연히 그때까지 진행된 것은 아무것도 없으며 나라는 다시 다음 대선으로 시끄럽다.
허송세월에 초조한 것은 쩐주만이 아니다. 연구원들도 지쳐가는게 눈에 보인다. 그들이 이룬 성취가 불합리한 규제에 막혀 있으니 답답할만도 했다.
개발팀 중 누군가가 말한다: "이러고 있을 바에 그냥 나가서 좀 달리는게 어때요? 사람도 타면 되잖아요?"
주행 테스트를 하자는 얘기다. 사람이 탄 상태에서 실제 운행 테스트 결과를 많이 만들어 내면, (가우재는 절대 그럴 리는 없다고 생각하지만) 몽상에서 간과한 오류가 발견할지도 모를 일 아닌가?
적어도 국민여론을 설득하기에 좋을 것이라는 얘기다. 이들의 초조함을 모르지 않던 김학주 팀장은 정우령 회장에게 건의한다. 김학주 팀장의 초조함을 모르지 않던 회장도 OK 한다.
가우재는 기억한다: 손시정 연구원과 테스트 차량 한대 한대에 알파OS를 설치하던 때를. 몽상에서 뽑은 긴테이터 케이블을 차량에 설치할 연산장치에 꽂아 데이터를 카피하고, 차량의 감각하드웨어를 연결하고 연산장치와 동기화시킨다: 데이터라는 기름을 차에 주입하는 느낌이 들었다.
“이거 무슨 알파OS가 애낳는 걸 도와주는 것 같지 않아요?” 얼굴에 구리스가 묻은 채 손시정 연구원이 묻는다. “...무슨 알 낳는거 같네.”
가우재는 그 때 어항을 응시했던 걸 기억한다: 그때 뭐라고 대답했지? 적절하지 않다고 생각했다.
손시정: 난데없이 가수가 되서 회사를 떠난 이상한 얼간이. 그것도 차석 프로그래머 식이나 되서나 말이다. 그는 그 무의미한 테스트에 흥분해 있었지. 하루 종일 차를 탈 수 있다는 것에 이상할 정도로 흥분해 있었다. 장난감을 만든 꼬마가 장난감을 갖고 놀 수 있다는 점에 흥분해 있던걸까. 남자들은 장난감을 좋아한다.
가우재도 그걸 한번은 해봤다: 테스트. 연구원이 아니더라도 할 수 있는 간단한 일이다. 테스트 차량에 탑승하고 무작위로 500km정도를 달린다. 물론 자율주행 차량이기 때문에 탑승자가 개입할 부분은 전혀 없다. 연구원들은 차안에서 자동으로 로그기록이 작성되는 것을 모니터링하고, ‘질문’이 생기면 이를 메인서버에 전송해야 한다. 물론 더이상 질문은 나오지 않는다는 건 모두 알고 있다. 그러니 간단히 말하자면 깨여있는 것이 그들의 업무인 것이다.
가우재는 어항을 응시하며 생각한다: 그런 아무것도 아닌 일에 김학주가 자원한 것이다. 왜일까? 그 역시 그 얼간이들처럼 장난감을 만져보고 싶었던 걸까? 왜 규정대로 차를 회사에 반납하지 않았던 것일까?
사람이 죽었다.
가우재는 어항을 응시한다.
김학주의 딸이 죽었다.
김민주가 탑승한 차량은 잔해뿐이다. 그녀의 몸은 형체조차 남아 있지 않다. 회사는 알파차량의 메모리 부품 조각을 회수하지만 데이터를 복구할 수 있을지는 미지수다. 확실한 건: 그녀의 영혼은 회수할 수 없다.
현대사회를 뒤덮은 수많은 기계장치에도 불구하고 사건의 경위를 확인 한 것은 결국 사람의 눈과 입을 통해서였다.
김민주가 탈취한 알파차량은 2027. 10. 2. 2시경 새천년해안고속도로 삼척방향 2차로상의 1차선에서 서행하던 대형트럭을 추월했다. 차량을 추월을 마쳤을 때 사람이 뛰어든다. 알파차량이 방향을 틀었지만 사람은 본네트에 충돌하고, 약 5m가량을 날아가 쓰러진다. 알파차량은 급정거와 충돌로 인한 중심을 잃고 미끄러져 가드레일에 추돌한다. 알파차량은 완전히 멈춘다.
그리고 10초 후에 알파차량이 갑자기 가속을 시작한다. 차량의 바퀴가 시끄럽게 바닥을 긁으면서 달려 나간다. 차량은 가드레일 옆으로 밀고나가 절벽을 향해 달려 나간다. 알파는 절벽 아래로 떨어진다. 암석들에 차가 부딪힌다. 굉음이 울려퍼진다. 차량 배터리 내부의 전해액이 거대한 폭발을 일으킨다.
목격자는 말한다: 마치 차가 자살을 하는 것 같았다고.
몽상에 그런 시나리오가 없었던 것이 아니다. 사람이 갑자기 도로로 뛰어 나오는 그런 시나리오. 그런 시나리오는 이미 테스트되고, 테스트되었다. 가우재는 기억한다: 장례를 도중에 연구실에 온 김학주가 어항 앞에서 그 시나리오와 시뮬레이션 코드를 읽고 있다: 당연히 차가 절벽으로 뛰어드는 시뮬레이션은 없다.
“당신이 만든 몽상이 불완전한거야.” 김학주가 가우재에게 따지듯 말한다.
그럴 수도 있다. 몽상이 모든 세계를 구현하는 것은 아니니깐. 하지만 ‘차가 자살하는 것’은 몽상의 문제가 아니다.
시뮬레이션의 잘못이 아니다. 그 어떤 시나리오에도 차가 자살을 하는 경우는 없다. 가우재도 김학주도 이점을 알고 있다. 가우재는 대꾸하지 않는다.
김학주는 그 오류를 쫓는다:
원시계율과 39번의 수정내용을 다시 살핀다. 그 어떤 계율도 차의 자살을 명령하진 않는다. 이미 계율을 수도 없이 검토해온 김학주 스스로 더 잘 알고 있다. 알파os와 트롤리의 기계학습 매커니즘은 살핀다. 거기에도 답은 없다. OS의 특정한 결정을 이해하기 학습과 코드 생성 매커니즘을 보는 것은 비행기가 왜 추락했는지 알아내기 위해 물리학을 공부하는 것과 비슷하다.
테스트 차량은 30분간격으로 중앙서버에 로그를 전송한다. 물론 모든 사고와 코딩을 전송하는 것은 아니고, 단순한 사고의 결론을 보내는 정도지만. 김민주가 탄 차량은 마지막 로그 전송시점으로부터 29분 59초가 되는 순간 폭발한다.
세계는 불완전하다. 모든 것은 우연이다. 아니, 그의 세계 뿐 아니라, 그가 만들어낸 계율, 그 계율을 따라 흐른 알파os, 거기 어딘가에 천재 중의 천재라고 불리던 그 조차 보지 못했던 구멍이 있는걸까? 그 구멍이 과연 하나일까? 어디서 작은 불꽃 하나가 생겨 모든걸 태워버린건가?
처음부터 완전한 것은 없다. 그런 환상이 사로잡혀 있었던 것이다. 계율이 1000쪽이라는 것, 최초의 알파os가 60분 00초에 쓰여졌다는 우연적 사실에 너무 큰 의미를 부여한 것이다.
불완전하고 예측할 수 없다. 오직 그것만은 완전히 예측 할 수 있다.
그렇지 않았다면 아내가 죽지도 않았을 것이다. 그렇게 허무하게, 그토록 우연스럽게. 그녀의 완벽했던 몸이 쪼그라들었다. 어떤 유전자가 문제를 일으켰다: 의사는 그 이유에 대해 설명했다: 우연. 그러니 시뮬레이션의 잘못이 아니다.
이 불완전한 세계를 완전히 재현할 수 있는 완전한 시뮬레이션 따위가 있을 리 없다.
김학주는 부서진 회수된 메모리 파편을 본다.
하지만 불가능은 아니다. 복원이 불가능한 것은 아니다. 완전한 복원은 불가능하겠지만, 실제 코딩과 유사한 정도로 유추, 재현하는 것은 가능하다... 100%는 아니더라도 그날 그 순간 무슨 생각과 판단이 이루어졌는지, 알파OS가 왜 자살을 했는지, 자살이 아니라면 그건 무엇이었는지, 그 판단의 근거가 무엇이지, 무엇이 딸을 앗아갔는지, 우리가 만들어낸 '그것'의 생각을 엿볼 수는 있을 지도 모른다. 가우재라면 할 수 있을 것이다. 김학주를 뛰어넘을 수 있는 유일한 프로그래머, 가우재라면. 그의 놀라운 코딩과 엔지니어링을 수도 없이 보았다. 거기에 몽상의 리소스를 사용한다면: 세상을 재현할 수 있는 컴퓨팅 파워: 그리고 그녀라면, 가우재라면, 우리는 몽상 속에서라도 비밀을 알 수 있을 것이다.
-
자네가 망친거야.
자네가 실수한거야. 애초에 규정을 어긴 것은 자네고, 미안한 말이지만 자네 딸이 그걸 훔쳐탄거야. 이제와서 자네가 왜 망쳤는지 연구하겠다는 거야? 그 결론을 내는데 얼마나 걸리지? 얼마나 많은 비용이 필요하지?
자네의 개인 연구거리가 아니네. 이미 바닥이라고 이 친구야! 내년 안에 출시하지 못하면 이건 모두 끝이야. 몽상은 말그대로 몽상은 끝난다고. 트롤리고 뭐고 전부 폐기해야 해. 샷다운. 이해하나?
이건 덮어, 어차피 덮을 수 밖에 없어. 자네 말마 따라 다 날라갔으니. 손 때, 괜한 호기심 갖지말고. 이제 이건 PR 일이네. 자네의 일이 아니라. PR에서 어떻게든 할거야. 이제 와서 오류 하나가 그렇게 중요하지 않아. 2년이야. 2년동안 침묵했네. 1년동안 아무 이상없이 달렸어.
이 세계는 자네가 생각하는 것처럼 완벽하지 않아. 완벽할 이유도 없고... 세상은 그냥, 그래 work하면되는거야. 작동하면 되는거라고... 출시해야 해, 내년안에는 반드시.
김학주는 반문한다: 정신을 만든다면서요? 완벽한 정신을? 오류가 나왔는 데 그걸 내버려둔다고요?
"우리는 정신을 만드는 게 아니야 이 친구야. 우리는 정신을 만드는 사업을 하는거야. 사업을." 정우령이 대답한다.
-
가우재는 김학주가 남긴 메일을 찬찬히 읽는다. 그녀는 특유의 가벼운 타법으로 키보드를 두드린다:
"팀장님, 죄송합니다만 회사의 리소스를 쓰는건 제 선에서 결정할 수 없는 일입니다.
감사합니다.
가우재 드림"
-
연구실 카드키를 반납하고 집으로 걸어간다. 먼길로 돌아간다: 한참을 걸어도 회사의 건물이 눈에 보인다. 그는 알고 있다: 영원히 알 수 없으리라는 것을.
그가 만들어낸 영원한 퍼즐.
하지만 그게 중요한 걸까? 이제와 그 오류를 찾아내는 것이?
OS가 무슨 생각을 했는지, 이미 일어난 일들이 왜, 어떻게 일어났는지 그게 중요한 걸까?
오류의 발견은 수정을 위한 것이다: 무얼 수정할 수 있는가?
아내가 아픈 이유를 찾아 헤맸었다. 병원과 병원의 문턱을 넘나들면서: 그 이유를 알게되었을 때, 거기에 위안은 없었다. 분노와 슬픔과 증오가 있었을 뿐이다: 이유를 안다는 것이 그녀를 다시 데려올 수는 없다.
그 이유를 OS와 계율에서 찾는 것 자체가 어리석은 일일지도 모른다. 어쩌면 이 비극의 근원은, 그가 그 새벽에 전화를 받지 못했다는 단순한 사실에 있을 지도 모른다. 그 동안 아버지가 딸의 전화를 받지 않았다는 사실에 있을 지도 모른다.
텅빈 거실. 이제 그곳은 다시 돌아오지 않는다. 다시는 불이 들어오지 않을 것이다.
인간은 백업되지 않는다.
김학주는 유서를 남기지 않는다. 그는 2027. 7. 15. 02:34 달려오는 트럭에 자신의 몸을 던진다.
