방구석 대화: 《기술공화국 선언》 3장을 읽고
매주 엄마와 함께 알렉스 카프의 《기술공화국 선언》을 한 챕터씩 읽고 이야기를 나누고 있다. 요즘 세상을 이끄는 사람들이 AI를 어떻게 생각하고 있는지 알면 좋을 것 같다는 엄마의 제안으로 시작한 일이다. 방구석에서 우리가 이런 이야기를 나눈다고 해서 세상에 어떤 변화가 생기는 건 아니지만, 이 대화가 누군가의 생각에 닿아 작은 씨앗이라도 될 수 있으면 좋겠다는 마음으로 여기에 써본다.
《기술공화국 선언》 3장 “승자의 착오(The Winner’s Fallacy)”에서 카프는 미국이 기술적 우위를 드러내는 데 주저하는 배경에 “이미 승리했다고 믿는 집단적 인식”이 있다고 진단한다. 그는 자유롭고 민주적인 사회가 지속적으로 승리하기 위해서는 도덕적 가치만으로는 충분하지 않으며 하드파워가 필요하다고 주장한다. 그리고 이 시대의 하드파워는 소프트웨어와 기술 위에 구축될 것이라고 말한다.
카프는 중국의 안면인식 기술과 드론 군집 운용 사례를 들어 미국이 기술 경쟁에서 뒤처지고 있다고 경고한다. 이어 맨해튼 프로젝트를 언급하며 아인슈타인이 루즈벨트에게 핵무기 개발을 촉구한 결정이 미국과 동맹국에 전략적 우위를 가져왔다고 설명한다. 그는 당시 핵무기의 잠재력이 국가 차원의 신속한 행동을 이끌어냈듯, 오늘날에는 AI가 같은 수준의 전략적 결단을 요구하는 기술이라고 주장한다.
첫째, 젊은 세대는 전쟁을 안 겪어봐서 몰라. “수 세대에 걸쳐 미국인들은 세계 강대국 간의 전쟁을 겪어본 적이 없다.” 요즘 애들이 너무 편하게 살아서 위기의 현실을 직시하지 못한다는 꾸중처럼 읽혔다. 요즘 애들 중 한 명으로서 공격받는 기분이었다. ‘왜 이렇게 꼰대 같지’라는 생각까지 들어 찾아봤더니 카프도 전쟁을 겪어본 적이 없다.
둘째, 핵무기 개발 성공으로 세계 정상에 섰으니 AI도 그렇게 해야 한다. 맨해튼 프로젝트가 미국의 결정적 우위를 만들었으니 이번에도 망설이지 말고 AI 개발에 올인해야 한다는 주장이다. 얼른 치고 나가서 우리는 다 하고, 다른 나라들은 따라오지 못하게 해야 한다는 식이다. 그 과정에서 발생할 윤리적, 사회적 비용은 일단 뒤로 미뤄도 된다는 태도 역시 함께 따라온다.
첫째, 80년 전의 논리를 그대로 가져와도 될까? 맨해튼 프로젝트는 1940년대 이야기다. 지금은 세상이 많이 달라졌다. 그런데도 여전히 전쟁을 전제로 ‘우리가 더 빨리 만들어서 이겨야 한다’는 구도로 세상을 이해하는 게 맞는 걸까? 왜 항상 싸워서 누군가가 이기는 방향으로만 생각하게 되는지 의문이 들었다. 하지만 이런 생각도 들었다. 중국은 ‘같이 잘 살자’는 선택을 할까? 만약 중국이 ‘AI로 미국을 먼저 압도해야지’라고 생각한다면 미국은 가만히 있을 수 없지 않을까. 그러다 보니 이 질문에 대한 내 입장은 하나로 쉽게 정리되지 않았다.
둘째, 왜 꼭 나라 대 나라여야 할까? 카프의 논리를 그대로 받아들인다 해도 왜 이 싸움의 단위는 항상 국가여야 할까? UN처럼 전 세계를 다루는 기구가 하드파워를 가지는 상상은 왜 등장하지 않을까. 모든 나라를 동시에 견제하면서 ‘공공의 번영’을 기준으로 기술을 다룰 수도 있지 않을까. 독점적 지위를 유지하는 방식의 개발은 허용하지 않겠다는 유럽의 디지털시장법처럼 속도나 승자보다 질서와 견제를 앞세우는 선택지도 있다. 하지만 3장은 끝까지 ‘미국이 이겨야 한다’는 방향에 집중한다. ‘우리가 먼저 만들고 규칙도 우리가 정한다’는 태도는 자신감과 조급함이 동시에 느껴진다.
셋째, 회사는 왜 직원들의 의견에 따르는가? 카프는 마이크로소프트와 구글 직원들이 군사 프로젝트에 반발한 사례를 비판한다. 구글은 결국 프로젝트를 중단했다. 회사는 왜 직원들의 말을 들었을까? 나는 고급 인재들을 잃는 것에 대한 두려움 때문이었을 거라고 추측한다.
내가 너무 극단적으로 읽은 건 아닌가 싶어 챗지피티에게 물어봤다. 3장 전체를 타이핑한 뒤 내 감상이 맞는지 물었다. 챗지피티는 부분적으로는 맞지만 내가 이 책의 주장보다 강하게 해석했다고 답했다. 실제 주장은 ‘핵무기가 미국 성장의 원인’이 아니라 ‘국가가 기술을 전략적으로 조직 동원할 수 있는 능력이 미국의 힘과 정당성을 만들었다’고 설명했다. 핵무기는 그 능력이 가장 극적으로 드러난 사례고 AI는 지금 그와 동급의 전환점에 있는 기술이라는 것이다.
이 해석대로라면 나는 오히려 동의한다. 카프가 그의 깊은 뜻을 담기에는 글솜씨가 부족한 건지, 아니면 챗지피티의 꿈보다 해몽인 건지는 잘 모르겠다.
엄마는 맨해튼 프로젝트에 대해 설명했다. 독일이 핵무기 개발을 시작했다는 첩보가 계기였고, 히틀러가 서방 세계를 단번에 무너뜨릴지도 모른다는 두려움 속에서 미국은 독일보다 먼저 핵을 만들어야 한다고 판단했다. 그렇게 전 세계의 뛰어난 과학자들을 모았고, 개발은 빠르게 진행됐다. 샘플 단계에 이르렀을 즈음 히틀러는 죽었다. 원래의 목적은 히틀러를 막는 것이었으니 그만둘 수도 있었지만 미국은 멈추지 않았다. 핵폭탄을 완성했을 뿐 아니라 사용까지 했다.
엄마는 오펜하이머를 중심으로 한 극소수의 인물들을 제외하면 대부분의 과학자들은 자신이 전체 프로젝트에서 어떤 일을 하고 있는지조차 알지 못했다고 한다. 각자 자기 연구만 맡았고 전체 그림 속에서 자신이 어떤 퍼즐 조각인지도 모른 채 일했다. 그 편이 프로젝트를 관리하는 데 훨씬 수월했기 때문이다. 윤리적 의문이나 개인적 거부감이 드러날 여지가 없어야 연구가 계속될 수 있으니까. 오펜하이머는 그 사실을 온전히 인식한 뒤 깊은 죄책감을 안고 살았다.
엄마가 나와 함께 이 책을 읽는 이유도 여기에 있다고 했다. 내가 지금 세계적인 대기업에서, 그것도 AI를 주도하는 회사의 일원으로 일하고 있는 만큼 내가 하는 일들이 결국 어디로 흘러갈 수 있는지, 전체 그림 속에서 내가 어떤 퍼즐 조각인지 한 번쯤은 내려다볼 수 있는 안목을 가졌으면 해서라고.
그리고 엄마는 이런 걱정도 덧붙였다. 고급 인력조차 AI가 대체할 수 있는 시대가 오면서 회사가 직원들의 목소리에 지금만큼 귀 기울이지 않아도 되는 순간이 올지도 모른다고. AI가 일자리를 빼앗을까 걱정하는 것보다 어쩌면 그게 더 두려운 일이라고 했다.