매주 엄마와 함께 알렉스 카프의 《기술공화국 선언》을 한 챕터씩 읽고 이야기를 나누고 있다. 요즘 세상을 이끄는 사람들이 AI를 어떻게 생각하고 있는지 알면 좋을 것 같다는 엄마의 제안으로 시작한 일이다. 방구석에서 우리가 이런 이야기를 나눈다고 해서 세상에 어떤 변화가 생기는 건 아니지만, 이 대화가 누군가의 생각에 닿아 작은 씨앗이라도 될 수 있으면 좋겠다는 마음으로 여기에 써본다.
《기술공화국 선언》 2장은 오펜하이머의 핵무기 개발 이야기로 시작한다. 과학자들은 도덕적인 것 자체가 없는 존재들이며, 그들의 순수한 과학적 열정으로 만든 것이 어떤 결과를 낳을지는 그들의 책임이 아니라는 주장이다. 이 논리는 AI 개발로 자연스럽게 이어진다. 카프는 AI 개발을 잠정 중단하자는 목소리를 비판하며, 지금이야말로 AI 무기 개발에 박차를 가해야 할 때라고 역설한다.
2장을 읽으며 가장 인상 깊었던 문장은 “과학자들은 비도덕적인 게 아니라 도덕적인 것 자체가 없는 존재”라는 부분이었다. 엄마는 그 자체로는 사실일 수 있지만 카프는 옳은 말을 교묘하게 배치해 쟁점을 흐린다고 지적했다.
사회가 제기하는 질문은 ‘개발자 개인이 나쁜 사람인가?’가 아니다. ‘기술 발전을 사회가 어떻게 관리하고 통제할 것인가?’다. 하지만 카프는 전자의 프레임으로 논의를 끌고 간다. 과학자들에겐 도덕적 책임이 없다는, 그 자체로는 틀리지 않은 주장을 펼치면서 마치 사회적 규제나 윤리적 논의 자체가 과학자 개인을 마녀사냥하려는 시도인 것처럼 포장한다.
카프는 ‘과학자 개인에게 죄가 없다’는 진실을 방패 삼아 ‘AI 개발을 제약 없이 밀고 나가야 한다’는 결론을 정당화한다. 개인의 무죄와 사회적 통제의 필요성은 별개의 문제인데, 마치 개인에게 죄가 없으니 사회적 규제도 없다는 식으로 논리를 전개하는 것이다.
엄마가 말했다. 핵무기가 히로시마에 떨어지기 전에는 그런 주장이 가능했을지 모른다고. 하지만 이제 우리는 순수한 과학적 열정이 어떤 결과를 낳았는지 안다. 이미 전 세계가 모여 핵확산 금지조약을 만들고, 핵무기를 통제하려 노력하고 있다. 그럼에도 카프는 같은 논리로 AI 개발의 무제한적 진행을 옹호한다.
책을 읽으며 떠오른 여러 질문에 대한 이야기도 나눴다.
1. AI 개발을 멈춰야 하는가?
엄마는 ‘멈춰서 생각해 보자’는 쪽에 마음이 기울지만 현실적으로는 불가능하다고 봤다. 대신 경계하고 우려하는 목소리가 지금보다 훨씬 커져야 한다고 했다. 나는 AI 개발을 계속해야 한다고 본다. 안 해보면 문제점도 드러나지 않으니까. 하지만 지금 가장 우려되는 건 그 발전 속도와 일반 대중의 이해도 사이의 간극이다. 테크 업계가 바라보는 AI와 일반 사람들이 경험하는 AI 사이의 거리가 너무 멀다.
2. 왜 AI는 두려운가?
나는 엄마에게 물었다. 컴퓨터나 인터넷이 처음 나왔을 때 사람들이 두려워했냐고. 엄마의 개인적인 경험에 의하면 그저 신기하고 놀라워했을 뿐이라고 했다. 이 대답을 듣고 생각했다. 왜 컴퓨터는 그저 신기했는데 AI는 두려울까? 컴퓨터가 할 수 있는 일 중 가장 쉽게 떠올릴 수 있는 것을 생각해 보면, 14 자릿수와 14 자릿수를 1초 만에 곱하는 건 애초에 인간의 능력 밖이다. 우리가 할 수 없는 일을 기계가 해주니 신기할 뿐이었던 것 같다.
하지만 AI는 다르다. AI는 대화, 그림 그리기, 글쓰기와 같은 내가 할 수 있는 일을 더 빠르고 그럴싸하게 한다. 그래서 더 불편한 게 아닐까 싶다. 나를 쉽게 대체할 수 있다는 생각이 들기 때문이다.
‘불쾌한 골짜기’ 개념이 여기 적용될 수 있을 것 같다. 완전히 인간답지 않으면 귀엽고, 완전히 인간 같으면 신기하지만, 그 어중간한 중간 단계에서 우리는 불쾌감을 느낀다. 지금 AI가 딱 그 단계에 있는 게 아닐까? 만약 AI가 우리가 할 수 있는 일을 흉내 내는 게 아니라 우리가 상상하지도 못하는 걸 처음부터 보여줬다면 오히려 그저 신기해하기만 했을지도 모른다.
3. 창작의 주도권을 내려놓으면?
카프는 “특정 창작활동에 대한 통제권을 넘겨주는 것이 오직 결과물과 생산성만으로 우리의 존재가치를 증명할 필요에서 벗어나는 계기가 될 수도 있다”라고 했다. 하지만 생산과 결과물 없이 우리는 무엇으로 우리 자신을 증명해야 하는가? 자기 존재의 의미를 고민하는 건 인간의 기본적 욕구다. 이걸 포기하면 우리에게는 무엇이 남을까? 아직 답이 없지만 곧 답을 찾아야 할 것 같다.
책을 읽는 내내 카프의 시선이 향하는 곳에 불편함을 느꼈다. 그가 말하는 “우리”는 미국이다. 더 정확히는 미국의 기술 엘리트층이다. 일반 소비자, 한국은 안중에도 없다.
마이크로소프트에서 팔레스타인 문제로 직원들이 시위했던 일이 생각났다. 당시 나는 ‘마이크로소프트는 그냥 자기 일을 한 거고, 그걸 잘못 사용한 건 사용자의 책임’이라고 생각했다. 카프의 논리와 일맥상통한다. 하지만 만약 그게 한국 문제였다면, 내가 마이크로소프트 직원이 아니었다면, 똑같이 반응했을까? 내가 미국인이었다면, 엘리트층이었다면 이 책을 더 반겼을지도 모르겠다.
나는 어떻게 해야 할까? 나는 PM이다. 내게 중요한 건 사용자, 즉 사람들이다. AI 발전에 긍정적 영향을 받을 사람들이 있는가? 그들의 니즈를 위해 AI가 발전하고 있는가? 나는 AI 발전을 멈춰야 한다고 생각하지 않는다. 하지만 그 발전이 누구를 위한 것인지, 그 과정에서 소외되는 사람은 없는지 끊임없이 질문해야 한다고 믿는다.