기술의 파도 앞에서, 우리는 멈출 수 있을까
무스타파 슐레이만의 <더 커밍 웨이브>를 읽고
“기술은 소용돌이치는 거대한 물결 속에서 대규모 확산이라는 명확하고 필연적인 궤적을 따른다. 인류 초기의 부싯돌과 뼈 도구부터 최신 AI 모델에 이르는 모든 기술이 그러하다. (중략) 이것이 바로 기술의 피할 수 없는 진화적 본질이다.”(p.51)
무스타파 슐레이만의 <더 커밍 웨이브>를 읽었다. 나날이 급변하는 AI기술과 쓰나미처럼 느껴지는 사회와 각 분야 사람들의 엇갈리는 반응들, 앞다투어 신기술을 사용하고 적응하는 대한민국의 모습이 요즘 나에게는 혼란스러움 그리고 끝을 알 수 없는 불안함의 연속이었다. 나날이 내 생업과 창업을 가지고 고군분투하는 삶에서 조용히, 여유있게 독서하는 시간이 정말 부족했다. 그럼에도 불구하고 이 책은 마지막 페이지까지 모두 다 읽고 싶었고, 그럴 수 밖에 없었다. AI 기술공학자이면서 업계 생태계를 깊이 이해하고 있는 저자의 높은 전문성과 깊은 역사적 통찰력이 느껴졌기 때문이다. 주변에서는 유발 하라리의 <넥서스>보다 이 책이 더 나았다는 추천도 많이 들었다.
“이러한 태도는 우리가 얼마나 멀리까지 왔고 상황이 얼마나 빠르게 전개되고 있는지를 크게 간과하게 만든다. 물론 LaMDA는 지각이 없었지만, 지각이 있는 것처럼 보이는 AI 시스템이 보급되는 일이 일상화될 것이다. 너무나 실제적이고 정상적인 것처럼 보일 것이기 때문에 의식에 대한 의문 역시 (거의) 무의미해질 것이다. (p.129-130)
"23andMe와 같은 기업은 이미 수백 달러에 개인의 DNA 프로파일링 서비스를 제공하고 있다.“(p.144)
"머지않아 일반적인 방식으로 치료를 받는다는 생각은 완전히 구시대적인 발상으로 여겨질 것이며, 우리가 받게 될 치료 방법에서부터 의약품에 이르는 모든 것이 우리의 DNA와 특정 바이오마커에 정확하게 맞춰져 제공될 것이다. 궁극적으로는 면역 반응을 강화하기 위해 우리 자신을 재구성하는 것이 가능할 수도 있다.“(p.151)
"타인을 대상으로 한 실험은 명백히 금지돼 있지만, 자기 자신을 대상으로 한 실험은 어떻게 되는 것일까? 첨단 기술의 다른 많은 요소와 마찬가지로 법적으로나 도덕적으로나 명확하게 정의되지 않은 영역이다.“(p.152)
일단 책의 앞부분에서는 설마 신기술로 이런 것까지 가능할까 했던 상상이 얼마나 현실에서 가능한지, 구체적인 최신 사례와 예시들을 접한 것만으로도 유용했다. 저자는 인공지능과 합성생물학이라는 두 개의 거대한 파도가 인류 문명에 몰고 올 충격을 냉철하게 분석하면서, 기술 발전을 낙관적으로 찬양하기보다, 인류의 통제 능력이 기술의 속도를 따라가지 못하는 현실을 지적하며 “기술 억제(Containment)”라는 대안을 제시한다. 작금의 세계가 미국과 중국의 경쟁 구도와 각자도생이 국제 정치와 사회, 개인의 삶까지 흔들고 있는 상황에서 엘리트 전문가들 중 ‘기술변화에 빠르게 적응하지 못하면 도태된다’, ‘그러니 가만히 있지 말고 제발 뭐라도 해라’ 식의 위협 아닌 위협과 같은 말들만 난무하고 있는 것도 사실이다. 하지만 전 지구적인 인류의 관점에서 무서운 생물학적 환경 재앙, 혹은 기술이 지배하는 디스토피아 전체주의 사회와 같은 절벽 아래로 떨어지지 않기 위해, 과연 국제사회 지도자, 국민국가, 정치인과 기술엘리트들, 그리고 모든 평범한 민중들은 어떤 대안을 모색하고 함께 행동해야 할 것인가? 이런 질문은 현 시점에서 너무나 절실하고도 절박한 것이기에, 이 책을 끝까지 정독하지 않을 수 없었다.
"누구나 첨단 기술에 접근할 수 있게 되면 강력한 물리적 방어나 가상 방어가 더 이상 국민 국가의 전유물이 아니라는 것을 의미한다.“(p.337)
“결국 DNA나 대규모 언어 모델의 코드를 공유하거나 복제하는 것은 간단한 일이 되고 말았다. 개방성은 기본이고, 모방은 만연하며, 비용 곡선은 끝없이 하락하고, 접근 장벽은 무너지고 있다. 마음만 먹으면 누구나 폭발적인 능력을 발휘할 수 있게 되는 것이다.”(p.338)
슐레이만은 인류가 핵 확산을 관리했던 경험을 모델로, 글로벌 차원의 규제 협력과 기술 사용의 윤리적 기준 설정을 주장한다. 그의 ‘억제’는 발전의 부정이 아니라, 인류 공동체가 스스로를 보호하기 위한 최소한의 방어선으로 읽힌다. 기술을 무조건 억누르는 것이 아니라, 사회적 책임과 민주적 통제를 기반으로 한 ‘속도 조절’을 강조한다는 점에서 설득력이 크다. 이미 우리는 ‘핵무기 비확산에 관한 조약, CFC를 금지하는 몬트리올 의정서, 냉전의 분단 상황에서 소아마비 백신의 발명, 시험 및 보급, 생물 무기를 효과적으로 금지하는 군축 조약인 생물 무기 금지 협약, 집속탄, 지뢰, 인간 유전자 편집, 우생학 정책 금지, 탄소 배출과 기후 변화 위기 극복을 위한 파리 협정, 천연두 퇴치를 위한 전 세계적인 노력, 휘발유에 함유된 납의 단계적 퇴출, 석면 퇴치’(p.444) 등 성공적인 억제 경험을 가지고 있다. 또 GPT-4가 출시된 지 불과 며칠 만에 수천 명의 AI 과학자들이 가장 강력한 AI 모델 연구에 대한 6개월 유예를 요구하는 공개서한에 서명(p.460)하기도 했다.
그러나 우려되는 점도 있다. 국가 간 이해관계가 첨예한 현실 속에서 이러한 글로벌 억제 체제가 실제로 작동할 수 있을까? 기술을 독점한 소수 세력의 권력이 강화되는 역효과를 낳지 않을까? 책의 마지막 에필로그에는 19세기에 접어들 무렵 영국의 러다이트 운동을 주도했던 실직공들의 이야기가 펼쳐졌다. 영국 미들랜드의 직조공들은 확산이 기본이고 자신들을 둘러싼 기술의 물결이 경제적 필연이라는 사실을 받아들이지 않았고 저항하기로 결심했다. 그들의 소박한 요구는 묵살되었고 싸움은 패배했으며, 세상은 바뀌었다. 그렇지만 장기적으로 보면 상당한 고통을 안겨 준 바로 그 산업 기술이 생활 수준을 엄청나게 향상시켰다. 요즘 6학년 어린이들과 함께 하는 <클래식과 서양사> 프로젝트에서도 함께 공부하고 있는 19세기 산업혁명의 역사다.
아이들과 함께 디지털 도구를 활용해서 수업하다 보면, AI에 익숙하지 않은 우리보다 훨씬 더 능숙하게 이용하는 모습을 엿볼 때가 많다. 이번주엔 산업혁명과 세계사 개념을 정리하기 위해 학원 선생님 한 분이 GPT를 이용해서 간단한 두 줄 프롬프트 만으로 온라인 배팅 게임을 만들어냈는데, 정말 깜짝 놀랐다. 학습자료 업로드와 명령어 두 문장 만으로 이렇게 쉽게 게임 사이트가 만들어지다니.. 그런데 두번째 더 놀란 사건은, 수업중 학생들이 아주 쉽게 코드를 조작해서 배팅 게임 점수를 20만점 넘게 만들어냈다는 것이었다...!!
GPT가 뚝딱 만들어낸 매우 허술한 게임 ㅎ“다가오는 물결은 세상을 바꾸고 말 것이다. 결국에는 우리 인간이 더 이상 지구에서 가장 큰 영향력을 행사하는 존재가 되지 못할 수도 있다. 우리는 일상적인 상호 작용의 대부분이 다른 사람이 아닌 AI와 이뤄지는 시대에 살게 될 것이다.”(p.474)
결론은 간단하다. 무스타파 슐레이만이 제시한 ‘통제 없는 혁신은 재앙’이라는 경고는 오늘의 인류가 귀 기울여야 할 절박한 메시지다. 『더 커밍 웨이브』는 기술 낙관주의 시대에 ‘멈춤의 용기’를 되묻게 하는 지성의 기록이었다. 그리고 개인적인 생존 앞에서 시야가 좁아졌던 요즘, 인류의 관점과 역사적 관점으로 다시 한번 나의 정신을 고양시켜준 틈새 독서 시간에 감사한 마음이다.
"안전하고 통제된 기술은 자유 민주주의와 마찬가지로 결정적인 최종 상태가 아니라 현재 진행 중인 과정이며, 적극적으로 유지하고 끊임없이 싸우며 보호해야 하는 미묘한 균형 상태에 있다."(p.465)
