AI 특이점과 오펜하이머 모멘트
원고 마감에 허덕일 때마다 생각했다. 원하는 글을 뚝딱 대신 써 주는 기계가 있으면 얼마나 좋을까. 그러나 어디까지나 넋두리였을 뿐, 생성형 인공지능(AI)의 시집이 발간되고 AI가 쓴 단편소설이 신인상을 받는 시대가 이렇게 빨리 올 줄은 몰랐다. 심경이 복잡하다. AI가 인간의 창의성까지 모방하는 수준에 이르렀다는 놀라움, 판도라의 상자가 열린 게 아닐까란 두려움…. 글 쓰는 동료들과 관련 이야기를 나눌 때마다 조만간 우리 모두 손가락 빨아야 하는 거 아니냐는 농담 섞인 말을 했다.
아, 그런데 농담을 현실로 바꾸고 있는 AI 세상이여. 진원지는 작가조합(WGA)과 배우·방송인조합(SAG-AFTRA)이 동시 파업에 들어가면서 모든 게 스톱된 할리우드다. 그들을 멈춰 세운 이유의 중심에 AI가 있다. 작가들은 생성 AI로 쓰인 대본이 자신들을 대체할 수 있다는 우려와 함께, 챗지피티가 기존 콘텐츠를 불법적으로 짜깁기해 지식재산권을 침해하고 있다고 비판한다. 배우들은 딥페이크 기술이 초상권을 침해한다고 목소리를 높인다. 실제로 실어증으로 은퇴한 브루스 윌리스를 AI로 합성한 광고가 배우 측과의 합의 없이 만들어져 논란이 일기도 했다. AI를 그린 SF 영화를 만들어 온 창작자들이 진짜 AI로 인해 일자리를 빼앗길 위기에 놓인 아이러니. 그렇게 SF 장르는 극사실주의가 되어가는 중이다.
딥페이크 기술은 할리우드 스타만 노리진 않는다. 유력 정치인도 가짜뉴스에 태운다. 지난 3월 도널드 트럼프가 수갑을 차고 경찰에 잡혀가는 조작된 사진이 돌면서 SNS가 발칵 뒤집혔다. 5월엔 미 국방부 청사가 폭파되는 가짜 사진으로 인해 주식시장이 출렁이고 세계 안보에 비상등이 켜졌다. 가짜뉴스는 기존에도 있었지만, AI가 정교해지면서 가짜와 진짜의 구별이 갈수록 어려워진다는 점에서 상황은 더욱 암울하다.
물론 당신도 피해자가 될 수 있다. 가령, 당신이 모르는 사이에 당신에 대한 가짜 영상이 만들어졌다고 가정해 보자. 당장은 피해 없이 살아갈 수 있다. 문제는 그것이 어느 날 당신이란 사람의 과거를 보여주는 증거물로 떠올라 약점이 될 때다. 그때, 누가 당신의 말을 믿어 줄 것인가.
이쯤이면 <터미네이터>처럼 AI가 인간을 역습하는 날이 올 수 있다고 상상하는 게 이상하지 않다. 전문가들도 가세했다. ‘AI의 대부’ 제프리 힌턴 박사는 구글을 퇴사하면서 “그동안 내가 한 AI 연구에 대해 후회한다”는 발언으로 AI 업계에 충격파를 안겼다. AI의 위험성에 대해 자유롭게 발언하기 위해 구글을 나왔다는 그는 컴퓨터가 무엇을 학습하든 인간을 능가할 거라고 경고한다. “AI 기술이 적용된 ‘킬러 로봇’이 현실이 될까 두렵습니다.”
역사는 반복되는 것일까. 힌턴의 후회는 인류 최초의 핵무기 실험 ‘맨해튼 프로젝트’를 성공시킨 로버트 오펜하이머의 후회와 오버랩된다. 나치 독일이 가공할 무기를 먼저 개발하면 안 된다는 절박함에 핵무기 개발에 참여했으나, 결과적으로 지구를 공멸시킬 수 있는 위험을 열었다는 죄책감에 시달린 오펜하이머는 2차 세계대전 후 핵폭탄 개발 중단과 수소폭탄 개발을 반대하다 축출된 인물. 마침 크리스토퍼 놀런은 영화 ‘오펜하이머’를 통해 과학이 정치·사회적 상황에 맞물릴 때 어떤 연쇄·핵융합반응을 일으키는가를 지켜본다. AI 과학계가 요즘 시기를 ‘오펜하이머 모멘트(새로운 기술로 의도치 않은 결과가 초래되면 과학자에게도 책임이 있다는 것을 돌아봐야 한다는 뜻)’라고 부르는 것을 상기했을 때, 영화가 세상에 나온 시기가 절묘하다.
AI가 특이점을 넘어 인간을 위협하는 날이 올지는 알 수 없지만, 한 가지는 확실하다. 과학이 중립적이라는 건 현대사회에선 환상이라는 것. 핵발전, 신약 개발, 코로나19 대응 등이 그랬듯 인공지능 발전 역시 순수과학만으로 이뤄진다고 생각하면 순진하다. 그 이면에는 정치적 실리가 있고, 자본의 힘이 있다. 국제적 합의를 통한 통제가 없다면, AI로 뭔가를 얻으려는 이들의 무분별한 행보도 멈추진 않을 것이다. 주도권을 뺏길 수 있다는 우려에, 스스로를 파괴할 운명 속으로 집어넣은 핵무기 역사가 이를 증명한다.
(세계일보에 쓴 칼럼입니다)
