소설로 읽는 AI의 주요 쟁점들 (1)
특이점이 온 AI 시대
이 소설은 지금으로부터 10년 뒤인 2034년을 배경으로 해요. 갑자기 웬 소설이냐 싶겠지만, AI 출현과 관련된 SF소설의 아이디어가 하나씩 실현되는 것을 보면서, 미래를 예측하고 공부하기에 이야기만큼 좋은 매체는 없다는 생각이 들었기 때문이에요. 주인공 K를 따라가다 보면 막연하기만 했던 AI와 공존하는 근미래, 그리고 현실의 인사이트가 찾아올 거라 믿어요.
코파일럿 그림진짜와 가짜
“컷! 오케이!”
스튜디오에 울리는 조연출의 외침이 공허하다. 아침 생방송을 끝낸 출연자들은 좀비처럼 부스스 일어나 사라진다. 외주 프로덕션 연출자이자 대표인 K는 부조정실에 앉아서 ‘Verified Media’(검증된 매체)라는 자막이 화면 상단에 별똥별처럼 반짝이다 사라지는 걸 바라본다. ‘검증된 매체.’ 딥페이크나 생성형 인공지능으로 창조된 디지털트윈(실제 배우의 모습으로 만든 디지털 캐릭터), SORA와 같은 동영상 생성 프로그램을 사용하지 않았다는 뜻이다.
가짜는 놔두고 진짜 사람이 나오는 콘텐츠에 딱지를 붙이다니 한심한 일이라고 생각한다. 하지만 AI 출연자를 싫어하는 나이 든 완고한 시청층은 계속 줄고 있다. K의 프로덕션도 자본잠식에 들어간 지 오래다. 제작 실비 정도만 지급하는 방송사 외주비로 버티기엔 애초에 타산이 맞지 않는 일이었다. K는 자신처럼 머리가 희끗희끗한 스태프들을 바라본다. ‘저 친구들이 나가버리면 이제 끝인 걸까?’
10여 년 전인 2023년, 미국배우조합(SAG-AFTRA)의 기록적인 148일 파업은 AI로부터 미디어 일자리를 지키려 분연히 궐기한 것이었다. 하지만 결과적으로는 실패였다. 의도와 달리, 합법적 AI 사용의 길을 터준 셈이 되었고, 스튜디오는 음성, 초상 관련 데이터 권리를 연기자로부터 손쉽게 구매해 사용할 수 있게 되었다. 연기자 역시 나이 든 얼굴을 걱정하지 않아도 되고, 교묘하게 얼굴을 베낀 제작사들과 초상권 분쟁을 벌이지 않아도 되니, 확실히 나은 선택이었다.
문제는 더 이상 후속 세대를 기대할 수 없다는 점이었다. 딥페이크 우려로 온라인으로 진행하던 배우 오디션은 사라졌다. AI를 표절한 대본인지 확인이 불가능해지자 작가 공모전도 없어졌다. 편집, 조명, 음향, 카메라, 연출을 전공하는 사람 대신, 품질을 관리하는 PM(프로그램 매니저)과 AI에게서 정확한 작업물을 뽑아내도록 프롬프트를 입력하는 PE(프롬프트 엔지니어)가 콘텐츠를 만들게 됐다. K가 대표로 있는 전통 방식의 영상 제작 스튜디오는 스탭이 일을 그만두면 대체할 방법이 없다.
두려운 미래, 수상한 전화
미간을 찌푸린 채 고개를 젓던 K는 진동 알람에 휴대폰을 바라본다. 주가 차트가 요동치며 대폭락 하고 있다. 환율, 미국 경제지표, 금리 등을 빠르게 확인해 봤지만 이유를 알 수 없다. 과거엔 손절선을 정해놓은 프로그램 매매 정도였지만, 최근엔 수만 개의 매개변수를 알고리즘화 한 AI 프로그램들이 경쟁적으로 활약한다. AI끼리 공진화를 거듭한 끝에 이제는 어떤 지표에 의해 매도 물량이 쏟아지는지도 알 수 없게 되었다. 놀란 K가 전량 매도 버튼을 누르려는데 전화가 걸려 왔다.
스팸이라 생각하고 몇 번이나 전화를 껐지만 다시 걸려 온다. 휴대폰을 들자 저음의 중년 여성 목소리가 들린다. “K 씨, 중요 제안이 있으니 사무실 앞에 대기 중인 무인 택시에 타세요.” K는 화가 치밀었다. 전화를 받는 동안 주식 손실은 불어나고 있을 터였다. “폭락장은 걱정 마세요. K 씨 투자금은 3일 전 매매 처리 후 예수금으로 보관 중이니까요. 오늘 제안을 위한 사례금도 함께 두둑하게요.” K는 혹시나 하는 마음에 증권계좌를 확인한다. 놀랍게도 예수금뿐 아니라 프로덕션 대출을 모두 청산할 수 있을 정도의 많은 돈이 입금되어 있었다.
K는 침착하게 대응했다. “금융해킹 범죄로 신고하겠습니다!” 상대는 예상했다는 듯 침착하게 대꾸했다. “신고하는 순간, AI 금융 범죄로 판단하게 되고 법에 따라 K 씨 회사 계좌는 동결됩니다. 지난달 늦게 지급된 급여에 이어, 이번 달엔 아예 급여를 못 준다면 스태프들은 회사를 떠나겠죠?” K는 사실임을 인정할 수밖에 없었다. 법망은 AI의 발전 속도는커녕 사기 수법의 진화를 쫓아가기에도 급급한 형편이 된 지 오래다. “K 씨 안전은 보장하죠. 방법이 거칠다는 건 인정하지만 비즈니스 제안일 뿐입니다. 오신다면, 제안 수락 여부와 별개로 통장에 입금된 사례금은 K 씨 것이 됩니다.”
K는 선택의 여지가 없었다. 사무실 밖으로 나와 대기하고 있던 택시에 오른다. 건조한 AI 보이스가 흘러나온다. “목적지인 케이브 코스트로 모시겠습니다. 안전띠를 매 주세요.”
- 1부, 끝 -
AI 발전 속도와 창발적 성능
레이 커즈와일은 <특이점이 온다>란 책에서, 인공지능이 인간 지능을 초월하는 기술적 특이점이 오는 시기를 2029년으로 예상해요. 엔비디아의 젠슨 황도 5년 내 인간이 치르는 모든 테스트를 통과하는 AGI(범용 인공지능)가 나올 것이라 예상했고, 일론 머스크는 2년 내라고 단축된 예상을 내놨어요.
예상보다 빠른 AI 기술의 발전은 수확 가속의 법칙, 즉 자연계가 진화 속도면에서 산술급수적인 반면, 기술은 기하급수적으로 발전하는 특성을 가졌기 때문으로 보여요. 그런데 이런 특징은 AI의 질적인 성능 면에서도 관찰이 돼요.
ChatGPT와 같은 거대언어모델은 인간 두뇌의 시냅스에 해당하는 파라미터(매개변수)가 특정 수량에 도달하면 느닷없이 치솟는 성능 개선이 나타나요. 연구자들은 이런 느닷없는 능력의 출현을 설명하기 위해 ‘규모의 양적 증가로 인한 질적 변화’란 의미의, ‘창발(emergence)’이란 용어를 끌어다 사용했어요.
AI 통제력을 가지려는 인간
문제는 기하급수적인 발전 속도와 느닷없이 나타나는 AI의 능력을 인간이 통제할 수 있는가로 귀결돼요. 위 소설의 예처럼, 속도와 능력을 통제하지 못하면 노동, 금융, 법률 등 많은 분야에서 위험에 대비할 시간을 확보할 수 없게 되니까요.
AI에 대한 통제력의 핵심은 예측에 있어요. 알려진 위험은 위험이 아닌 것처럼, AI가 어떤 성능을 발휘할지 알 수 있다면, 창발성의 ‘점프’가 오기 전에 대비할 수 있기 때문이지요. 따라서 일부에선 AI의 창발성은 잘못된 측정 기준으로 인한 신기루라고 비판하며 AI 성능 예측을 위한 새로운 지표를 개발하려 노력 중이에요.
그럼에도 불안은 여전히 남아 있어요. 현재로선 관련 연구가 발전 속도를 따라잡지 못하는 데다 AI의 능력은 일단 개발이 끝난 후에만 사후적으로 측정할 수 있기 때문이지요. 양 무리에 일단 풀어놓아야 늑대인지 보더콜리인지 알 수 있다면 과연 실효적인 통제가 가능할까요?
AI와 형이상학의 새로운 기회
특이점에 가까워진 AI 시대는 예측 불가능하기에 공포를 불러일으켜요. 하지만 달리 보면 아리스토텔레스가 물리학을 뛰어넘어 탐구하고자 했던 진정한 제1철학, 형이상학(METAPHYSICS)의 새로운 장을 쓸 수 있는 시점이기도 해요. AI와 공존하는 현재는, 인간과 의식, 존재에 대한 다른 차원의 앎과 통찰을 가져올 수 있기 때문이에요. 만약 우리가 영화 <매트릭스> 네오처럼 진실을 마주할 빨간약을 삼킬 수 있는 용기가 있다면 말이죠.
K의 두 번째 이야기는 바로 그런 지점을 다뤄보고자 해요. 기대해 주세요.
* 이 글은 <아시아문화콘텐츠연구소>에서 발행하는 악씨레터에 실린 글입니다.
