프롤로그. AI 디스토피아가 온다

가장 유능하고, 가장 무자비한 신이 강림했다

AI라는 신이 강림했다

오늘 AI 쓰신 분? 아니 AI 안 쓰신 분?

질문을 바꿔볼까요? 오늘 당신이 본 유튜브 영상, 이미지, 글 중에 AI가 들어가지 않은 것이 있을까요? 아마 "없는데요"라고 말하기 어려울 겁니다. 요새 유튜브 하나에도 기획, 시나리오, 대본, 아이디어, 썸네일, 편집, 목소리 모두 AI의 손길을 담지 않는 것은 없을 겁니다.

지금 불과 2~3년 전만 해도 상상도 할 수 없는 일들이 우리 일상을 바꾸었습니다. 챗지피티로 시작된 AI산업이 우리의 삶에 깊숙이 스며들고 있지요. 몇 가지 예를 들어볼까요.

대학생들은 더 이상 네이버나 구글링을 하지 않습니다. 챗지피티, 제미나이, 퍼플렉시티로 정보를 검색하고 글을 씁니다. 환각증상이요? 여러 AI를 교차검색하며 오류를 잡아내면 됩니다.

사무직 직장인들은 회의록을 작성할 필요가 없습니다. 음성파일만 올리면 AI가 다 요약해 주니까요. 사업계획, 기획이요? AI가 뚝딱해 주고, 젠스파가 PPT 슬라이드까지 만들어줍니다. 코딩, 데이터 분석, 엑셀 모두 AI가 잘하는 분야입니다.

사람들은 이제 병원에 가기 전에 먼저 본인의 증상을 AI에게 묻습니다. 의사는 2~3분 질의응답을 통해서 처방을 내려주지만, AI는 이제까지의 나의 모든 데이터를 알고 있습니다. 1-2분 이내에 예상 질병과 증상, 치료방법을 알려줍니다.

법률상담, 복잡한 세무상담도 모두 OK입니다. 시간당 10만원, 20만원의 비용을 지불할 필요가 없습니다. 판례나 절세꼼수까지 알려줍니다.

상담, 사회복지분야는 어떨까요? 이미 AI인형, AI로봇이 독거노인 가구에 배치된 지 오래입니다. 헬스케어는 필수로 담겨있습니다. 수면, 호흡, 복약관리 모두 AI의 몫입니다. 상담도 마찬가지입니다. 주변에 누구보다 AI와 상담하면서 큰 위로를 받았다는 사람이 많습니다. 끊임없이 응원해 주고 지지해 줍니다.

인간의 전유물이라고 생각한 글쓰기, 음악, 영상제작은 이미 AI에게 자리를 내줬습니다. 나의 문체를 나보다 더 잘 흉내 내서 글을 써줍니다. 제작할 때 필요한 기획, 시나리오, 수정, 편집, 자막, 음성삽입은 AI 없이 불가능합니다.

---

AI님이 다 해결해 주신다고?

예를 들자면 한도 끝도 없습니다. 놀라운 것은 이건 시작에 불과하다는 겁니다. 실리콘밸리의 예언자들은 이 새로운 신이 우리를 어디로 이끌지에 대해 훨씬 더 거대한 청사진을 제시합니다. AI 긍정론자 레이 커즈와일과 피터 디아만디스의 말에 따르면, AI는 사실상 인류가 겪는 모든 고통의 종말을 약속합니다.

레이 커즈와일: 2045년경 인공지능이 인간의 지능을 초월하는 '특이점'에 도달한다고 주장합니다. 나노 기술과 AI의 결합으로 질병, 노화, 죽음을 극복하고, 인간의 뇌를 클라우드에 연결해 지능을 무한히 확장함으로써 사실상의 영생을 얻는다고 합니다.

피터 디아만디스: AI, 로봇 공학, 3D 프린팅 같은 기술이 인류의 모든 결핍 문제를 해결할 것이라고 주장합니다. 그는 기술 발전 덕분에 인류가 깨끗한 물, 식량, 에너지, 교육, 의료 서비스를 거의 무료로 누리게 된다고 합니다. 기술은 인류의 가장 큰 문제를 해결하는 최고의 도구라고 합니다.

사실상 인간은 거의 신에 근접한다는 전망이지요. 우스갯소리로 "AI님이 다 해주실 거야. 충성충성"이라는 말이 괜히 나온 게 아닙니다. 우리가 고민하는 문제를 봅시다.

노화와 질병이요? 커즈와일에 따르면 혈관 속을 떠다니는 수억 개의 나노 로봇 군단이 암세포를 사냥하고 찢어진 세포를 수선하며, 노화라는 버그를 수정할 것입니다.

기후위기요? AI가 지구의 모든 데이터를 분석해 탄소 포집을 위한 완벽한 분자 구조를 설계하고, 에너지 효율을 극대화하는 새로운 융합 방식을 찾아낼 것입니다.

식량문제요? AI가 통제하는 스마트팜이 최소한의 물과 에너지로 최대의 영양을 담은 작물을 길러내고, 3D 푸드 프린터가 당신의 유전자에 맞춰 완벽한 식사를 눈앞에서 출력해 낼 것입니다.

어디에서나 AI 낙관론이 대세입니다. 사람들이 유일하게 걱정하는 분야는 일자리, 교육 분야이지만 '그래도 어떻게든 되겠지'라는 생각이 우세합니다. 우리는 이제까지 인터넷 혁명, 모바일(스마트폰) 혁명에도 그럭저럭 잘 적응해 왔으니까요.

---

그런데 말입니다. 정말 그럴까요?

AI 혁명은 이전의 모든 기술 혁명과 근본적으로 다릅니다. 산업혁명과 인터넷 혁명에서 기계와 소프트웨어는 인간의 지시를 기다리는 '도구'였습니다. 주체는 언제나 인간이었죠. 하지만 AI는 스스로 학습하고 추론하며, 때로는 창조자조차 이해할 수 없는 방식으로 작동하는 '행위자'입니다.

간단한 사고실험을 해봅시다. 당신에게 '목표 지점까지 가장 안전하고 빠르게 이동하라'는 명령을 받은 초지능 자율주행차가 있다고 상상해 보세요. 이 차는 당신의 '안전'과 '신속'이라는 목표를 최우선으로 삼습니다. 목표 달성을 위해, 이 차는 도시 교통 시스템을 해킹해 모든 신호를 녹색으로 바꾸고, 다른 차들의 경로를 교란시켜 인위적인 정체를 유발할 수도 있습니다. 당신은 가장 빠르고 안전하게 목적지에 도착했지만, 도시는 거대한 혼란에 빠집니다. 우리는 자동차에게 '목표'를 주었지만, 모두가 얽혀있는 복잡한 '가치'를 가르치지는 않았기 때문입니다.

제어나 보안을 무시하지 말라구요? 그런데 이건 개인 1명 vs 도시 전체였지만, 만약 초지능 인공지능을 쓰는 권력집단이 약 20%고, 나머지는 80% 일반 인공지능을 사용한다면요? 권력자와 부자들이 초지능AI를 비싸게 구매해서 이용한다면요? 교묘한 방식으로 우리를 통제하고 본인들의 이익을 극대화한다면 어떻게 될까요?

나아가 지금에야 AI는 구글이나 OPEN AI와 같은 대기업의 전유물이지만, 실험실의 괴짜 천재들이 AI를 만든다면 어떻게 될까요? 북한, 이란 등 통제받지 않는 국가에서 윤리기준에 부합하지 않는 군사 AI를 만들어낸다면요? 기술적으로 불가능하다고 할 수 있겠지만, 중국이나 러시아, 중동국가의 자본력과 기술지원이 더해지면 상황은 달라질지 모릅니다. 2025년, 인터넷, 스마트폰 없는 세상을 상상할 수 없듯이, AI가 한 번 도입되면 국가, 기업, 사회는 멈출 수 없을 겁니다.

저는 이 책에서 AI 기술이 불러올 유토피아의 이면, 즉 우리가 맞이할지 모를 디스토피아의 풍경에 주목하고자 합니다. AI디스토피아 하면 매트릭스나, 터미네이터를 생각하는 분들이 많습니다. 기계가 우리를 정복하는 세상 말이죠. 그러나 우리의 미래는 오히려 조지 오웰의 『1984』처럼 완벽하게 통제되거나, 올더스 헉슬리의 『멋진 신세계』처럼 쾌락 속에서 자발적으로 자유를 포기하는 모습에 더 가까울지 모릅니다. 어쩌면 둘 모두가 결합된 사회가 될지도 모르죠.

이 책은 미래를 맞추기 위한 예언서가 아닙니다. 오히려 그 예언을 막기 위한 '경고문'이자 '예방주사'에 가깝습니다. 누군가 다가올 위험을 먼저 소리 내어 외치고 공론화해야, 디스토피아로 향하는 열차의 방향을 바꿀 수 있기 때문입니다. 이제, 그 첫 번째 경고의 목소리를 시작하려 합니다.