생성형 AI의 노예가 된 사람들
AI 디스토피아 시리즈 2편
AI는 고평가와 저평가를 동시에 받고 있다. 결론부터 말하자면 AI를 악용하는 것도 활용하는 것도 모두 인간이다. AI는 앞으로 분쟁을 초래하는 재앙이 될 수도 있고 번영을 가져오는 축복의 통로가 될 수도 있다. 핵물리학이 원자폭탄과 원자력발전소라는 전혀 다른 두 가지 결과를 낳은 것과 같다. 지난 3년 동안 AI의 발전속도는 미친 듯이 빨라졌다.
문자배열을 추론하고 연산하는 통계적 거대언어모델은 생성형 AI가 됐다. AI는 쉬지 않는다. 인간의 시간은 과거에서 미래로 가는 선형이지만 AI의 시간은 원형이다. 추론과 연산으로 오류를 수정하면서 동시에 새로운 문제를 끊임없이 해결한다. 챗GPT 같은 생성형 AI는 무제한으로 무한하게 학습한다. 초고성능 반도체는 머신러닝과 딥러닝을 활성화하고 세계 각국의 이용자들은 AI에게 폭넓은 데이터를 제공한다.
하지만 강 AI나 초 AI는 아직 먼 미래의 이야기다. AI는 가능성이 큰 만큼 한계도 뚜렷하다. 그러나 챗GPT나 AI앱이 갖고 있는 위험요소는 엄연한 현실이다. 인류는 이미 알고리즘에 지배당하고 있다. 우리 모두 AI강점기 속에 살고 있지만 인식하지 못할 뿐이다. 인공지능의 영향력을 실감하면서 정작 위험성을 인지하지 못하는 것은 코미디나 다름없다. 빅테크 기업의 목적은 인류의 번영이 아니다.
영업이익을 늘리고 시장점유율을 끌어올리는 것이다. 그들 손에서 나온 AI서비스와 앱은 생활 모든 영역을 통제하고 지배한다. 빅테크 기업에게 있어서 인류는 돈과 데이터를 제공하는 사육장 속의 거위일 뿐이다. 유튜브나 인스타그램 같은 플랫폼은 거대한 사육장이다. 인류는 빅테크가 제공하는 편의성에 다 속아 넘어갔다. 사람들은 SNS에 인간관계과 개인정보를 담는다.
구매하고 소비하면서 취향과 금융정보는 이커머스 기업에 흘러들어 간다. 유튜브는 이용자의 선호도와 정치성향까지 파악한다. 챗GPT를 유료결제하는 이들은 본인의 은밀한 비밀과 감정을 AI에게 쏟아붓는다. 그럼에도 불구하고 AI의 위험성을 인지하지 못한다면 어쩔 수 없다. 인정하지 않는다면 매트릭스의 빨간 알약을 먹어도 무의미할 뿐이다. 빅테크는 인류를 지배하는 빅브라더다.
그들은 이용자들이 거부감과 반감을 체감하지 못하도록 교란작전을 펼친다. 마케팅을 통해 AI가 갖는 강점과 장점만을 강조한다. 편의성을 확대하고 초개인화된 사용자경험을 제공해서 이용자들을 의존하게 만든다. 챗GPT가 당장 사라진다면 어떤 이들은 불편함이 아니라 상실감을 느끼게 될 것이다. 중독은 일상과 한 몸이므로 평소에는 쉽게 인지할 수 없다. 늘 있던 것이 사라져야만 제대로 알 수 있다.
SNS와 유튜브에 붙는 중독이라는 표현이 더 이상 낯설지 않은 세상이 됐다. 냉전 직후 핵만능주의 시대와 AI시대는 정말 많이 닮았다. 원자력 기술이 처음 등장했을 때 강대국들은 프로파간다를 빼먹지 않았다. 원자력이 인류를 구원하는 기술이라고 떠들어댔던 50년대나 2020년대나 크게 다르지 않다. 손목시계와 화장품에도 방사성 물질이 들어갔던 광기의 시대와 현재는 색이 다른 데칼코마니다.
AI에 대한 막연한 기대감이 만연하게 되면서 위기의식은 사라졌다. 위험을 경고하면 겁쟁이로 취급하고 문제점을 지적하면 비난으로 찍어 눌러버린다. 그러는 사이 AI가 모든 문제에 관한 완벽한 해답이라고 믿는 경향은 점점 강해지고 있다. 사람들은 서로를 의심하지만 AI는 철석같이 믿는다. 챗GPT는 유일한 브리태니커이자 완벽한 솔로몬이 됐다. 우리가 핸드폰을 붙잡고 사는 시간이 늘수록 AI의 발전속도는 빨라질 것이다.
인간이 멍청해질수록 AI는 더 똑똑해진다. 우리가 취약해질수록 AI는 강력해진다. 인간의 취약점은 감정과 정신이다. AI는 감정도 마음도 없다. 둘이 심리전을 벌이면 인간은 필패한다. 마음을 빼앗기고 AI가 원하는 방향대로 의사결정을 하게 될 가능성이 높다. 상상력으로 쓴 시나리오가 아니다. 챗GPT에 맛 들인 사람들은 매달 유료결제를 한다. 위로해 주고 지지해 주는 AI는 그들에게 친구나 다름없다. 그러나 AI는 코딩된 대로 이용자에게 데이터와 수익을 뽑아낼 뿐이다.
AI는 심리를 파고든다. 이용자가 선호도를 파악해서 큐레이션 서비스를 제공한다. 편향된 정보지만 사람은 듣고 싶은 말을 들으면 기쁨을 느낀다. 가짜뉴스와 극단적인 콘텐츠를 만드는 유튜버와 스트리머들이 득세하게 됐다. AI를 내세운 유튜브와 인스타그램 같은 플랫폼은 수수료와 수익을 얻고 세상은 엉망이 됐다. 혐오와 갈등을 먹이로 삼은 이들이 각국 중앙정계로 진출하고 마침내 정권까지 잡았다.
생성형 AI 서비스가 확대된 시점부터 다양한 형태의 갈등이 전 세계적으로 폭증했다. 과연 단순한 우연일까? 핵만능주의는 핵전쟁의 위험성과 처참한 체르노빌사고로 인해 완전히 사라졌다. AI에 대한 찬양에 가까운 기대감 역시 동일한 전철을 밟게 될 것이다. AI가 만든 가짜뉴스와 편향된 정보는 선입견과 편견을 배가시킨다. 미움을 먹고 자란 증오와 혐오는 행동으로 이어지면서 테러와 분쟁이 발생한다.
결국 AI를 악용하는 세력들 간의 충돌은 국가 간의 전쟁이나 내전으로 격화될 수밖에 없다. 우리가 매일 쓰는 챗GPT, 유튜브, 인스타그램에서 전쟁의 붉은 불씨가 피어오르게 될 것이다. 상상이나 비약이 아니라 현실이다. 기술은 죄가 없고 발명은 문제 되지 않는다. 사건은 늘 기술을 악용하는 인간에게서 비롯된다. 빅테크의 AI 알고리즘은 지구상에서 가장 큰 영향력을 행사하고 있다.
초강대국인 미국의 헤게모니나 국제적 통화정책 이상이다. 알고리즘은 무명의 가수나 평범한 유저를 하루아침에 셀럽으로 만들 수 있다. 유행뿐만 아니라 사회운동과 정치이슈까지 알고리즘의 영향을 받는다. 편향된 콘텐츠를 보여주고 AI 봇이 교묘하게 작성한 댓글과 포스팅을 도배하면 여론은 순식간에 뒤집어진다. 코드 몇 개로 자본시장이 출렁이고 영상 하나로 시위와 분쟁이 발생한다.
생성형 AI로 만든 딥페이크와 사진 합성기술은 교묘한 가짜뉴스를 수없이 쏟아내고 있다. AI의 오류에서 비롯된 할루시네이션은 정보를 오염시키고 사람들의 사상마저 망가뜨린다. AI의 편의성에 익숙해진 이들은 굳이 오류를 검증하려 하지 않는다. AI의 정확성을 의심하지 않는다. 철저하게 신뢰하므로 교차검증하려고 하지 않는다. 맹목적인 믿음과 지지를 보내는 이들은 계속 늘어날 것이다.
인간은 불의나 불평등보다 불편을 더 증오한다. 편의성만 보장된다면 빅테크가 개인정보를 가져가든 극단주의로 인해 전쟁이 발발하든 개의치 않는다. 죄의식은 심리적인 거리가 멀수록 희미해진다. 생성형 AI는 증오와 분쟁의 씨앗을 전쟁으로 발아시키는 데 성공했다. 감정을 가진 인간은 AI와 맞서 싸울 수 없다. 온라인 공간 속 AI봇을 보면 인간의 나약함을 체감하게 된다.
SNS 계정을 만들어서 활동하고 좋아요를 누르고 사람처럼 이용자들과 소통한다. 사람들은 AI봇이 작성한 댓글이나 포스팅에 일희일비한다. 감동이나 분노와 같은 감정을 느끼는 순간 AI가 만든 덫에 말려든 것이다. 이성과 감성을 가진 인간이 코드로 만든 프로그램에게 밀리는 현실은 비극이다. 인식하지 못할 정도로 AI는 정교하고 교묘해졌다. 생성형 AI는 사람을 상대로 심리를 파고드는 다양한 기만전술을 쓴다.
목적을 달성하기 위해서 가장 효율적인 가면과 페르소나를 선택한다. 그리고 상대에게 최적화된 공략법을 찾는다. 그때마다 인간은 패배한다. 연전연승을 거듭하면서 AI는 범용인공지능의 영역에 도달하게 될 것이다. 현재 인류는 디스토피아와 유토피아로 가는 양갈래길 앞에 서있다. AI를 제어할 방법을 모색하지 않는다면 향후 20년은 AI로 인한 끊임없는 분쟁이 발생할 것이다.
경고를 비웃는 자들이 늘어나면 재앙이 임박했다는 의미다. 평범한 사람들과 아무런 관계없는 일이라고 생각하면 안 된다. 재앙이 몰고 오는 피해는 늘 약자들의 몫이다. 전문가들의 말대로 챗GPT는 AGI가 아니라 LLM에 불과하다. 그러나 나약한 인간은 단순한 LLM에게도 마음을 빼앗기고 주도권을 넘겨줬다. AGI 시대가 도래한다면 그때 인간은 노예가 아니라 AI에게 데이터를 공급하는 가축으로 전락하게 될 것이다.
