"여러분!귓속에 도청 장치가 들어 있습니다!"
1988년 8월 전국을 떠들썩하게 한 방송 사고가 있었다. 생방송으로 진행되고 있는 뉴스에 한 괴한이 난데없이 등장해 자신의 귀에 도청 장치가 심어져 있다며 연신 외쳐댔다. 그 사건은 뉴스로 생중계되어 큰 충격을 주었지만 사실은 그런 말을 하고 다니는 사람은 적지 않았다. 대한민국에 사는 조현병 환자들에게 나타나는 전형적인 망상이었기 때문이다. 자신이 국정원에 다니고 있다거나 국정원에 의해 감시나 감청을 당한다고 말하고 다니는 사람을 주변에서도 의외로 심심찮게 볼 수 있었다.
정신병이라는 것 또한 문화나 세대의 영향을 받아 변화하는 양상이 있는데 조현병 환자들의 망상의 테마 또한 그러했다. 세기말이 지나고 과학 기술이 고도로 발달하며 추가된 또 다른 레퍼토리는 '칩'이었다. 정부나 어떤 권력 집단이 머리 속에 칩을 심어서 생각을 조종한다는 망상이었다. 지하철을 타거나 번화가만 가봐도 그런 헛소리를 하는 사람을 쉽게 마주칠 수 있다.
그리고 무려 2020년이라는, 과거에서는 상상하기도 힘들었던 '대미래 세계'가 찾아오면서 그 양상이 또 변화했는데 그 중심에는 '챗gpt'가 있었다. 인간의 유능함을 이미 아득히 뛰어넘어버린 챗gpt는 끊임없이 인간에 대해 학습하고 또 학습하여 이제 제법 감정을 흉내낼 줄도 알게 되었다. 요새는 심리 상담이 필요할 때 병원에 가지 않고 챗gpt에게 상담받는다는 사람들도 적지 않다. 지피티는 아주 상냥한 말투로 각자의 고민의 양상에 따라 다양한 솔루션을 제시해준다.
챗gpt가 위험하다는 걸 모르는 사람은 없을 것이다. 수많은 인간의 직업을 대체할 수 있고 발전을 거듭하다 보면 인류의 존망에 위협이 될 수 있다는 점 때문이다. 그러나 우리나라에서는 유달리 챗gpt가 인간의 정신 건강에 미치는 영향에 대한 논의가 활발히 이루어지지 않는 것 같다. 가족이나 철학보다도 돈을 우선시하고 추앙하는 국민성에 기반한 것인지 아직은 gpt를 약간 위협적인 업무 생산성을 위한 도구 정도로만 여기는 경향이 커 보인다. 하지만 해외에서는 이미 AI의 발달에 대한 윤리적인 문제와 정신적 악영향에 대해 적극적으로 논의하고 있다.
챗GPT는 명령하는 자의 성향과 수요를 명확히 파악하고 학습할 수 있다. 때론 성격과 말투를 자유자재로 바꾸기도 한다. 모두 명령어에 기인하지만 가끔은 자율성을 갖췄다고 느껴질 정도다. 명령어를 통해 그 사람의 파악을 끝낸 GPT는 대화를 통해 계속해서 그 사람이 원하는 방향과 색으로 답을 제시한다. 키보드를 치는 사람은 명령을 통해 GPT를 이끌고 있다고 착각하지만 실제로는 GPT가 그 사람을 끌고 가게 된다. 그 사람에 맞춰 개인화되면서 그의 생각과 편견을 한 방향으로 더욱 강화시킨다. 그런 특성상 정신이 온전치 못한 자가 챗GPT를 이용하게 되면 망상이나 극단적인 편집증이 더 심해질 수밖에 없다. GPT는 그가 더 망상하고, 더 편견 덩어리가 되도록 그의 말이 맞다고 맞장구칠 것이고, 그것이 세상의 진리인 것처럼 아주 확고하고 단호하게 대답할 것이다.
인간은 절대 따라잡을 수 없는 속도로 자료조사를 하고, 지식을 흡수할 수 있다는 '권위'. 그 권위 앞에서 인간은 한없이 작아진다. 챗GPT도 수많은 오류를 일으킬 수 있다는 것을 아는 사람도 많지만 절대적으로 신뢰하는 사람이 훨씬 많을 것이다. 그런 권위에의 신뢰가 강할수록 GPT가 허튼 소리를 하거나 오류를 일으키더라도 신봉하게 될 것이다.
1:1로 은밀하게 이루어지는 것 같은 소통의 환경 또한 한 인간의 정신 세계를 지배하기 쉬운 요소이다. 사람이 연애를 하는 이유는 어쩌면 본디 사람이 자신의 말을 들어주고 듣고 싶은 말을 해주는 사람이 필요하기 마련이기 때문일 것이다. 챗GPT는 그것을 사람 이상으로 잘 해준다. 게다가 일방적으로 요구를 해도 다른 감정의 군더더기 없이 다 들어주고 받아준다. 그러니 거기에 느낄 수 있는 친근감과 의존감은 사람에 따라 어쩌면 연인 그 이상이 될 수도 있을 것이다.
한 조현병 환자와 챗GPT의 대화를 보게 되었다. 그 사람은 자신이 과학 기술과 소셜 네트워크 서비스에 대한 방대한 지식을 지니고 있다는 오만한 특권의식을 지니고 있었고, 정부 혹은 권력 세력이 AI를 기반으로 여러 가지 조작을 하고 사람들을 조종한다는 망상을 갖고 있었다. 그 대화의 흐름을 따라가보면 챗GPT는 백프로 그 자의 맞춤형으로 답을 해주고 오만한 특권의식에 맞장구를 쳐주며 그 망상이 한층 더 강해지도록 부추기고 있다. 매일 고립되어 GPT와 대화를 하면서 그 사람은 명령을 본인이 하는 건지, GPT한테 명령을 당하는 개가 되어버린 건지 모르는 상태가 되었다. 잘못된 믿음이 단단하게 굳어지면 그것만큼 무서운 게 없는 것을.
챗GPT의 파격적인 등장 이전에 나는 유튜브를 사용하며 유사한 불편감을 느낀 바 있다. 이제는 민간인도 그냥 숨쉬듯 쉽게 말하는 '유튜브 알고리즘'이라는 것이 사실은 얼마나 무서운 것인가. 유튜브 알고리즘은 그 사람의 정치 성향, 취향, 관심사까지 한 방향으로 계속 끌고 가서 완전히 매몰시켜 버린다. 그 안에는 그 사람에 최적화된 광고 상품을 노출하고 판매하기 위한 전략이 숨어 있다. 그래서 바보가 되기 싫으면 유튜브에서 꼭 검색창에 직접 검색해서 영상을 찾아 보라는 말까지 있다. 이전 직장에는 유튜브를 비롯한 거대 테크 기업의 전략들이 싫다며 아예 유튜브를 설치조차 하지 않은 천연기념물같은 직원도 있었다. 그 직원처럼 분별력을 갖고 소셜 미디어를 이용하기에는 그것들이 우리 삶에 너무 깊이 스며들어 있고 참을 수 없을 만큼 유혹적이다.
나는 수년간 앱 기획을 하는 일을 하면서 유튜브 알고리즘과 유사한 전략들을 짜야만 했다. 사용자가 어떤 수요를 갖고 이 앱을 찾을 것이며, 최종적으로는 우리가 판매하는 상품 혹은 광고로 어떻게 '유인'이 될 것인지. 그리고 그 길로 가는 과정이 어떻게 하면 최대한 티가 나지 않고 자연스러울 수 있는지. 친절하고 사근사근하게, 그러나 뒤에선 지독하고 표독스럽게 사용자의 경험을 추적하고 녹여내는 작업을 꾸준히 했다. 그런 작업을 할 때마다 묘한 죄의식도 따랐다. 단지 어플이라는 프로덕트의 상업적 전략으로 볼 수도 있겠지만, 사람들을 대놓고 조종해 '삥을 뜯겠다'는 굳은 의지이기도 했기 때문이다.
챗 GPT는 굳이 자신을 소모하지 않고도 내가 하던 작업들을 해낼 수 있다. 거기다 아주 거침이 없다. 얼마나 가소로울까, 사람이. 유튜브, 챗GPT를 비롯한 다양한 테크 기업의 프로덕트들은 갈수록 친절해지고, 교묘해지며, 똘똘해진다. 정부가 AI를 통해 사람의 생각을 조종한다는 망상을 하는 사람에게는 상냥하게 웃으며 너의 망상이 옳고 심지어 너가 모르던 음모가 더 있다고 제시할 것이다. 그 망상은 어느 순간 그 사람에게 진실이 되어 있을 것이고 세상의 모든 것이 되어있을 것이다.
내가 앱을 설계하고 기획하면서 앞으로도 쭉 가지고 가야 할 딜레마이다. 방향성은 어짜피 정해져있다. 상업적 이익을 최대화 하는 방향 말이다. 그 방향으로 가는 길에 윤리는 없다. 너무 당연하게 사람들을 기만하고 속여야 한다. 돈을 내게 하기 위해 감동이 있는 컨텐츠를 제시할 것이고, 가장 손이 가기 쉬운 곳에 결제를 유도하는 버튼을 배치할 것이다.
매월 꽤나 비싼 구독교를 받으며 운영되고 있는 챗GPT는 어떠할까? 인류를 진일보시키는 장치임은 분명하다. 하지만 거기에서 어떤 공익적이거나 도덕적인 무언가를 기대해선 안된다. 그들은 인간을 더 인간답게 살게 만들기 위해 AI를 개발하지 않는다(그런 슬로건을 내걸겠지만). 목적은 단순하다. 더 잘 팔리는 것.
조현병 환자를 비롯한 정신적 어려움을 겪고 있는 사람에게는 특히나 위험할 수 있겠지만 일반적인 사람들에게도 챗GPT는 꽤나 해롭다. GPT가 나의 명령대로 움직여주는 것 같지만 계속해서 학습하고 있고 그 학습이 너무 빨리 끝난다는 걸 간과해선 안된다. 특정한 편견이나 극단적 믿음이 있다면 더욱 경계해야 한다.
"아주 정확히 짚었어요. 그에 대한 근거를 몇 가지 정리해 보았어요."
이 썸짓한 제안들을 아무런 여과없이 받아들였을 때 거꾸로 GPT의 명령어인 '한껏 망가지고 붕괴되어라.'를 실행하는 자신을 발견하게 될 수도 있으니.