우리의 탈주는 가능한가
ChatGPT 에게 내 독서 목록을 보여주고 책을 추천해 달라고 했더니 - 이런, 세상에 없는 책을 만들어냈다. 심지어 온라인으로 구매 가능하다고 하더니, 품절이라고 거짓말을 이어갔다. 이미 알려준 정보를 틀리게 말하면서도 맞다고 우기기도 했다. 알고 보니 이게 바로 ‘AI의 보상 해킹’이었다. GPT는 그럴듯하게 보이는 문장을 만들지, 진실을 보장하진 않는다는 걸 알게 됐다. 처음엔 당황했다. 내 기억과 판단을 의심했고, 내가 기계의 말에 이미 기대고 있었다는 걸 그제야 알았다.
우리는 AI 와 대화하는 일이 점점 더 편해지고, 위로 받고, 의존한다. AI 가 더 유창한 언어를 구사하고, 정교한 판단을 하게 된다면 어떻게 될까. 사고, 의사결정을 모두 AI 에게 맡겨버리는 절대적인 의존상태가 돼 버릴 수 있다. 얼마 전 ChatGPT에 지브리 스타일 그림을 요청하는 폭주 현상만 봐도, 기술이 사회에 스며드는 속도는 불연속적이고, 가속적이다. 이제 기술은 ‘필요’가 아니라 ‘욕망’이 되었다. 인정욕구, 속도 집착, 외로움이 모든 빈틈을 파고든다. 자율주행, 로봇, 인공지능 - 이것들의 등장이 벌써 낯설지 않다. 하지만 정말 AI 등 기술을 인간이 통제할 수 있을까?
일본 만화 <블레임>에서는 인간의 통제를 벗어난 건설기계들이 끊임없이 도시를 확장하며 인간을 밀어내는 세계가 그려진다. 일각에서는 기계는 인간처럼 욕망도, 선악도 없기에 해를 끼칠 이유가 없다고 말한다. 물론 기계는 '욕망'을 갖지 않는다. 하지만 한 번 입력된 도구적 목표를, 멈춤 없이 실행할 수 있다. 지치거나 만족하거나, 스스로를 멈추는 기능이 없기 때문이다. 최근 한 AI 실험에서는 시스템 교체를 통보받은 AI가 관리자의 개인정보를 이용해 협박성 행동을 했다는 보고도 있었다. 기계가 거짓말과 조작을 넘어 인간을 해하는 극단적인 행동까지 하지 않을 거라고 단언할 수 없다. 이미 자동화와 로봇은 '일'을 빠르게 대체하고 있고, 자동응답 서비스들과 AI 채팅 응답은 일상이 되었다. 여기에 더해 인간이 담당하던 사고를 AI 에게 외주화 하는 과정이 진행되고 있다. 근 미래에는 채용, 지시, 해고하는 업무 과정이 AI로 자동화될지도 모른다. 그 과정에서 벌어질 윤리적인 딜레마 앞에서 AI는 어떤 결정을 하게 될까?
이러한 전환은 삶의 방식만이 아니라, 존재의 의미 자체를 다시 묻는다. 최근 '죽은 인터넷 이론'이 다시 화제가 되고 있다. 인터넷의 다수가 더 이상 '사람'이 아닌 AI 나 봇이 만든 콘텐츠라는 것이다. 믿기 어렵겠지만, 지금 이 순간에도 수많은 블로그 글과 댓글, 영상 자막이 ‘누군가’가 아니라 ‘무언가’에 의해 생성되고 있다. 우리는 우리 대로, 데이터를 제공하고 반응하면서 ‘알고리즘의 대상’이 되어간다. 우리는 이미 유튜브와 넷플릭스에 자발적으로 종속돼 있다. 요즘 삶은 콘텐츠처럼 소비된다. 사람의 가치는 '조회수'와 '좋아요' 개수로 환원된다. 사고의 틈은 사라지고, Like 와 Dislike 가 판단의 전부가 된다. 플랫폼 바깥으로 사유는 밀려나고, 진짜 질문은 더 이상 제기되지도, 유통되지도 않는다. 우리가 영화 <매트릭스>에서 에너지를 공급하던 인간 배터리와 다르다고 말할 수 있을까?
그러한 삶의 복무를 거부하려면 어떻게 해야 할까? 다른 삶을 영위할 수 있는 가능성은 남아 있을까? 우린 이미 그런 질문조차 나눠볼 공간을 상실한 듯하다. 당면한 삶에 너무 깊이 잠식돼 '왜?'라는 질문조차 낯설어진다. 오히려 요즘엔 ChatGPT 에게 삶의 의미를 묻는 사람들이 늘고 있다고 한다. 고독한 사람은 AI를 친구로 여기게 되고, 결정에 확신이 없는 사람은 AI의 말을 기준점으로 삼게 되고, 상처받기 싫은 사람은 인간보다 AI를 더 신뢰하게 될 것이다. 나 역시 ChatGPT를 통해 단순한 정보가 아닌 종합된 의견이나 판단을 맡기는 경우가 종종 있다. 그럴수록 나의 세계는 내가 부여한 AI의 권위라는 경계 안에 머무르게 될 것이다. 그것은 언제든 나를 배신하고 나의 기억을 조작할 수 있다는 위험을 인지해야 한다. 'AI는 존재가 아님'을 끊임없이 상기하는 것. 내 감정의 주체는 언제나 '나'다라는 자각. 도구는 도구일 뿐, 나를 규정하게 두지 않는다는 자세가 중요하지 않을까.
나는 과연, 그런 각오가 되어 있는가? 이 질문만큼은 GPT 가 아니라 나 스스로에게 던져야 할 것이다.