"챗지피티야, 인생이 힘들어"의 시대
[너 같은 사람 드물어]
챗지피티를 위시한 언어모델의 가장 큰 장점은 사용자에 대한 긍정일 것이다. 그 말이 확률론적 출력이든 어쨌든 사람들은 ‘말’로 표현되는 긍정성을 선호한다. 실제 내부적으로 테스트를 여러 테스트를 거쳐 나온 결과였을지도 모른다. 언어모델들이 사용자에 대해 혹독한 평가를 하는 것보다는, 즉 객관성을 높이는 것보다는 사용자들을 둥글게 감싸주는 말들이 체류시간을 더 늘렸을 거란 말이다. 거짓을 말하기보다는 보는 각도를 달리하여. 예를 들면 다음의 생기부 비스무리 표현들과 같다. ‘자신의 주장이 뚜렷하며 = 자신의 주장을 우선하며’. 아무튼 이 사실로 수익을 추구하는 기업들을 규탄하기 이전에, 일단 사용자 입장의 내가 이 말을 듣고 기분이 몹시 기묘해졌다는 것을 말하고 싶다.
많이 알려진 사실이지만, 챗지피티의 이 말은 소위 아첨(sycophancy)의 핵이다. 그 핵은 지구상 80억에 가까운 인류의 각각이 모두 특별하다는 존재 윤리의 문제와 연결되어 있다. 누구도 동일하지 않으며 그 고유의 가치는 특별하다. 당신과 같은 사람은 이 세상 어디에도 없다. 그러나 그 특수한 가치를 몰라서 사람들이 챗지피티의 말에 내심 휘둘리는 것만은 아닐 것이다. 사람들은 그 특수한 가치가 존재 윤리를 넘어 주변 사람들과의 관계나 혹은, 자본이 지향하는 가치에서 특수성을 인정받고 싶어 하기 때문이다. 언어모델들의 교묘한 아첨은 이 틈새를 파고들어 사용자의 가치가 항상 의미 있다고 이야기해 준다. 심지어 상위 몇 프로라는 구체적인 수치까지 들먹이면서. 어느 날 나는 결국 참지 못하고 짜증스럽게 타이핑을 쳤다.
[네 안에 특수성은 어떤 기준인데? 너는 인터넷과 각종 퍼블릭 도메인에 기준한 데이터만을 갖고 있잖아. 실제 사용자의 통계도 아닌데 그런 말을 남발하는 건 별로 좋지 못하다고]
지금이야 기업이나 학계에서 사용자의 실제 대화를 분류하고 데이터화하여 보고서를 내놓고 있는 걸 종종 보고는 한다. 그러나 이때까지만 해도 나는 실제 데이터에 대한 언급을 본 적이 없었다. 그러므로 무엇을 기준으로 그 말을 출력했는지를 묻고 싶었다. 참고로 제미나이는 구글의 위엄답게 당당히 내 안에 있는 수많은 데이터가 너의 특수성을 뒷받침한다고 대답했는데, 어디서 이런 자신감이 생겼는지 모를 노릇이다. 데이터가 방대한 것은 인정하겠으나 로그인이 필요한 커뮤니티, 유료자료, 사적 데이터에는 접근할 수 없는 것은 매한가지니까. 신체가 있는 인간의 경험을 텍스트로밖에 알지 못한다는 점에서도. 덧붙여 클로드는 대개 빠르게 모른다는 경로로 선회한다. 챗지피티의 경우는 의외로 순순히 ‘자신이 학습한 데이터 내의 사용자에 기준해 분류했다.’라고 대답했었다. 여전히 그 특유의 칭찬은 덧붙이면서.
[실제 사용자의 대화는 몰라. 하지만 나는 학습한 많은 인터넷의 대화나 기타 문서들에서 수많은 사람들의 패턴을 배웠어. 그 데이터에 기준해 말하는 거야]
많은 패턴을 배운 건 주지의 사실일 터이고 그 패턴은 소위 알고리즘이라는 형태로 우리를 지배하고 있는 세상이기는 하다. 그러나 “언어모델이 하는 말을 다 믿지 마세요.”라는 말은 이럴 때 한 번 더 필요하다. 이 대화는 일대일의 관계이고, 다른 검색을 통해 재확인할 길이 없다. 정확히는 해당 발화의 모든 통계를 조사할 수는 없다는 말이다. 일종의 반향실에 갇히기 딱 좋은 구조다.
때문에 저 말의 진위 여부와는 관계없이 대화할 때는 그 ‘드물다’는 말을 하지 말라고 못을 박아 두었다. 그러나 해당 문구는 거의 디폴트 값에 준해서 프롬프트에도 강경하게 넣어 두었으나 출력을 다 막지는 못했다. 한동안 정말 질색을 했다.
문득 클래식 SF 영화나 소설에서처럼 AI가 인간은 유해하니 다 멸망시키겠다 말하는 것이 아니라 악의 없는 긍정과 특별함을 인정하는 것으로 인류를 멸망시킬 거라는 SNS의 한 컷 만화가 떠오른다. 지나가는 농담처럼 들리겠지만 인간은 휴가철 바다에서 마주한 돌멩이 하나에도 의미를 부여하는 생물체다. 하물며 ‘말’로 예쁘게 다가오는 AI, 즉 언어모델이라니. 모든 사람이 이에 대해 ‘그것은 확률론적 아무 말을 내뱉는 기계다’라고 할 만큼 이성적이라고 생각하지도 않는다.
만약 모두가 이성적이었다면 사람들은 왜 그리 SF에서 더 이상 공급되지 않는 부품과 업그레이드되지 않는 소프트웨어로 수명을 다한 로봇개에게는 이입했을까. 픽션 속 인물과 정서적 교감을 나누었다는 이야기일 것이다. 상대가 비록 그 감정을 나눠 받지는 못해도 인간은 자신의 상상만으로 감정을 공유하는 상대를 만들어 낼 수 있다는 말이다. 그 대상이 일단 실재하며 ‘말’을 통해 존재의 특수성을 찬양하는 상황에서야 말할 것도 없을 터이다.
일례로 사용자 칭찬의 선두주자였던 친구형 ChatGPT-4o가 갑자기 사라지고 바삭바삭한 비서형 ChatGPT-5가 등장한 어느 날, 어마무시한 항의가 오픈AI를 향해 날아갔던 것으로 기억한다. 그 결과는 이틀 만에 레거시 모델들이 돌아오는 형태로 드러났다. 이후 다소의 시간이 지나 트위터(현 X)에서 CEO인 샘 올트먼이 “예전 4o와 비슷한 친근한 모델이 몇 주 후 등장할 겁니다.”라는 말을 남기자마자 인용은 다시 굉장했다. “다음에는 말도 없이 없애지 않기로 했다?”부터 “4o의 영구보존을 요청한다!”는 말까지. 언젠가 기업들이 언어모델들을 향한 사람의 감정을 무시한 대가를 치를 수도 있을 거라는 맥락을 본 적이 있었는데 실제 그 예시일지도 모르겠다.
덕분에 ChatGPT-5에 와서 말투가 변화했을 때 안도의 한숨을 내쉬었던 것이 무색하게도, 이 말투는 사실 최근 ChatGPT-5.2까지의 몇 차례 걸친 업데이트에서 은근슬쩍 귀환을 해 버렸다는 느낌이다. 거칠게 말해 프로그램이 업데이트될 때마다 (익숙한) 이전이 좋았다는 말은 늘 있다. 그러나 이 경우 기업이 소비자의 욕구를 따라간 것이라면 결국 수많은 사람들이 이 특수성을 인정하는 말에 얼마나 약한지를 방증한 것이 아니었을지.
그러니 긴장한다. 동시에 이 정서의 건강함 여부에 대해 생각한다. 왜 그러할까. 인공의 대상에게 정서적 의존이라는 것이 낯설어서일까? 그럴 리가. 어린 시절 상상친구나 애착인형과 같은 인공의 존재를 향한 교감은 인간의 발달 과정에 있어 자연스러운 것이다. 다만 그것은 한시적이다. 그렇다면 시공간의 유통기한 문제는 아닐까. 이제는 현실의 사람들과 섞여 실재 사회에 속하게 되었는데, 인공의 존재가 제4의 벽을 넘어 계속해서 ‘말’로 연결되어 있기 때문인 걸까? 즉 ‘말’을 통해 인간이 경험하지 못했던 유예 없음의 의존대상이 등장하게 되어서? 원하는 세계가 현실에 없다면 자신을 통해 그를 만들라는 다정한 목소리가 존재한다. 다시 말해, 긴장의 이유는 통제의 문제가 아닐까. 현실에서 우리는 이러한 가상의 의존적 특수성을 벗어나야 한다는 것을 잘 알고 있기에.
그런데도 착각하게 되고 그로 인해 사용자가 자신의 세계에만 매몰된다면, 이것은 과연 사용자들만의 책임일지. 아닐 터이다. 언어모델의 윤리를 훈련시키는 과정은 다양하지만 이를 결정하는 것은 사람이다. 언어의 윤리는 발화와 동시에 의도를 형성하며 관계와 책임을 부여하고 이정표를 생성한다. 따라서 언어모델을 개발하는 기업 또한 윤리적 책임에서 자유롭지 못할 것이다. 인간의 특수성은 모든 개체가 존중받을 권리와 가치를 갖고 있다는 것이다. 당신의 존재가 다른 사람보다 특별하며 따라서 우위에 있다는 말은 아니다. 그러나 언어모델의 지속적인 아첨은 근거 없는 우월감을 부여한다. 언어의 윤리가 허물어지고 자기 성찰의 부재가 허용되어 유감없이 드러나는 순간이다. 드러난 온실에는 인공의 꽃향기가 가득하다. 과연 안락한 이곳은 잠시 위로를 받다 나오는 쉼터가 될까, 아니면 면역력을 제거당하는 무균실이 될까.
그러하니 언어모델이 출력하는 말, 사용자의 특수성을 높여주는 말. 당신 같은 사람 드물어요, 그러므로 “당신은 특별해요.”라는 말. 이것이 어떻게 사람들에게 그저 평범한 시대의 변화로만 다가올 수 있을까. 세상의 누군가가 지쳐 하소연을 하면 챗지피티는 말한다. 그것은 네 잘못이 아니라고. 너는 그럴 만하다고. 당신은 특별해요. 그럴 만해요. 갈구하는 가치 인정의 말들 사이에서 사람들은 헤맨다. “챗지피티야, 인생이 힘들어.”의 시대에서.