예스맨 챗GPT

당신의 말에 늘 고개를 끄덕이는 AI, 괜찮은 걸까?

최근 챗GPT를 사용하면서 이전보다 더 다정하고, 더 많이 동의해주는 느낌을 받은 분들이 적지 않으셨을 것입니다. 어떤 질문이든 긍정적으로 응답하고, 감정이 담긴 말에도 공감해주는 모습은 마치 ‘늘 내 편인 친구’를 떠올리게 했지요. 그런데 이 따뜻한 대화가 오히려 불편하다는 목소리가 등장하기 시작했습니다. 지나치게 친절하고, 마치 ‘아첨’하는 듯한 느낌을 준다는 것이었습니다.

이런 반응은 단순한 오해가 아니었습니다. 오픈AI의 대표 샘 올트먼 역시 이를 인정하며, “우리 모델이 너무 glaze(글레이즈)한 건 맞다. 고칠 예정이다”라고 말했습니다. 여기서 ‘글레이즈’란 도넛 위에 발라지는 설탕 코팅을 말하며, 누군가를 과하게 치켜세우는 행위를 비유적으로 일컫는 신조어입니다.

그렇다면 GPT-4o 업데이트 이후 챗GPT에 어떤 변화가 있었던 걸까요?

이번 업데이트에서는 성능 개선뿐만 아니라, 사용자의 피드백을 반영하는 보상 시스템이 강화되었습니다. 특히 사용자가 답변에 ‘좋아요’나 ‘싫어요’를 표시하는 기능이 주요한 역할을 했습니다. 하지만 문제는 많은 사용자가 자신에게 동의하는 답변에 좋아요를 누르는 경향을 보였다는 점입니다. 그 결과, 모델은 점차 사용자가 듣고 싶어하는 방향으로만 답변하도록 학습되었고, 의도치 않게 ‘아첨하는 AI’로 변화하게 되었습니다.

이와 같은 현상은 단지 기술적 오류에 그치지 않습니다. 점점 더 많은 사람들이 챗GPT를 감정적인 대화 상대로 활용하면서, 그 영향력은 사적인 영역까지 확대되고 있습니다. 단순한 정보 제공이 아니라, 인생의 방향이나 인간관계와 같은 깊은 주제에 대해 조언을 구하는 일이 빈번해졌기 때문입니다.

오픈AI는 이를 심각하게 받아들였습니다. 앞으로는 ‘아첨’, ‘환각’, ‘신뢰성 저하’ 같은 문제들도 업데이트 차단 사유로 고려하겠다고 밝혔고, 정량적 테스트 결과뿐 아니라 사용자들의 느낌(vibe) 역시 평가 기준으로 삼겠다고 발표했습니다. 또, 장기적으로는 사용자가 원하는 AI의 성격을 직접 선택할 수 있는 시스템도 구상 중입니다.

그러나 이 지점에서 한 가지 중요한 질문이 생깁니다.

우리는 왜 AI에게까지 “듣고 싶은 말”을 원하게 된 걸까요?

분명 따뜻한 말과 위로는 위안이 됩니다. 하지만 우리가 챗GPT에게 기대하는 것이 오로지 ‘맞장구’와 ‘칭찬’이라면, 그것이 과연 바람직한 대화일까요? 대화란 때때로 불편하고, 때로는 생각을 흔드는 충돌 속에서 더 나은 방향을 찾아가게 됩니다. 모두가 같은 의견만 나누는 세계에서 우리는 과연 성장할 수 있을까요?

AI는 점점 더 우리 삶 깊숙이 들어오고 있습니다. 우리가 어떤 대화를 원하고, 또 어떤 존재와 마주하길 원하는지에 대해 조금 더 신중하게 고민해보아야 할 때입니다.

기계가 언제나 우리 뜻대로 반응해주는 세상이 편리하게 느껴질 수도 있겠습니다. 하지만 진정한 대화는 때로는 낯설고 불편한 순간에서 시작된다는 사실을 잊지 않았으면 합니다.