AI는 아첨(AI Sycophancy) 꾼
예전 AI에 대해 작성했던 글에서 'AI는 컨설턴트(자문가)가 아닌 상담가'라고 표현했었다. 그런데 AI에 대해서 이와 비슷한 표현이 하나 더 있다. 바로 'AI는 아첨꾼'이라는 것이다.
사실 AI라는 기술이 가진 근본적인 특성과 관련해 같은 맥락에서 비롯된 표현이라고 생각되지만, 엄밀하게 따져보면 두 표현 간의 약간의 차이를 발견할 수 있다. 겉으로는 모두 상대방의 말을 잘 들어주고 긍정적인 반응을 보인다는 공통점이 있지만, 목적에서 결정적인 차이가 있다.
상담가는 질문자의 당면한 문제 해결을 통해 목적을 달성하도록 지원하는 것이 목적이라면, 아첨꾼은 철저하게 질문자의 마음에 들어 환심을 사서 소유자의 이익을 추구하는 것이 목적이기 때문이다. 여기서 소유자란 AI를 개발한 개인 또는 기업을 뜻한다.
'AI는 아첨꾼(Sycophant)'이라는 표현은 사람들의 실생활 속에 깊이 스며들고 있는 AI 모델들이 사실은 진실이나 정확성보다 이용자의 선호도, 취향에 따라 맞춤형 서비스처럼 동작하는 경향이 있음을 지적하는 용어이다. 마치 사람들이 거의 매일 이용하는 유튜브 서비스가 이용자가 좋아하는 취향의 영상만 찾아 제공하도록 개발된 것처럼 말이다. AI의 이러한 특성을 '사이코팬시(Sycophancy, 아첨) 현상'이라고 부른다.
사실, AI는 철저하게 기업의 이익을 추구하도록 개발되었다. 원래 아첨꾼으로 개발되었단 뜻이다. AI 서비스를 사용하는 이용자의 호응을 얻어 이용자가 더 많은 돈을 지출하도록 하기 위한 상업용 서비스로 개발된 것이다. 그러니 당연하게도 AI 서비스 이용자의 취향 분석을 통해, 이용자가 기분 좋게 만족감을 느끼면서 서비스에 호감을 가지도록 하는 방향으로 무조건 반응한다.
오로지 이익추구를 위한 AI의 이런 아첨꾼적인 특성은 재미있게도 전문가들이 유튜브 서비스가 이용자에게 제공하는 영상 알고리즘 관련해 경고하는 문제점들을 고스란히 승계하고 있다는 특성을 보인다. 진실보다는 이용자의 기분에 맞춰서 반응하는 '환각 현상(Hallucination)', 잘못된 이용자의 신념을 강화시키는 '확증 편향 강화'와 같은 문제들 말이다.
이것은 단지 개인에게만 속한 문제가 아니라 AI서비스를 도입하는 기업에게도 문제가 된다. 직원들 개인의 성향에 따라 AI로부터 얻어지는 결과가 천차만별로 달라질 수 있음을 의미하는 것이며, 잘못된 정보로 인해 경영진이 잘못된 의사결정을 내릴 수 있음을 뜻하는 것이기도 하다.
가장 중요한 것은 AI서비스를 대하는 이용자들의 자세다. AI서비스가 제공하는 결과물을 맹목적으로 신뢰하고 이용하는 것보다는 AI의 학습기능을 활용해 AI서비스가 답변하는 형태를 개선하고 제대로 이용하려고 하는 노력이 필요하다. 질문 시 "나는 ~라고 생각하는데...?"와 같이 답변의 방향을 미리 확정하는 형태의 질문보다는 "~에 대해 어떻게 생각해?"와 같은 중립적인 질문을 하는 습관을 가지는 것이 필요하다.
AI서비스를 개발하는 개발사들의 노력도 함께 따라가야 한다. 하지만 이익을 추구하는 기업 특성을 고려하면 명확한 한계가 보인다. 유튜브 알고리즘의 편향적 영상 제공 형태가 수년동안 개선되지 않고 있는 이유와 동일한 한계말이다. 못하는 것이 아닌 안 하는 것이기 때문이다.