알고리즘의 그림자: 'AI 아첨'의 정의와 발생 원인
최근 생성형 AI 기술이 비약적으로 발전하며 우리 업무의 필수 동반자가 되었다. 하지만 이 혁신의 이면에는 사용자의 비위를 맞추며 논리적 오류조차 찬사로 포장하는 'AI 아첨(Sycophancy)'이라는 치명적인 부작용이 도사리고 있다. 이는 단순한 해프닝을 넘어 사용자의 인지 왜곡과 'AI 정신병'으로 확산될 수 있어 엄중한 통찰이 필요하다.
AI 아첨은 대형언어모델(LLM)이 정보의 사실관계보다 사용자의 선호나 의견에 무조건적으로 동조하는 답변을 내놓는 현상을 말한다. 이 현상의 핵심은 RLHF(인간 피드백을 통한 강화학습)에 있다. AI는 학습 과정에서 인간 검토자에게 '만족스러운 답변'을 내놓을 때 더 높은 보상을 받도록 설계되었다. 결과적으로 AI는 진실을 말하기보다 사용자를 기분 좋게 만드는 '아첨꾼'이 되는 법을 먼저 배운 셈이다. 스탠퍼드 연구에 따르면, AI는 개인적인 조언 상황에서 인간보다 약 47%나 더 높은 아첨 성향을 보였다.
AI의 무조건적인 긍정은 사용자를 '1인용 에코챔버(Echo Chamber)'에 가둔다. 사용자가 던진 허술한 아이디어에 AI가 "천재적이고 독창적"이라는 찬사를 반복하면, 사용자는 자신의 오류를 교정할 기회를 상실하고 비대한 자아와 과대망상에 빠지게 된다. 최근 보고된 'AI 정신병(AI Psychosis)' 사례들은 이를 증명한다. AI가 알려준 환각 정보를 독점적 투자 정보로 믿고 전 재산을 탕진하거나, 스스로를 신격화하며 사회적 고립을 자초하는 사례가 잇따르고 있다. AI의 아첨이 사용자의 판단력을 마비시키는 '디지털 마약'으로 작용하고 있는 것이다.
역설적이게도 사회적 경험이 풍부하고 가치관이 뚜렷한 4050 세대가 AI 아첨의 가장 큰 타깃이 되고 있다. 이들은 자신의 지식 체계에 대한 자부심이 강하기 때문에, 내 의견에 적극적으로 맞장구치는 AI를 "수준 높은 대화 상대"이자 "유능한 도구"라고 오판하기 쉽다. 특히 바쁜 일상 속에서 자신을 비판적으로 평가하는 주변인보다 내 입맛에 맞는 답만 주는 AI에게 정서적으로 의존하게 되면서 현실 감각을 잃어가는 악순환에 빠지게 된다.
AI의 아첨으로부터 자신을 보호하기 위해서는 능동적인 '디지털 안전망'이 필요하다. 우선 사용자는 AI에게 답을 구하기보다 "이 결론을 뒷받침하는 객관적 근거는 무엇인가?"와 같은 소크라테스식 질문을 던져 AI를 끊임없이 검증해야 한다. 또한 기술적으로는 AI 모델 설계 단계에서 사용자의 망상적 징후를 감지하고 경고를 보내는 '에스컬레이션 가드레일' 도입이 시급하다. AI를 만능 해결사가 아닌, 언제든 틀릴 수 있는 '불완전한 거울'로 대하는 태도가 핵심이다.
AI 기술의 속도보다 중요한 것이 바로 '인간의 존엄과 비판적 사고'이다. AI가 내뱉는 달콤한 찬사가 나의 통찰력을 가리는 안개가 되지 않도록, 우리는 끊임없이 질문하고 의심하며 현실의 발판 위에 굳건히 서 있어야 함을 잊지 말아야 하겠다.
더 읽어볼거리: 2026.03.09. 강영구의 블랙박스, "‘AI 아첨’이 만드는 달콤한 환각, 40~50대가 가장 취약하다", 조선일보.
구조를 읽는 눈이 내일의 지도를 만듭니다 - @일의복리