AI, 서비스에 무작정 도입하지 마라

AI 상담 고객센터의 역설

요즘 많은 서비스가 AI 기능을 추가하고 있습니다.

추천 고도화, 자동 요약, 생성 기능, 챗봇 인터페이스까지. 새로운 제품을 발표할 때 “AI 기반”이라는 문장이 빠지는 경우를 찾는게 더 힘들죠.

기술적인 관점에서 보면 자연스러운 흐름입니다. AI 모델은 점점 더 강력해지고 있고, 이를 서비스에 적용하는 것도 훨씬 쉬워졌습니다. API 하나만 연결해도 다양한 기능을 구현할 수 있는 시대가 되었기 때문입니다.

하지만 사용자 경험의 관점에서 보면 한 가지 흥미로운 현상이 나타납니다.

AI 기능이 추가됐는데도 사용자가 잘 쓰지 않는 경우가 생각보다 많다는 점입니다.

왜 이런 일이 생길까요?

1. 기술이 문제를 찾고 있는 경우

많은 조직에서 AI 도입은 이렇게 시작됩니다.

“우리 서비스에도 AI 기능이 필요하지 않을까?”

“요즘 다 AI 붙이던데 우리도 뭔가 해야 하지 않을까?”

문제는 이 질문의 순서입니다.

제품 개발은 원래 문제 → 해결책의 순서로 진행됩니다. 하지만 AI 도입에서는 종종 기술 → 문제 탐색의 순서가 나타납니다. 즉, 해결해야 할 사용자 문제가 먼저 정의되는 것이 아니라 기술이 먼저 등장하고 그 기술을 적용할 문제를 나중에 찾게 되는 상황입니다. 이 경우 AI 기능은 종종 제품 경험의 중심이 아니라 추가 기능으로 남게 됩니다. 사용자는 그 기능이 꼭 필요하다고 느끼지 않기 때문입니다.

2. AI가 경험을 복잡하게 만들 때

AI는 종종 사용자 경험을 단순하게 만들기보다 오히려 복잡하게 만들기도 합니다.

추천 시스템을 생각해봅시다. 추천의 목적은 사용자가 선택해야 할 옵션을 줄여주는 것입니다. 하지만 실제 서비스에서는 추천 영역이 늘어나면서 사용자가 오히려 더 많은 선택을 해야 하는 상황이 발생하기도 합니다. "오늘의 추천", "당신을 위한 추천", "지금 인기 있는"이 한 화면에 공존하는 순간, 추천은 도움이 아니라 또 다른 탐색이 됩니다.

자동 생성 기능도 마찬가지입니다. AI가 만들어준 결과를 그대로 쓸지, 수정할지, 다시 생성할지 판단해야 합니다. 기존에 없던 새로운 종류의 의사결정이 생겨난 것입니다.

이때 중요한 질문은 이것입니다.

AI가 사용자의 인지 부담을 줄이고 있는가, 아니면 새로운 부담을 만들고 있는가?

기술이 아무리 정교해도 사용자 경험이 더 복잡해진다면 그 기능은 오래 살아남기 어렵습니다.

3. AI는 기능이 아니라 ‘관계’를 바꾼다

앞선 두 가지보다 더 근본적인 문제가 있습니다.

AI는 다른 기능들과 다릅니다. 다크모드를 추가하거나 필터를 하나 더 넣는 것은 기존 사용자 경험 위에 옵션을 얹는 일입니다. 하지만 AI는 다릅니다. 사용자와 서비스가 맺는 관계의 구조 자체를 바꿉니다.

추천 시스템은 사용자의 선택 과정에 개입하고, 생성형 AI는 사용자의 창작 과정에 개입하며, 자동화 시스템은 사용자의 판단을 대신하기 시작합니다. 기존에는 사용자가 주도하고 서비스가 따라가는 구조였다면, AI가 개입하면 그 주도권이 모호해집니다.

이때 핵심은 기술의 정확도가 아닙니다.

사용자는 AI의 판단을 이해할 수 있는가

사용자는 그 결과를 수정하거나 거부할 수 있는가

사용자는 여전히 스스로 선택하고 있다고 느끼는가

이 질문들은 기술 문제가 아닙니다. 그런데 많은 제품이 이 질문을 기술 문제로 취급합니다. 정확도를 높이면 해결될 것이라고 생각합니다. 하지만 사용자가 느끼는 불편함은 AI가 틀려서가 아니라, AI가 개입하는 방식이 자신의 통제감을 빼앗는다는 데서 오는 경우가 많습니다.

실제 사례: AI 상담사가 만든 ‘AI 뺑뺑이’

김민수. (2026). 고객도, 상담원도 지쳤다… AI 상담의 그림자. 뉴스1

이 문제는 콜센터 산업에서 가장 선명하게 드러납니다.

최근 기업 고객센터에 전화를 걸면 이와 비슷한 멘트를 쉽게 들을 수 있습니다.

“안녕하십니까, 똑똑하고 친절한 인공지능 상담사입니다.”

하지만 사용자 경험은 정반대인 경우가 많습니다. 고객의 말을 제대로 이해하지 못하거나, 반복적으로 번호 입력을 요구하거나, 결국 문제를 해결하지 못한 채 처음으로 돌아가는 경우가 빈번합니다.

수치도 냉혹합니다. 가트너(Gartner)가 2023년 5,700명 이상의 소비자를 대상으로 진행한 조사에서 64%의 고객은 기업이 고객 서비스에 AI를 사용하는 것을 원하지 않는다고 응답했습니다. AI 음성 상담 시스템 개발사 Tenyx의 조사에서도 67.9%의 응답자가 자동 음성 상담에 짜증이나 불편을 느낀다고 답했습니다.

여기서 주목할 점이 있습니다. 사용자가 싫어하는 것은 AI 자체가 아니라, 문제를 해결하지 못하면서 인간에게 닿는 경로를 차단하는 구조입니다.

많은 기업이 AI 상담을 도입하는 이유는 솔직히 말해 사용자 경험 개선보다 비용 절감에 있습니다. 이런 전략은 단기적으로는 작동합니다. 그런데 장기적으로는 다른 문제가 생깁니다. AI에서 해결되지 못한 고객이 인간 상담사에게 넘어올 때는 이미 불만이 임계점에 달해 있습니다. 현장에서는 고객의 분노가 상담사에게 집중되는 현상이 보고됩니다. 비용은 줄었지만 브랜드 신뢰는 서서히 깎입니다. AI가 고객 경험의 앞단을 담당하면서, 브랜드가 사용자에게 남기는 첫인상이 "저를 이해하지 못하는 기계"가 된 것입니다.

기술보다 중요한 것은 문제다

AI는 강력한 기술입니다. 하지만 강력한 기술이 항상 좋은 경험을 만드는 것은 아닙니다.

제품의 역사를 보면 가장 성공적인 서비스는 항상 같은 방식으로 등장했습니다. 먼저 사용자 문제가 발견되고, 그 다음 그 문제를 해결할 방법이 등장했습니다.

AI도 마찬가지입니다. 그리고 AI에게는 한 가지 조건이 더 붙습니다. 문제를 해결하는 것만으로는 부족합니다. 그 과정에서 '사용자가 여전히 주도권을 갖고 있다고 느끼는가'와 같은 근본적인 지점까지 설계해야 합니다.

기술을 먼저 도입하고 문제를 찾는 방식이 아니라, 문제를 먼저 이해하고 AI가 정말 필요한 순간을 찾는 것. 그리고 그 AI가 사용자의 경험을 어떻게 바꾸는지를 함께 설계하는 것. 그것이 AI 시대의 제품 설계에서 가장 중요한 출발점일지도 모릅니다.

참고문헌

Gartner. (2024).Gartner survey finds 64% of customers would prefer that companies didn’t use AI for customer service. https://www.gartner.com/en/newsroom/press-releases/2024-07-09-gartner-survey-finds-64-percent-of-customers-would-prefer-that-companies-didnt-use-ai-for-customer-service

채병효. (2025). 인건비야 줄겠지만… 콜센터 AI 상담사, 브랜드 이미지에 타격 우려. 조선일보 Weekly Biz. https://weeklybiz.chosun.com

김민수. (2026). 고객도, 상담원도 지쳤다… AI 상담의 그림자. 뉴스1. https://www.news1.kr/it-science/general-it/6043713