AI는 책임지지 않는다
AI CS 챗봇을 쓰지 않는 이유와 인간의 설 자리 -혠작가
며칠 전 온라인 쇼핑몰에서 주문한 상품이 잘못 배송되었다. 고객센터에 문의하려고 홈페이지에 들어가니 가장 먼저 보이는 버튼이 'AI 챗봇 상담'이었다. 하지만 그 버튼을 누르지 않았다. 스크롤을 돌려 '실시간 상담원 채팅' 텍스트를 찾아 클릭했고, 이어 대기 시간이 필요한데 그래도 기다리겠느냐는 질문이 돌아왔다. 꽤 기다려야 할 거라고 예상했지만 그래도 기다렸다. 그러다 생각했다. '왜 그랬지?'
왜 더 빠르고 편리한 AI 챗봇을 외면했을까? 단순한 관성인걸까? 곰곰히 생각하다 여기에 어떤 이유가 있음을 알게 되었다. 첫째, AI는 자신의 답변에 책임지지 않는다. 둘째, AI는 감정을 흉내낼뿐 AI의 감정은 '존재하지 않는다'. 이 두 가지 이유에서 AI 챗봇은 내가 진정으로 CS를 대상으로 원하는 것을 충족시켜주지 못한다.
많은 사람들이 감정피로를 느끼지 않는 AI가 CS를 더 잘할거라고 합니다... 하지만.AI는 책임지지 않는다
쏟아지는 뉴스를 보면 AI는 정말 효율적으로 보인다. 24시간 언제든 응답하고 질문을 정확히 이해하며 매뉴얼에 있는 모든 답변을 즉시 제공한다. 하지만 그 효율성 뒤에 한 가지 결함이 있다. 바로 책임의 부재다.
AI 서비스 곳곳에는 작은 양해 문구가 붙어있다. 'AI는 부정확할 수 있습니다.' 한 줄로 모든 책임을 회피하는 문구다. 답변이 틀려도 정보가 잘못되어도 그저 '부정확할 수 있다'는 전제 하에 모든 것이 가볍게 면책된다.
물론 인간 상담원도 틀릴 수 있다. 차이는 책임지려 노력한다 점이다 (그럼에도 그들은 정확성에 대한 면책조항으로 보호받지도 못한다). 대부분의 성실한 CS담당자가 자신의 이름을 걸고 애쓸 거라는 걸 알기에 신뢰가 생긴다. 그들에게는 이름이 있고 소속이 있고 실적이라는 것이 있어서 내게 제공한 서비스에 대해 어떤 형태로든 책임을 진다는 사실이 답변을 믿을 수 있게 만들어준다.
AI의 감정은 존재하지 않는다
AI는 감정노동으로 인한 피로를 느끼지 않는다고들 한다. 엄밀하게 말하자면 AI는 감정이 없다. 없는데도 마치 감정이 있는 것처럼 행동할 뿐이다. 중요한 것은 우리가 모두 이 사실을 알고 있다는 것이다.
따라서 AI의 감정 대응은 절대 충족시켜주지 못하는 부분이 있다. 내가 화가 났을 때 당황스러워했을 때 AI는 미리 정해진 응답 패턴을 출력할 뿐이다. 아무리 유려한 공감과 위로의 말도 마음으로부터 기인하지 않는다. 이 점을 우리 모두 이미 알고 있다.
인간 상담원의 답변은 때로 깔끔하지 않고 더러는 미숙하거나 피로감이 느껴지기도 한다. "불편하셨겠어요"라는 메시지를 표현하는 방식에도 그의 성격과 살아온 방식, 오늘 그의 기분에 따라 백 가지의 개성과 감정이 담겨있다. 그 복잡 미묘한 감정들은 실존하기에 사과와 위로의 말들이 비로소 유효해진다. 이 영역은 인간이기 때문에 가질 수 있는 고유한 부분이다.
인간이기에 가능한 연대감과 신뢰
AI CS 챗봇을 쓰지 않는 스스로를 돌아보며 알게 된 것은 CS를 통해 문제를 해결하는 것도 중요하지만, 당황스럽고 답답한 마음을 위로받고 싶었던 것, 거기에 나를 위해 시간을 할애해 주는 사람이 있다는 사실 자체를 내가 바랐다는 것이다.
CS 담당자가 인간이라는 것만으로도 묘한 연대감이 생긴다. 각자의 자리에서 하루하루를 버텨내는 존재로서 말이다. 상담을 마무리하며 "애 써주셔서 고마워요, 어쩔 수 없죠 뭐, 오늘도 힘내세요"라고 메시지를 보내면 "이해해주셔서 고마워요"라는 답변이 돌아온다. 담당자는 프로토콜에 따라 그냥 하는 말이었다고 하더라도 나는 그 대답에서 내가 그에게 바란 마음을 느낀다. 그가 사람이라는 이유 만으로.
별것 아닌 대화로도 우리 모두 삶을 살아내기 위해 지금을 함께 한다는 사실만으로 이유 모를 작은 뭉클함이 느껴진다. 서로 다른 곳에서 서로 다른 일을 하지만 잠시 교차한 순간에 인간적인 온기를 나누는 것. 그건 인간만이라는 사실로 말미암는다.
아마 당분간은 'AI 챗봇 상담' 버튼을 지나쳐 '실시간 상담원 채팅'을 누를 것이다. 비효율적 일지 몰라도 사람과 대화에는 상호 간의 책임과 진정한 감정이 존재하기 때문이다. 적어도 AI가 면책조항이 필요 없을 정도로 정확해지고, 사회구성원으로 인정받을 정도로 개성과 감정이 섬세하게 구현되어 개체로서 의미를 가질 어느 날까지는.
