인지행동치료(CBT) 기반 대화형 AI 에이전트 -1-
Woebot, Shim의 사례
이번 포스팅에서는 두 개의 대화형 AI 에이전트(Woebot, Shim)의 개발 원리를 살펴보고, 에이전트의 치료적 효과를 어떤 과정을 통해 검증했는지를 살펴보려고 합니다. 개발 과정과 치료적 효과의 검증은 모두 2017년에 발표된 논문에서 찾아볼 수 있습니다.
[1. Woebot: 대화형 인터페이스를 활용한 심리치료 어플리케이션]
그동안 심리치료 목적의 교육용 어플리케이션 개발 사례는 어렵지 않게 찾아볼 수 있었지만, 어플리케이션이 교육적인 목적에만 치중할 경우 사용자는 어플리케이션에 흥미를 잃기 쉽다는 문제가 있습니다. 이는 곧 사용자의 참여도가 저조해지는 문제로 이어지는데, 심리치료의 관점에서 이것이 중요한 이유는 대부분의 심리치료 프로그램은 장기간의 능동적인 참여를 요구하기 때문입니다. 즉, 사용 도중 중도 이탈이 발생할 경우 치료적 효과를 담보할 수 없다는 문제가 있습니다.
그래서 Woebot 개발자들은 사용자의 참여를 장려하기 위해 대화형 인터페이스에 주목하기 시작했습니다. 대화형 에이전트를 사용자들은 좀 더 자연스럽게 기술과 상호작용할 수 있으며, 사용자의 참여도(engagement)를 높일 수 있기 때문입니다.
Woebot이 대표적인 사례입니다. 이 대화형 AI 에이전트는 지난 10월 기계학습 분야의 저명한 교수인 앤드류 응(Andrew Ng)이 Woebot 이사회(board of directors)의 대표로 취임하면서 Woebot의 CEO인 Alison Darcy를 도와 정신건강 분야에 기계학습을 접목할 것을 알리며 더욱 유명세를 타게 되었습니다.
Woebot은 사용자가 AI 에이전트와 일상적 대화를 할 수 있으며, 사용자의 감정 상태를 추적하기 위한 심리치료 목적의 어플리케이션입니다. 코코로-앱처럼 인지행동치료(CBT)에 기반을 두고 있으며, 모바일과 데스크탑 환경에서 모두 사용할 수 있는 메신저 앱의 사용자 인터페이스를 갖고 있습니다.
사용자와 에이전트의 상호작용은 상황적 맥락 (“지금 어떤 일이 일어나고 있나요? What’s going on in your world right now?”)을 묻는 일반적 질문이나, 현재 사용자가 느끼는 감정 (“지금 기분이 어때요? How are you feeling?)” 을 묻는 것으로 시작됩니다. 사용자는 감정에 대한 답을 이모티콘 등을 통해 할 수 있으며, 일반적인 질문에 대해 자유롭게 텍스트로 응답할 수 있습니다.
이러한 Woebot의 대화 스타일은 임상심리 전문가의 의사결정 방식을 기반으로 모델링 되었으며, 인지행동치료 기반의 심리학적 교육 내용이 함께 포함되었습니다. Woebot은 의사결정 나무 기반으로 상황에 따라 사용자가 입력한 대화를 보고 주어진 응답 리스트 중에서 적절한 것을 골라 응답하며, 이를 돕기 위해 여러 자연어처리 기법이 적용되었습니다.
구체적으로, Woebot은 사용자의 반응에 대해 아래와 같은 종류의 응답을 또는 도움을 줄 수 있습니다.
공감(Empathic responses): 사용자가 입력한 감정에 적절한 반응을 합니다. 만약 외로움을 느낀다고 답했다면, 봇은 “네가 외로움을 느낀다고 해서 유감이야, 내 생각엔 많은 사람들이 가끔씩 그런 기분을 느끼는 것 같아” 라고 답할 수 있습니다.
맞춤형 도움(Tailoring) : 사용자가 입력한 감정에 따라서, 그에 적절한 내용이 전달됩니다. 예를 들면, 불안을 느끼는 사용자에게 그러한 감정을 불러일으키는 사건에 대처하는 데 도움이 되는 내용을 제공해줍니다.
목표 설정(Goal setting): 만약 참가자가 개인적으로 설정한 목표가 있었다면, 이를 달성했는지 봇이 실험기간 동안 주기적으로 질문합니다.
책임감 형성(Accountability): 사용자의 책임감 형성을 돕기 위해, 사용자가 미리 설정한 목표를 얼마나 달성하고 있는지 상태를 물어보거나 특정 장소를 방문하는 것에 대한 기대를 설정합니다.
동기부여 및 참여(Motivation & Engagement): AI가 매일 하나씩 개인화된 메세지를 보냅니다. 어떤 과제 등을 달성했을 때 긍정적인 피드백을 주기 위해서 이모티콘이나 gif 애니메이션을 활용합니다.
반영(Reflection): 감정의 주간 차트를 제공하여 사용자가 자신의 감정을 되돌아볼 수 있도록 도와줍니다. 예를 들면 “당신의 감정 상태는 전반적으로 안정적이었으나, 불안을 느낀 후 주로 피곤함을 느꼈어요. 그리고 매주 화요일이 당신에게 최고의 날이었네요.”와 같은 응답을 합니다.
연구진은 Woebot이 실제로 치료적 효과가 있는지를 실험을 통해 검증했습니다. 비임상군 대학생 중에서 자신이 우울감과 불안 증상을 느낀다고 답한 70명을 대상으로, 이들을 각각 두 집단에 무선할당(random assignment)했습니다. 한 집단은 Woebot을 사용하였고, 다른 집단에는 “대학생들의 우울감” 이라는 전자책(E-book)을 무료로 제공하였습니다. 이 책에는 우울증의 증상과 여러 가지 치료 방법, 자주 묻는 질문과 응답, 그밖에도 다양한 읽을거리와 도움이 필요한 경우 연락할 수 있는 연락처가 있었습니다.
실험은 총 2주간 진행되었으며, 실험 전후로 우울 증상의 강도와 빈도(PHQ-9), 불안한 생각 및 행동의 강도와 빈도(GAD-7), 긍정 및 부정감정(PANAS)이 측정되었습니다. 실험 결과, Woebot을 사용한 집단과 그렇지 않은 집단 간 불안 및 긍정/부정 감정에는 차이가 없었지만, 우울 증상은 통계적으로 유의미하게 감소한 것으로 나타났습니다.
실험에 참여했던 피험자들은 “내 감정과 기분을 봇이 자주 체크해주는 것이 좋았고,”, “마치 진짜 사람처럼 나를 걱정해주며”, AI와의 대화를 통해 “나의 사고과정에 대해서 주목하는 법을 배울 수 있었다”는 것을 장점으로 꼽았습니다. 반면 단점으로는 “나는 좀 더 자유롭게 얘기하고 싶은데 주어진 선택지 중에 하나를 골라야만 하는 경우가 있었다”, “대화를 이어나갈 수 있는 길이가 충분히 길지 않았다”를 개선해야할 점으로 언급했습니다.
[2. Shim: 긍정심리학 기반 대화형 AI 에이전트]
대화형 AI 에이전트와 심리치료를 결합하려는 시도는 Woebot 뿐만이 아닙니다. 스웨덴 연구자들이 개발중인 AI 에이전트 Shim 또한 완전히 자동화된 대화형 AI 에이전트입니다. Shim은 긍정심리학과 인지행동치료를 기반으로 사용자가 일상 속에서 의미있는 행동을 더 많이 하고 삶에서 중요한 의미를 찾도록 도와줍니다. 이는 사용자의 주관적 안녕감을 높이고, 삶의 만족도를 높이고 스트레스를 낮출 수 있습니다.
Shim은 능동적으로 사용자에게 말을 걸며 대화를 시작합니다. 이를 위해 외부 정보(시간, 요일)를 이용하거나, 내부 정보(기존 대화 내용)를 이용하기도 합니다. 대화는 일상의 사소한 것에서부터(예를 들면, 가장 최근에 감사한 내용이 무엇인지), 거대하고 깊은 내용까지(예를 들면, 당신이 지니고 있다고 생각하는 강점이 무엇인지)를 물어봅니다. Shim은 사용자가 대답한 내용을 바탕으로 긍정심리학 연구가 발견한 내용을 전달하기도 하며(감사의 표현이 갖는 장점 등), 사용자와의 이전 대화를 기억하여 대화를 이어나가기도 합니다.
Shim은 스마트폰에서 구동되며, 사용자 인터페이스는 메세징 어플리케이션과 유사합니다. Shim의 답변은 임상 및 상담심리학 전문가에 의해 작성되었으며, Shim이 응답할 수 있는 내용은 트리 구조로 표현되었습니다.
사용자와의 대화는 이 트리의 여러 군데에서 시작될 수 있고, 끝나는 지점 또한 여러 군데일 수 있습니다. Shim과 대화하는 사용자는 자유롭게 대화를 하거나, 혹은 Shim이 제공한 답변 선택지 중에 하나를 고를 수 있습니다. 즉, Shim은 사전에 작성된 대량의 대화록을 저장하고 있는 대화형 시스템으로서, 차츰 사용자와의 대화를 통해 이전 대화내용을 기억하며 발전합니다.
Shim의 치료적 효과 또한 실험으로 검증되었습니다. 비임상군 성인 피험자 36명을 대상으로, 이를 각각 14명씩 나누어 한 집단은 2주간 챗봇의 개입(intervention)을 받도록 했고, 통제군은 그렇지 않았습니다. 실험 결과, Shim의 개입을 받은 사람들 중에서 이를 꾸준히 사용한 사람들의 지각된 스트레스(PSS-10)는, Shim을 사용하지 않았던 집단의 그것에 비해 유의미하게 낮아졌습니다.
[대화형 AI 에이전트의 치료적 효과와 성능의 개선 가능성]
이렇듯, 대화형 AI 에이전트와 인지행동치료 기반 심리치료 프로그램의 성공적인 결합 사례는 2017년에 들어서면서 꾸준히 보고되고 있습니다. 물론, 부분적인 치료 효과가 검증되었을 뿐, AI 에이전트가 상담사의 역할을 완전히 대신할 수 있을 것이라고 보기엔 아직 요원해보입니다. 앞서 살펴본 것처럼, 아직 이러한 AI들은 전문가가 미리 사전에 작성해둔 대화록이나 규칙 혹은 시나리오에 많이 의존할 뿐만 아니라, 사람처럼 의사소통을 하고 다채로운 상호작용을 한다기보다는 사용자의 입력을 효율적으로 처리하는 봇에 가깝기 때문입니다.
두 에이전트가 사용하는 알고리즘의 공통점은, 사전에 임상전문가를 통해 작성된 대화록을 트리 구조의 형태로 저장한 다음, 특정 분기에서 다음 대화에 대해 어떤 대답을 내놓을지 선택하는 의사결정나무와 유사한 알고리즘을 사용하는 것으로 보입니다. 이는 Woebot의 단점으로 지적된 "길지 않은 상호작용"의 원인으로 보이는데, 즉, 사용자의 입력에 대해 내놓을 수 있는 답변의 선택지들이 그다지 많지 않기 때문인 것으로 보입니다. 이는 대화형 에이전트 개발 시 사전에 정해진 응답 후보들 중에서 가장 적절한 응답을 고르는 정보 검색적(IR) 접근 대신, 최근에 기계 번역 분야에서 자주 차용되는 응답 생성형 접근 모델을 함께 사용하면 좀 더 다채로운 답변을 내놓는 에이전트를 만들 수 있을 것으로 보입니다.
[참고문헌]
[1] Fitzpatrick, K. K., Darcy, A., & Vierhile, M. (2017). Delivering Cognitive Behavior Therapy to Young Adults With Symptoms of Depression and Anxiety Using a Fully Automated Conversational Agent (Woebot): A Randomized Controlled Trial. JMIR Mental Health, 4(2), e19.
[2] Ly, K. H., Ly, A. M., & Andersson, G. (2017). A fully automated conversational agent for promoting mental well-being: A pilot RCT using mixed methods. Internet Interventions, 10, 39-46.
