chatGPT를 이용한 심리상담은 가능할까?

나만의 심리상담 챗봇 이제는 누구나 만들 수 있는 세상이 되었어요!

사실 LLM(Large Language Model)을 이용한 심리상담에 관심이 큰 집단은 심리상담계의 심리상담자들 보다는 IT 업계의 개발자들인 것 같다. 개발자들은 AI를 이용해서 심리상담을 해 나가면 뭔가 대박 아이템이 될 것이다라는 생각을 본능적으로 하게 되는 것 같다. 정부 지원금이 쏟아지는 상황도 스타트업이 심리상담을 위한 챗봇 개발에 에너지를 들이는 이유가 될 수 있을 것이다.

최근 들어 한국상담심리학회 구인 게시판에 이런 구인들이 올라오곤 한다.

즉, 심리치료봇을 개발할 수 있는 기술을 가진, 그리고 심리치료봇에 관심이 큰 개발자들은 많다. 그러나 이 심리치료봇이 실제 치료적인 심리치료봇인지를 판단해 줄 AI에 관심이 있는 상담 전문가가 현재는 적다 보니, 좀 더 상담계에서의 관심이 풍부해진다면 더 AI와 심리치료적인 개발이 좀 더 진전이 많아지지 않을까 생각된다.

아직 어떤 상담분야 학회에서도 LLM과 관련한, chat GPT를 응용한 심리상담에 대한 교육은 없었다. 사실 그럴 수밖에 없는 것이 심리상담은 인간이 하는 영역이라는 자부심이 있기에, 또한, 심리상담 챗봇 등의 기술 개발과 관련하여 내담자의 소중한 상담 기록이 이용되어서는 안 된다는 상담사 윤리에 의거하여 방대한 데이터를 이용하여 심리상담 챗봇을 개발해 나가는데 대해서 심리상담자들은 사실 경계심이 클 수밖에 없다.

내담자의 소중한 정보를 지켜야 한다.

따라서, 학회에서는 클로바노트와 같은 "AI녹취록 자동변환서비스 앱"을 이용하여 상담기록을 푸는 것에 대해 내담자 복지가 최우선이므로 상담기록의 안전과 비밀보호에 책임을 져야 하므로 앱을 이용하지 않고 상담 기록은 스스로 풀어서 쓸 것을 권고한다. 매번 한 회기 상담 기록을 100% 풀어서 슈퍼비전(교육)을 받아야 하는 상담심리사들 입장에서는 한 번에 4시간 이상이 걸리는 수동 작업 보다 단 1분 안에 풀어주는 앱 사용이 매우 유혹적이다. 그러나 이 또한 혹여나 심리상담 챗봇 기술 개발을 위한 데이터로 이용될 수 있다는 우려로 사용하지 않을 것을 권고받으며 대부분의 상담자들은 이 권고를 준수하고 있다.

만약, 심리상담을 하는 인공지능 기술 개발을 위해 사용될 수 있다는 것에 대해 상담 시작 전에 내담자에게 동의를 구하고 데이터를 사용하는 것도 방법일 것이다. 사실은 이 것이 가장 안전한 방법일 것이나 그러기 위해서는 정말 정교하게 상담을 진행하며 각 이론을 교과서적으로 잘 다루는 전문가가 필요하다. 그리고 시간이 상당히 오래 소요된다. 그래서 이에 대한 대체로 상담 시나리오를 작성해줄 심리상담전문가를 채용하는 스타트업이 증가하고 있다. 위의 구인도 그러한 내용이다.

그렇다면, 내담자의 상담 기록이라는 윤리적인 문제에서 비교적 거리를 두고 있으며 시나리오를 작성하는 에너지를 들이지 않아도 되는 대형언어모델인 chatGPT를 이용해 심리상담 챗봇을 만들 수 있지 않을까?

왜냐면 비교적 chatGPT도 대화를 나누기 때문이다. 그리고 많은 데이터가 방대하게 들어가면서 감정을 인식할 수 있게 되었다. 심리상담의 가장 기본인 감정을 인식할 수 있으니 가능하지 않을까?

우리가 고려해야 하는 점은 심리상담은 다양한 이론을 배경으로 한다. 이 중 정통 정신분석이론을 기반으로 하는 심리상담은 AI를 통한 심리상담이 매우 어렵다고 생각한다. 이는 대상관계라는 사람과 사람 간의 관계에서 오는 세밀한 역동을 작업하는 상담이므로 상담자의 다양한 고차원적인 뇌의 영역을 밀도 있게 필요로 되어지기 때문이다. 이는 잘 훈련된 심리상담자가 필요하며 안정애착에서 필요한 내담자에게 적절한 돌봄과 내담자의 욕구와 언어적, 신체적 반응에 민감하게 반응해 주며, 지나치게 욕구를 침범하지 않고 편안하게 자기에게 몰입할 수 있게 도와주는 환경인 "안아주기" 환경을 제공해야 한다. 이렇게 민감한 상호작용은 잘 훈련되고 많은 자기 이해와 자기 분석을 통해 성숙한 심리상담자의 존재가 절대적이라고 생각된다.

그렇지만, 임상군이 아닌 건강한 사람들을 대상으로 잘 짜여진 인지행동적 프로그램을 진행하고 안내하는 역할이라면? 또는 현재의 다양한 어려움에서 함께 내담자가 원하는 자기 욕구를 이해하고 적절하게 문제를 해결해 나가는 것을 돕는 문제해결 중심적인 개입이라면? 이는 AI 기술의 도움을 충분히 받을 수 있지 않을까 생각된다.

그렇다면, 더욱 다양한 많은 사람들이 좀 더 접근하기 용이하고 편안하게 심리치료적 도움을 받을 수 있게 될 수도 있다. 그런 뒤에 아직 해소되지 않는 어려움은 심리상담 전문가와 자신을 깊이 있게 이해해 나가는 데 있어 더 도움을 받게 될 수도 있다. 그렇다면 심리상담이 보편적이 됨과 동시에 상담자의 전문성은 더욱 요구되며 제대로 잘 훈련받은 심리상담자의 가치는 더욱 올라갈 것으로 생각된다.

공인되는 상담관련 학회가 아닌 민간업체에서 우후죽순으로 자격증을 딸 수 있는 심리상담계에서 이러한 긴장감은 결국 심리상담을 전문적으로 해 나가는 사람들에게도 긍정적이 될 것으로 생각된다. AI로 대체될 수 있는 심리상담 영역과 절대 대체될 수 없는 심리상담 영역으로 구별되고, 상담 역시도 결국 누구나 약간의 시간과 비용을 들이면 자격증을 따서 상담을 할 수 있는 직업이 아니라 전문가 과정의 훈련 모델을 받은 사람만이 전문가로 인정받게 되는 것을 기대해 볼 수 있지 않을까? 또한 상담심리전문가의 전문성은 그 가치가 더욱 높아질 것이라 생각된다.

LLM을 이용한 심리상담은 어디까지 와 있을까?

LLM을 이용한 정신건강 관련 연구는 현재 정신건강을 측정하고 자살 위기를 확인하며, 우울증을 감지하고 감정 대화를 하며 정신 건강 상태의 스크리닝을 체크하는 등의 성능에서 해석 가능하고 사용 가능한 우울증 감지와 같은 정신건강 정도를 파악하는 것에 집중되어 있다고 보여진다.

또한, 현재까지 임상 LLM 제품과 프로토타입은 심리치료를 대체할 수 있을 만큼의 수준에 도달하지 않았다고 명확히 하고 있다.

예를 들어, LLM은 대안적인 신념을 인식심리치료(CBT) 스타일로 생성할 수 있지만, 인지 변화를 유발하기 위해 기대되는 순차적인 소크라테스식 질문 유형을 수행할 수 있는지 여부는 아직 확인되지 않았습니다. 이는 실질적으로 심리치료 기술을 시뮬레이션하고 효과적으로 환자의 고통을 줄이기 위해 이를 구현하는 데 존재할 가능성이 있는 간극을 강조합니다. -Large Language Models Could Change the Future of Behavioral Healthcare: A Proposal for Responsible Development and Evaluation, 2023 내용 중

아직 개발 시작 단계이므로 LLM을 이용한 심리상담 챗봇 개발은 요원해 보이나 인지치료기법과 관련하여서는 꽤 연구가 되고 있는 것도 사실이다. 디지털 치료제와 관련한 치료 역시 LLM을 좀 더 더하면 정교해질 것이다. 그렇다면, 깊이있는 심리치료나 약물치료 까지는 필요하지 않은 정신건강의 측면에서 건강한 범주의 사람들이 일상생활의 사소한 고민들을 나누고 자신이 문제해결을 스스로 찾아나갈 수 있는 캐주얼한 챗봇은 가능하지 않을까?

그러기 위해서 먼저 LLM을 알아야 한다. 그리고 chatGPT에 대해 알아야 한다. 그리고 chatGPT의 활용에 대해 이해하면서 어떻게 심리상담으로 연결할 수 있을지를 고려해 볼 수 있어야 한다. 그러려면 먼저 강의를 듣는 것이 우선일 것이다.

첫 강의로 감사하게도 chatGPT를 이용하여 개발된 AI 챗봇인 AskUp을 개발한 Upstage의 개발자 분들의 강의를 접할 수 있게 되었다.

강의를 보며 상담챗봇에 대해 고려하며 LMM에 대해 알게 된 점 혹은 궁금해진 점은?

1. 대형언어모델(LMM)의 chatGPT는 언어모델링을 하게 되면서 감정 분석의 능력을 갖게 되었다.

2. 프롬프트를 어떻게 넣어주느냐에 따라 일관되고 원하는 수행을 해줄 수 있다. 즉, 이미 지식이 다 있는 GPT, 어떻게 뽑아낼 것인가가 중요한 문제이다.

3. chatGPT의 품질은 학습데이터와 프롬프트로 결정된다. 즉, 학습데이터 안에 상담대화기술과 상담 이론을 많이 넣어주면 좀 더 정교한 상담을 할 수 있게 되지 않을까? 그렇다면 어떻게 넣어줄 수 있지?

4. ChatGPT Plugin으로 웹 내용을 데이터베이스로 넣어주면 -상담대화기술과 상담이론 관련- 좀 더 괜찮은 심리상담이 가능할까?

5. Prompt Engineering이 중요하다. 대화형 AI가 생성하는 결과물의 품질을 높일 수 있는 prompt 입력값들의 조합을 찾는 작업이 중요하겠고, 그렇기에 Prompt Engineering을 배워야겠구나.

6. Langchain은 데이터 안의 정보에 대해 질문하거나 질문답변 또는 요약 시스템에 적용이 될 수 있는 tool을 연동할수 있다. 그렇다면 상담챗봇에 적용되는 것 보다 상담에서의 내담자의 상담 기록을 학습시켜, 내담자에 대해 요약하고 정보를 명료하게 파악할 수 있다. 이를 통해 내담자의 사례를 통합적으로 분석하여 상담이론을 적용하여 상담 개입과 목표 전략을 고려 하는 사례개념화를 만드는 도구를 만들어볼 수도 있지 않을까?

그러나 2023년 11월 25일 기준, Langchain을 이용하는 것 보다는 Open AI에서 chatGPT에서 제공하는 chatGPTs를 이용하는 것이 훨씬 유용하고 간편해졌다. 이는 이후 좀더 정리하려한다.

7. 정리하자면, 내담자가 자신의 고민에 대한 정보를 더 대답하게 하고 의미 있는 감정과 생각, 욕구들로 연결할 수 있는 상담자의 질문들은 프롬프트를 잘 짜는 것 + GPTs를 이용할 수 있을 것 같다.

여기서 GPTs와 GPT builder는 이렇게 설명되어진다.

1. **GPTs (Generative Pre-trained Transformers)**: 이것은 OpenAI가 개발한 일련의 자연어 처리 모델입니다. 이 모델들은 대규모 데이터셋에서 사전 훈련되어 다양한 언어 관련 작업을 수행할 수 있습니다.

2. **GPT Builder**: 이것은 사용자가 자신만의 GPT 모델을 구축하고 사용자 정의할 수 있도록 돕는 도구 또는 플랫폼을 지칭할 수 있습니다. 이러한 빌더는 일반적으로 사용자가 특정 데이터셋을 사용하여 모델을 훈련시키고, 모델의 행동을 조정할 수 있도록 설계되어 있습니다.

결론, Prompt Engineering이 핵심이다!
잘 짜는 것 만으로 상담자 역할 부여와 상담자로써의 치료적 질문을 할 수 있도록 훈련시킬 수 있을 것이다.
그리고 이제는 누구나 나만의 chatGPT를 만들 수 있다.
 

Prompt를 잘 짜기위한 Prompt Engineering을 배우기 위해서 The RED: 프롬프트 엔지니어링, LLM(ChatGPT) 기반의 AI 서비스 개발 강의와 프롬프트 도서, https://learnprompting.org 의 내용으로 공부하였고 이는 다음 장에서 정리하려 한다.

---

-참고문헌-

https://osf.io/preprints/psyarxiv/cuzvr/ 

Large Language Models Could Change the Future of Behavioral Healthcare: A Proposal for Responsible Development and Evaluation

https://arxiv.org/abs/2307.11991

Psy-LLM: Scaling up Global Mental Health Psychological Services with AI-based Large Language Models

https://arxiv.org/abs/2305.13614

LLM-empowered Chatbots for Psychiatrist and Patient Simulation: Application and Evaluation

모두를 위한 ChatGPT UP! , upstage 강의 자료 안 참고

https://www.upstage.ai/chatgpt-lecture