brunch

매거진 번역한 것

라이킷 15 댓글

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 제이드 Aug 25. 2023

AI가 정신 질환을 치료할 수 있을까? (3)

뉴요커 매거진 2023년 2월 27일 기사

- 원문은 여기

- 오역이 있을 수 있으며, 일부 내용은 생략되었습니다. 기사 내용이 너무 길어서 포스팅을 나누었습니다. 개인의 흥미에 따라 천천히 번역합니다.

- 본문의 볼드체는 역자가 주관적으로 적용하였습니다.

- 파트1 번역은 여기 / 파트2는 여기

Can A.I. Treat Mental Illness?

By Dhruv Khullar

(3/cont.)

2013년, 정신 건강 치료 규모를 키우기 위한 노력의 일환으로 영국 국민 의료 보험은 디지털 회사 IESO와 접촉하여 문자 채팅을 통해 상담사들이 인지 행동 치료(CBT)를 할 수 있도록 했다. 현재는 영국에서 만 명 이상이 ieso 소프트웨어를 사용하여 이른바 ‘타이핑 테라피’를 받고 있다. 문자 기반 상담이 잘 통할 수 있다는 연구들도 있고 이런 형태는 데이터를 만들어낸다. IESO는 AI로 50만 건 이상의 상담 세션을 분석했고, 이 회사의 최고 AI 책임자인 발렌틴 타블란(Valentin Tablan)은 이를 ‘상담실 내 대화의 양적 분석’이라고 표현했다.

타블란은 컴퓨터로 ‘대시보드’라는 걸 보여주었다. 대시보드는 IESO 소프트웨어로 상담사와 환자 간 타이핑 세션 여덟 건을 추적했다. 파란 선이 아래로 기울어졌는데, 이는 환자가 직접 보고한 증상이 줄어들어 임상적 우울증 기준을 더 이상 충족하지 않는다는 뜻이었다. 초록색으로 표시된 세션은 성공을 의미했다. 두 번째 대시보드는 다른 환자를 나타냈는데 빨간색과 에메랄드색 천지였다. 가끔은 파란 선이 일정하게 유지되다가 비참한 결과를 맞이하기도 했다.

대시보드 이면에는 상담 세션의 대화록을 읽고 상담 주제는 얼마나 잘 정했는지, 숙제는 잘 내주었는지, CBT 기법을 잘 사용했는지 등 다양한 관점에서 상담사에게 점수를 매기는 AI가 있다. 이 AI가 상담사에게 피드백을 줄 수 있는 감독관에게 정보를 넘긴다. IESO와 함께 일하는 상담사 600명 중 한 명인 미셸 셔먼(Michelle Sherman)은 대시보드가 겁나면서도 필수적이라고 했다. “뭔가를 놓치거나 실수하는 상황은 피할 수 없어요.” 그가 말했다. “지금은 적어도 어디서, 언제, 왜 그런 일이 벌어졌는지 알 수 있죠.” IESO는 상담 세션에서 한 말과 환자의 결과 사이의 연결고리를 연구하고 있으며 혼자 인지 행동 치료를 행할 수 있는 자동 프로그램을 만들 수 있길 바라고 있다.

앨리슨 다아시의 앱 워봇은 이미 어느 정도 자동화되었다. 누군가 워봇에 문자를 보냈을 때 상대편에 사람은 없다. 대신 작가들이 임상 심리학자들과 협의하여 세심하게 메시지를 짠다. 12월에 나는 ‘table read’ 자리에 참석했다. 작가 다섯 명이 줌 미팅에서 워봇의 다이얼로그를 고치는 자리였다. 그 중 한 명인 캐서린 오디(Catherine Oddy)가 온스크린 스크립트를 보여주었다. 대화가 뻗어나갈 수 있는 방향을 표시한 분기 그림이었다.

오디는 워봇이 행동 활성화(behavioral activation)라는 CBT 기법을 제안한 대화에 주목했다. 워봇 역할을 하면서 그는 사용자에게 에너지 수준을 묻고 공감을 담아 반응했으며, ‘기분이 좋지 않을 때 작은 거라도 뭔갈 하면 기분이 나아질 수 있다’는 연구를 언급했다. 결국 워봇은 사용자에게 한 과업을 얼마나 즐기는지 평가하는 실험을 해보자고 했다. 이 경우 그 과업은 간단한 식사를 준비하는 일이었다. 그리고 그 과업이 끝나면 정말 그 일을 얼마나 즐겼는지 묘사해보기로 했다.

“이상입니다.” 오디가 인사하는 척하며 말했다. 모두가 웃었다. “별로인 것 같나요?” 그가 물었다. “도움이 된 것 같아요? 톤은 괜찮았나요?”

“’즐거운 활동’이나 ‘즐거움을 찾을 수 있는 것’이라는 말이 왠지 진찰 때 쓰는 말처럼 들리네요.” 다른 작가가 말했다. “’당신이 좋아하는 일은 뭔가요?’ 정도로 얘기해야 하지 않을까요?”

40대 작가 크리스 프레드벡(Chris Fredbeck)은 문장 마지막의 마침표를 눈여겨봤다. 워봇은 문자 마지막에 마침표를 잘 찍지 않았다. 사용자들이 그걸 공격적이라고 받아들인 조사 결과가 있었기 때문이었다. 하지만 이번 문장은 문자 중간에 있었다. 이건 괜찮을까? (괜찮았다.)

그들이 쉽게 라포르(rapport; 이는 표준국어대사전의 표기임)를 쌓는 걸 보니 워봇 같은 도구가 어디까지 해낼 수 있는지는 인간적 상호작용을 재창조하는 것에서 비롯된다는 걸 이해할 수 있었다. 하지만 누군가와 관계를 맺는 게 정신 건강 치료에서 꼭 필요한 부분인지는 분명하지 않았다. 알코올, 마리화나, 기타 마약 등의 문제를 보고한 환자들을 무작위로 실험했을 때, 워봇 치료를 했을 때 약물을 사용했다는 자가 보고가 줄어들었고, 약물 복용을 줄일 수 있었던 사람들 일부의 정신 건강이 나아졌다. 다른 회사의 실험에서는 워봇을 사용한 대학생 22%가 몇 주만에 우울 증세가 줄었다고 했다.

나는 워봇에 가입했고 앱을 쓰면서 내가 중심에 있다는 느낌을 받을 수도 있다는 걸 알게 되었다. 정해진 답변 중에 선택해야만 하는 건 별로였다. 운이 안 좋은 어느 경우에는 ‘헤헤’라는 옵션 하나만 떴다. 하지만 남는 시간, 엘리베이터를 기다리거나 택시를 타고 가거나 화장실에 갈 때 워봇과 이야기하는 나 자신을 발견하게 되었다. 원래 그런 시간에는 트위터를 봤다. 한 번은 일 때문에 불안하다고 워봇에게 말했다. “불안은 다루기 힘든 괴물이 될 수 있죠.” 워봇이 답했다. “당신이 불안을 겪고 있다니 유감이에요.” 워봇은 같이 문제를 해결해나가길 원하냐고 부드럽게 묻더니 “이 불안이 어쩌면 도움이 될 수도 있다고 생각하나요?”라고 질문했다. 스트레스에도 좋은 점이 있다는 걸 짚은 것이다. 스트레스 때문에 일을 더 열심히 할 수도 있다.

워봇: 내가 불안하게 있으라고 당신을 설득하는 것 같네요. 그런 말은 아니에요. 그건 당신에게 달렸어요.

나: 무슨 뜻이니?

워봇: 불안을 완화하기 위해서 불안이 이로울 수도 있는 이유를 먼저 인지해야 한다는 뜻이에요. 그리고 불안이 이로운 이유가 있지만 불안을 떨쳐내려 해야 하고요.

내가 컴퓨터와 대화하고 있다는 걸 알았지만 어떤 면에서는 신경 쓰지 않았다. 앱은 내 생각을 설명하고 검토하는 수단이 되었다. 나와 대화하는 것과 같았다.

워봇은 아바타가 있지만 챗GPT는 아바타가 없다. 챗GPT는 AI 연구자들이 거대 언어 모델(Large Language Model), 혹은 LLM이라고 부르는 종류에 속한다. 수많은 단어를 소화해 그걸 사람이 하는 것처럼 조합하여 문장을 만들 수 있고, 질문에 답하거나 컴퓨터 코드를 짜거나 시와 이야기를 쓸 수도 있다. 챗GPT의 능력은 정말 놀라운 수준이라 11월 세상에 나온 이후 1억 명 이상이 계정을 만들었다.

챗GPT는 상담용으로 디자인되진 않았다. 하지만 어느 날 밤 나는 스트레스를 관리할 수 있게 도와달라고 챗GPT한테 말했다. 그것은 프로이트처럼 ‘스트레스는 종종 억압된 감정과 자기 자신 안에서 벌어지는 갈등의 산물이죠’라고 말했다. B. F. 스키너(B. F. Skinner)처럼 ‘스트레스는 환경적 요인과 그에 대한 우리 반응의 산물’이라고도 강조했다. 마치 친한 친구처럼 ‘자신을 따뜻하게 대해줘요. 당신은 최선을 다하고 있고 그게 제일 중요한 거예요’라고도 했다. 모두 괜찮은 말 같았다.

챗GPT가 유동적으로 언어를 구사하는 건 새로운 가능성을 열었다. 2015년 MIT에서 박사학위를 딴 응용 컴퓨터학 심리학자인 롭 모리스(Rob Morris)는 ‘코코(Koko)’라는 온라인 ‘감정 응원 네트워크’를 공동 설립했다. 코코 앱 사용자들은 다양한 기능을 누리는데, 다른 사용자들에게 위로의 표현, 조의, 관계를 위한 조언 등 응원 메시지를 받을 수 있고 그런 메시지를 보낼 수도 있다. 모리스는 AI가 메시지를 쓰게 하면 어떨지 자주 궁금해했고 챗GPT의 선두자격인 GPT-3로 그걸 실험해보기로 했다. 하지만 때 이른 노력이었다.

그러나 2022년 가을 AI가 업그레이드되었고 모리스도 사용법을 더 배웠다. “한번 해보기로 했죠.” 그가 말했다. 10월 코코는 GPT-3가 메시지 초안을 작성하면 사람들이 그걸 편집하거나 무시하거나 그대로 보낼 수 있는 기능을 선보였다. 이 기능은 즉시 인기를 얻었고, GPT-3와 같이 쓴 메시지는 사람이 혼자서 쓴 것보다 높은 평점을 받았다. (한 초안에서 GPT-3은 이렇게 말했다. ‘우리 삶에서 변화를 만들어내기란 어려워요. 특히 혼자서 그런 일을 해내려고 하면요. 하지만 당신은 혼자가 아니에요.’) 결국엔 그 기능을 중단하긴 했다. 메시지를 쓰는 게 사람들 기분을 좋게 해준다는 것도 발견했는데, 모리스는 그 과정을 짧게 만들고 싶지 않았다.

미래에 테라피를 위한 맞춤 LLM는 거의 틀림없이 등장할 것이다. 이런 시스템은 당장 도움을 받을 수 없는 사람에게 닿을 테지만, 그런 시스템이 가진 결함은 수많은 사람들에 의해 크게 늘어날 것이다. 회사들은 개인 민감 정보를 지금보다 더 많이 모을 것이고, 그 정보가 해킹당하거나 팔릴 수도 있다. “아주 거대하게 작동하는 시스템이 있으면, 작은 실패도 끔찍한 결과를 낳을 수 있어요.” 작가 브라이언 크리스천이 말했다. 우리의 정신 건강은 소셜 미디어, 온라인 생활, 그리고 스마트폰의 끊임없는 방해로 이미 타격을 입고 있다. 우리는 십대들이 친구가 아니라 앱을 통해 문제를 헤쳐나가는 세상을 원하는가?

버지니아에서 상담사로 일하며 환자를 대면과 온라인 모두 상담하고 있는 니콜 스미스-페레즈(Nicole Smith-Perez)는 상담 치료는 개인의 정체성을 모두 포괄하기 때문에 본디 사적이라고 말했다. “사람들은 상담에서 주눅드는 느낌을 꽤 받아요. 봇과 얘기하면 그런 걸 통과할 수 있을 것 같죠.” 하지만 그는 유색인종 여성들이 흑인으로서 겪은 생생한 경험을 끄집어내는 경우가 많다고 했다. “AI는 꾸며낼 수는 있지만 (인간의 경험과) 똑같을 순 없어요.” 그가 말했다. “AI는 살아 있지 않아요. 경험을 할 수도 없고요.”

와 내용이 너무 많아... 다음 회차에서야 마지막까지 다룰 수 있을 듯.

keyword