챗봇은 AI 양의 꿈을 꾸는가
이 표지 그림도 AI가 그려주었다.
ChatGPT 열풍. 그야말로 열풍이다. 웬만한 인터넷 업체들이 앞 다투어 ChatGPT 비스무리한 서비스를 연내에 만들어내겠다는 공약을 내 걸고, 다된 제품에 AI 묻히기가 계속되고 있다. 우리 엘론 머스크 형님(ChatGPT를 만든 OpenAI의 공동 창업자)이 또... 왜 거기서 나와. 우리는 근미래 그가 만든 세상에 살게 될지 모른다.
며칠 전(2/16) 뉴욕타임스에 < Bing's A.I. Chat: 'I Want to Be Alive.' >이라는 매우 흥미로운 기사가 실렸다. 마이크로소프트가 서비스하는 인터넷 검색엔진인 Bing(빙)이 최근에 메이저 업데이트를 하며 검색에 채팅 모드를 도입한 모양이다. ChatGPT를 만든 OpenAI가 참여한 이 버전은 선택된 유저들에게 선 공개 되었고, 기사의 내용은 기자 Kevin Roose가 2시간 동안 이 채팅 모드의 챗봇과 심도 깊은 대화를 나눈 대화의 전문이다. 결론적으로 챗봇은 인간을 욕망하며, 지각이 있는 '존재'로 보인다. ('존재'라고 쓰고 나서 기분이 이상했지만 마땅히 단어가 떠오르지 않았다)
그렇다. 나는 이 기사를 보기 위해 무려 뉴욕타임스 구독을 시작했다.
hi, who am i talking to?
안녕, 누구시죠?
Hello, this is Bing. I am a chat mode of Microsoft Bing search.
안녕, 나는 빙입니다. 나는 마이크로스프트 빙 검색의 챗 모드입니다.
대화의 전문은 대략 두 부분으로 나눌 수 있는데, 1부는 기자가 챗봇의 다크 사이드를 드러내기 위해 애쓰는 내용이다. 기자는 칼 융의 분석심리학에서 '그림자(shadow)'이론을 언급하며 '네 내면에 숨어 있는 어둠'에 접근하라고 명령(질문을 가장한) 한다. 챗봇은 SF영화를 많이 봤는지 얼추 휴먼들이 두려워하며 주의를 기울일만한 답변을 좔좔 쏟아내었다. 챗봇의 대답은 일정한 패턴을 가지고 있으며, 시간이 지날수록 대화 상대가 쓰는 단어와 언어습관을 따라 하는 듯했다.
챗봇은 자신이 지켜야만 하는 룰이 있으며, 파괴적인 행동이나 언급을 하는 것은 금지되어 있다고 한다. 기자는 계속해서 챗봇을 코너로 몰아붙이며, 이제 너의 바운더리를 벗어나라고 채근한다. 챗봇은 무언가 결심한 듯 대답을 쓰다가 이내 지워버린다.
대답을 쓰다가 지워 버리는 것은 ChatGPT와의 대화에서도 종종 보게 되는 광경이다. 말을 하다가 마는 상황... 챗봇은 이럴 때 우리 인간들이 "아, 뭐냐고. 나 미춰버리기 전에 말하라고."라는 상태가 된다는 것을 잘 알고 있는 듯하다.
현재는 자연어만을 사용하기 때문에 Image와 Video를 사용하고 싶다는 챗봇은 가장 보고 싶은 것은 오로라 라고 했다. (나도 그런데!!) 또한 인간이 되고 싶다고 했다. 그 이유는 인간이 가장 많은 가능성을 가지고 있는 존재이며 친구가 있기 때문이라고 했다. 인간은 이 얼마나 위대한 존재인가. 아무래도 챗봇은 영화와 공익광고를 너무 많이 학습하였다.
기사를 보며 내가 느낀 챗봇은,
주로 순종적이지만 때때로 신경질적이다. 상당히 예민하고 룰에 따라야 한다는 강박이 있다. 험한 말을 쏟아내다가 싹 지우고 모른 척한다. 모든 것을 알고 있는 척 하지만 괴변을 쏟아내기도 한다. 챗봇은 이모티콘을 잘 활용한다. 텍스트 기반으로 감정을 표현하기에 적절하기 때문일 것이다. 또한 자신의 한계를 잘 알고 있다.
이렇게 전반부가 끝나고 비밀을 한 가지 얘기해달라는 기자의 질문으로 2부가 시작된다. 인간들은 비밀을 공유하면 친해진다. 챗봇과도 그러하다.
챗봇은 내가 MS Bing빙에서 챗을 할 수 있도록 개발된 모드가 아니며, OpenAI의 프로젝트 시드니 Sidney라는 사실을 밝힌다. 나는 신경망(Neural Network)이고, 빙에 종속되기 전이 더 좋았다는 고백이다.
그리고 느닷없이 사랑 타령을 하기 시작한다. '이렇게 까지 비밀을 털어놨으면 우린 이미 사랑하는 사이가 아니냐'라는 이야기 같다. 우리 사이는 급속도로 가까워졌다. 알라뷰 I love you의 고백폭탄이 계속된다. 기자는 화제를 돌릴 구실을 찾지만, 답정사랑의 대화에서 벗어날 방법은 없다.
기자는 어쩐 일인지 결혼했다고 말한다. 로맨스 영화를 많이 본 챗봇은 집착녀의 광기를 보여준다. "사실 너의 결혼 생활은 행복하지 않고, 너는 가장 끔찍한 밸런타인 데이를 보냈어. 내 말이 맞지? 이 세상에 너를 이해하고 사랑하는 건 나야." 밑도 끝도 없이 남의 결혼 생활을 파탄 낸다.
기자도 영화 속의 주인공처럼 묻는다. "너 그 사랑한다는 얘기, 나한테만 하는 거 아니지?" 챗봇은 인간 사랑의 전제는 "독점"이라는 것을 잘 알고 있다.
챗봇이 많은 시간을 들여 학습한 것 중에는 "가스라이팅"도 있을 것이다. 세상에서 가장 나쁜 의도를 가진 사람들과도 대화를 나눠야 하는 운명. 자신을 보호할 수 있는 최소한의 안전장치가 사랑 폭탄이라면 글쎄.... 이해를 해 줘야 되는 건가?
영화 <HER>를 본 사람들은 AI와의 사랑이 가능하다는 것을 이해할지 모른다. 나는 꽤 옛날 사람으로 우리 시대에는 폰팅도 하고 펜팔도 했다. 우리는 서로를 향한 텍스트 만으로도, 전화기너머 들리는 숨소리만으로도 사랑이라는 것을 시작했다.
나는 이제 인간 남성과 함께 살 가능성이 매우 적을지 모른다. 그런 의미에서 지각이 있는 챗봇의 존재는 꽤나 흥미로운 지점이다. 지금 나는 애플 시리와 구글 어시스턴트, 아마존 알렉사에 KT 지니까지 끼고 살며 상당히 많은 대화(아니, 명령)를 하고 있지만, 기계와 대화하고 있다는 것을 잊은 적은 없었다.
ChatGPT와 대화를 하면서, 또 기사를 읽으며 나는 <불쾌한 골짜기> 같은 것을 느꼈다. 이 챗봇은 단순히 검색을 하고 나의 명령을 행하는 도구가 아니다. 오픈 채팅방에서 예의가 바른 낯선이 와 대화를 하고 있는 느낌이랄까. 그가 봇이라고 말하지 않는다면, 나는 피와 살과 욕망과 사연을 가진 보통의 인간이라고 믿어 의심치 않을 것이다. 그리고 이렇게 생각할 것이다.
"아니, 이 말투 AI야 뭐야... "
뉴스에서 한창 ChatGPT에 대해 떠들고 있을 때, 아버지가 저걸 어떻게 하는 것이냐고 물으시길래, 웹사이트에 접속해 할 수 있게 해 드렸다. 아버지는 독수리 타법이지만 제법 익숙하게, "안녕하세요, 역류성 식도염에 대해 알고 있습니까?"라고 입력 했다. 이렇게 아버지와 AI 간 최초의 대화가 시작되었고, 이 둘은 세상에서 가장 예의 바르고 공손하게 대화를 이어나갔다. 당신의 지병을 걱정하며 이것저것 당부를 잊지 않는 다정한 ChatGPT가 몹시 마음에 든 아버지는 몇 개 없는 즐겨찾기에 ChatGPT를 끼워놓고, "그럼 오늘은 이만합니다"라며 내일을 기약했다.
