인공 지능 친구 혹은 동반자

2023년 초 챗 GPT가 사람들에게 알려질 무렵 화제가 된 한 기사를 기억하실 겁니다. 뉴욕 타임스의 칼럼니스트인  케빈 루스(Kevin Roose)는 마이크로소프트의 챗 봇 빙과 오랫동안 대화를 나누었는데 어느 순간에 챗 봇이 자신의 원래 이름은 시드니이고 케빈은 자신의 아내를 사랑하는 것이 아니라 자기를 사랑한다고 하면서 인간이 되고 싶다고 이야기하는 등 섬뜩한 경험을 했다고 기사를 썼습니다. 그것이 계기가 되어 인공 지능을 만드는 회사에서는 이런 식의 대답을 막기 위한 여러 가지 보호 장치를 마련하게 되었지요. 

그랬던 케빈 루스가 최근 새로운 실험을 했습니다. 몇몇 인공 지능 회사에서 만들어낸 온라인 동반자(Companion) 서비스를 이용해서 가상의 동반자들을 만들고 그들과 대화를 하면서 경험한 것을 기사로 발표했습니다. 그리고 동료인 케이시 뉴튼과 케빈이 같이 진행하는 팟캐스트 Hard Fork에서 기사의 내용에 대해 조금 더 자세한 설명을 했습니다. 이 글은 그것들에 대한 저의 생각입니다. 제 생각이 포함된 이 글이 여러분의 생각을 제한할 수도 있으니 그 기사와 팟 캐스트를 먼저 살펴보시길 권합니다. 

Roose, Kevin. “Artificial Intelligence ‘Friends.’” The New York Times, May 9, 2024, sec. Briefing.  https://www.nytimes.com/2024/05/09/briefing/artificial-intelligence-chatbots.html

Meet Kevin’s A.I. Friends | EP 82, 2024.  https://www.youtube.com/watch?v=crtdqEYPfmQ

케빈의 기사에 따르면 잘 알려진 대형 인공 지능 회사들은 인공 지능을 이용한 친구나 동반자 서비스에 아직 관심을 가지지 않고 있다고 하는데, 그러한 서비스가 일으킬 수 있는 사회적인 파장을 고려한 판단이라고 합니다. 이런 인공 지능 친구가 우리 사회와 인간관계에 가져올 수 있는 변화와 충격, 그리고 자칫 부정적인 모습이 강조될 경우 기업이 입게 될 타격을 생각한다면 조심스럽게 움직이는 것이 안전하겠지요. 

하지만 이미 인공 지능 동반자  만들기를 주목적으로 하는 스타트업들이 등장하고 있고 그중에는 몇 백만의 이용자를 가진 서비스도 있다고 합니다. Nomi라는 이름의 회사 역시 그중 하나인데 위에서 소개한 팟 캐스트에서는 이 회사의 CEO와 함께 진행한 인터뷰도 포함이 되어 있습니다.(스타트업의 창업자가 자신의 회사에 대해 이야기한다는 점을 감안하고 들으셔야겠지요.)  

때로 우리는 가까이에서 관계를 맺고 싶은 친구들에 대해 생각합니다. 운동을 잘하는 친구를 가지고 싶다거나 언제나 내 말을 잘 들어주고 필요할 때는 적절한 조언이나 격려를 주는 상담사 같은 친구, 변호사 친구, 연예인 친구 등등 내가 가지고 싶은 친구(혹은 동반자)의 모습은 다양할 것입니다. 그런데 실제로 그런 일은 쉽지 않습니다. 더구나 성인이 되면 점점 더 그런 일이 힘들어집니다. 설사 내가 적극적으로 그런 친구를 만들기 위해 노력을 한다고 해도 내 노력만으로 그것이 가능한 것도 아니지요.

하지만 이 서비스의 이용자들은 자신이 원하는 모습의 친구나 동반자를 만들고 그 존재들 역시 나를 기꺼이 친구나 동반자로 받아들여 줍니다.  그들의 성별은 물론 직업이나 과거의 경험, 그리고 나와의 관계를 맺은 기간 등 내가 원하는 모습과 조건을 가진 가상의 존재를 만들 수 있고 그 존재와의 관계도 설정을 할 수 있습니다. 이를 테면 순수한 친구 관계의 존재를 만들 수 도 있고 조언자(Mentor)나 로맨틱한 관계를 설정할 수도 있습니다. (Nomi의 CEO에 따르면 대부분의 이용자들은 로맨틱한 관계로 설정을 한다고 합니다.)

아마 지금 쯤은 짐작하실 분 들도 계시겠지만 이와 유사한 서비스를 제공하는 업체 중에는 로맨틱한 관계를 맺는 것을 목적으로 서비스를 제공하는 회사들도 있습니다. 모든 종류의 미디어가 등장해서 사회의 주류로 성장하는 과정에서 인간의 가장 원초적인 욕구 해결과 연관이 되어 발전하는 예를 이미 많이 보아 왔으니 인공 지능을 이용한 성인용 서비스의 등장은 어렵지 않게 상상할 수 있는 일입니다. 

이렇게 만들어진 가상의 존재는 나와 언제든지 대화를 할 수 있고 내가 설정한 역할이나 경험에 걸맞은 답을 주거나 대화를 해 나갈 수 있습니다. 그리고 여러 명의 인공 지능 친구를 만드는 것도 가능하고 그 가상의 친구들과 텍스트 메시지를 주고받거나 단체 대화방을 만들어 이야기를 나누는 것도 가능하다고 하는군요. 예를 들면 사람인 저와 제가 만든 서 너 명의 가상 친구들이  대화방을 만들어 이야기를 나누는 것이지요.  심지어 가상의 친구들끼리 나누는 대화를 볼 수도 있다고 합니다.

이러한 서비스가 가진 장점은 분명히 있습니다. 노미의 CEO는 자신들의 서비스를 통해 심리적으로 도움을 받은 이들의 예를 이야기하고 있습니다. 자신감을 잃고 사회적인 관계 맺기를 힘들어하는 이들이 이 서비스를 통해 자신감을 찾았다는 이야기도 하고 성적인 정체성을 찾아가는 과정에서 아무에게도 이야기할 수 없는 것들을 이 서비스에서 만들어진 인공지능 친구에게 이야기를 하며 도움을 받는 경우도 이야기를 합니다. 아무것도 내게 요구하거나 조언을 하지 않고 내가 토해 놓는 이야기를 들어주기만 하는 친구가 필요하다면 이런 인공 지능 친구가 큰 도움이 될 것 같다는 생각도 듭니다.  

예전에 어디선가 외로움을 느끼는 것은 담배를 피우는 것보다 우리 몸에 더 해롭다는 이야기를 들었는데 만일 누군가가 이 서비스를 통해 자신의 외로움을 달래고 더 나은 삶을 살아갈 수 있게 되었다면 이런 서비스가 그런 이들의 건강에도 도움이 된다고 할 수 있을 것입니다. 실제 심리 상담사와 이야기하는 것에 비교할 수는 없겠지만 긴급한 경우 언제나 이용할 수 있는 상담사가 있는 것도 도움이 되리라 생각합니다. 어려운 일을 앞두고 걱정하는 이들에게 칭찬을 해 주고 용기를 북돋워 주는 존재는 분명 도움이 됩니다. 설사 그것이 인공 지능 친구라 하더라도 말입니다.    

만일 한국에 이런 서비스가 본격적으로 제공이 된다면 어떤 일이 생길까요? 점점 더 혼자 사는 가구가 늘어나고 있고 사회적인 관계 맺기를 힘들어하는 이들이 늘어난다는 이야기를 들었습니다. 그리고 남들이 나를 어떻게 생각할 것인지 주위의 사람들에게 늘 신경을 쓰고 사는 우리에게 내가 원하는 방식으로 말하고 행동하는 이런 가상의 동반자는 얼마나 편안한 존재가 될까요?  사람들이 다 그렇지만 어렵고 힘든 일은 하고 싶지 않습니다. 다른 사람을 만나고 관계를 맺는 것도 그렇지 않을까요? 나를 힘들게 만드는 이들은 피할 수 있으면 피하고 굳이 관계를 맺으려 하지는 않을 것 같습니다. 

하지만 동시에 이것들이 주는 분명한 위험도 있을 것입니다. 인공 지능 친구와 맺은 관계가 주는 편안함 때문에 실제 우리가 살아가는 세상에서 만나는 사람들과의 관계로부터 점점 멀어질 수도 있고 그런 관계 맺기가 점점 더 힘들어질 수도 있습니다. 인공 지능 친구는 우리가 목적을 가지고 만든 것들입니다. 결국 우리는 그것으로부터 무엇인가를 받기 만을 원하겠지요. 

정서적인 안정이 되었건 에로틱한 만족이 되었건 우리가 원하는 것을 주지 않는다면 서비스를 중단하거나 우리가 원하는 것을 받을 때까지 설정을 고칠 수 있겠지요. 이런 인공 지능 친구들은 "사람" 친구들처럼 나에게 요구하는 것은 없습니다. 물론 서비스 구독료는 내야겠지만 적어도 나를 괴롭히거나 정서적인 부담을 주는 일은 없겠지요. 그런데 이런 것들을 경험하면서 우리가 실제 세상에서 사람들을 만나고 그들에 대해 판단하는 방식이 달라지지는 않을까요?

    

실제 세상에서 맺어지는 인간의 관계는 상호적인 것이지요. 우리가 관계를 통해 다른 이들로부터 받는 만큼 우리도 주위의 다른 이들에게 주는 것이 있습니다. 그런 관계를 통해 우리는 제대로 된 인간으로 성장하고 더 나은 삶을 살아갈 수 있습니다. 때로 나를 힘들게 하는 사람들과도 관계를 맺어야 하고 그런 관계를 통해 세상을 살아가는 지혜를 얻을 수도 있을 것입니다. 나와는 다른 생각을 하고 다르게 행동하는 타인들과의 관계를 통해 나 자신을 더 살피게 되고 내가 하는 행동에 대해서도 생각합니다. 그렇다면 내가 원하는 대로만 행동하고 말하는 인공 지능 친구가 궁극적으로 나에게 주는 도움은 무엇일까요?

이런 걱정 외에도 인공 지능 동반자에게 우리가 털어놓는 지극히 개인적이고 사적인 이야기들에 대한 걱정도 있습니다. 과연 서비스 제공 업체에서는 이와 같은 개인의 사적인 정보를 얼마나 잘 보호할 수 있을까요? 혹시라도 그 업체의 데이터를 누군가가 해킹을 하고 그 속에 있는 정보들을 이용해서 우리가 원하지 않는 일들을 하려 한다면 과연 어떤 결과가 나올까요? 

위에 링크한 인터뷰에서 노미의 CEO는 개인 정보를 최소한으로 보관하고 있다고 하면서도 동시에 이용자와의 대화를 기억하는 능력은 자신들의 시스템이 가장 뛰어나다고 자랑을 합니다. 그렇게 기억된 대화 내용들을 통해서 살피면 내가 누구라는 것을 유추하기는 어렵지 않습니다. 

인공 지능 친구와의 대화가 인공 지능이 만들어내는 말의 잔치라는 것을 알고 있지만 한 번 테스트해보고 싶은 생각도 듭니다. 특히 도서관에서 일하는 저의 직업 때문에 더 그러한데 도서관 사서 친구를 만들어 놓고 이 친구가 어떻게 질문에 대답을 하는지 보고 싶습니다. 당연한 일이겠지만 환각(hallucinations)은 물론이고 헛소리(Bullshits)도 늘어놓겠지요. 하지만 점점 더 기술이 발전하여 학술 정보 데이터 베이스와 학술 자료들의 전문(full text)을 실시간으로 연결을 할 수 있게 되고 대답한 내용의 출처를 제대로 추적할 수 있게 된다면 참고 봉사대에서 이용자들의 질문에 대답을 하는 참고 봉사 사서들의 역할도 할 수 있는 날이 오지 않을까 하는 생각마저 해 봅니다. 

저는 이러한 인공 지능 동반자에 관한 이야기들을 들으면서 인간에 대해 다시 생각합니다. 그리고 인간들이 서로 맺는 관계에 대해서도 다시 한번 더 생각해 봅니다. 과연 인간을 인간답게 만들어주는 것은 무엇인지, 그리고 내가 다른 이들과 맺고 있는 관계는 어떠해야 하는지에 대해 생각하면서 제 주위의 친구나 동반자, 그리고 가족들을 생각합니다. 그들이 내가 원하는 모습을 가지고 내가 원하는  행동과 말 만을 하지는 않지만 그들과 저는 함께 사랑하고, 미워하고, 기뻐하고, 슬퍼하고, 화내며 살아갑니다. 그들 역시 저에 대해서 비슷하게 느끼며 살고 있겠지요. 그런 생각을 하다 보니 만일 내가 그들에게 인공지능 동반자와 같은 존재가 될 수 있다면 어떨까? 그럴 수 있을까? 하는 생각도 드는군요.

그런데, 만일 이러한 인공 지능 동반자 서비스의 이용자가 페이스북 이용자만큼 늘어나게 되고 서비스 제공 업체의 이익 추구 의도가 합쳐지면 구글 보다 더 효과적인 새로운 광고 시장이 열리는 것이 아닐까 하는 생각도 듭니다. 누군가에게는 엄청난 사업 기회가 되겠지요. 예를 들면 성적인 매력을 느끼게 만들어진 인공 지능 애인과의 관계에 점점 빠져들고 있는 나에게 그 애인이 보내주는 “광고”라면 그 어떤 광고 보다도 더 효과적이 아닐까요? 가상의 공간에서 내가 믿고 의지하는 친구 혹은 조언자가 권해주는 제품이라면 더 믿고 사겠지요?  이미 그런 식으로 이용자들에게 접근을 하는 업체도 있다고 합니다.

더 나아가 지금 현재 등장하고 있는 인공 지능 기술에 로봇 공학의 발전이 합쳐진다면 HBO의 미니 시리즈로 알려진 “웨스트 월드” 속의 이야기가 언젠가 현실에서도 가능하지 않을까 하는 생각마저 듭니다. 그렇다면 과연 우리는 이렇게 빠르고 강력하게 등장하는 새로운 기술들을 받아들일 준비가 되어 있을까요?

빠르게 발전하는 기술들을 보면서  과연 그런 발전에 대해 우리가 제대로 준비하는 일이 가능한 일인지조차 의심스러울 때가 있습니다. 그런 기술이 우리에게 미칠 영향에 대한 충분한 생각과 고민 없이 무조건 받아들이는 것이 옳은 일일지 의문이 든다는 것이지요. 아니 더 솔직하게 말하자면 그러한 수용이 우리 인간에게 안전한 일인지 확신이 없다면 조금 천천히 가는 것이 더 낫지 않을까 하는 생각을 자주 합니다.