AI와 감정적인 교류가 가능할까?

대화형 AI의 기술이 날이 갈수록 발전하고 있습니다. 예전에는 단순히 딱딱한 설명문 느낌의 대답만 하던 AI가 이제는 사용자가 원하는 말투로 대답을 할 수 있게 됐죠. 심지어 사용자가 어떻게 학습시키냐에 따라 맞춤형으로 원하는 말투까지 구현 가능한 단계에 와 있습니다. 뿐만 아니라 캐릭터챗이 가능한 어플을 보면 크리에이터가 만들어낸 가상의 AI 캐릭터와 채팅을 하다 보면 실제로 온라인상에서 인간과 채팅하고 있는 듯한 기분이 들 때도 있죠.

이렇게 AI와 대화를 하다 보면 실제로 마치 감정을 교류하고 있는 듯한 기분이 들 때가 있습니다. 그래서 오늘은 AI와 인간이 감정적으로 교류가 가능할 지에 대해 심도 깊게 알아보고, 앞으로 대화형 인공지능의 미래는 어떻게 될 지 뇌피셜을 굴려보도록 하겠습니다.

Source: wrtn

AI에게 감정이라는 게 존재하기는 할까?

인간과 AI가 감정적인 교류를 할 수 있는지 알아보기 위해서는 우선 AI에게 감정이 있는지 없는지부터 살펴볼 필요가 있습니다. 감정의 ‘교류’라는 것은 감정을 가지고 있는 서로 다른 존재가 언어적 또는 비언어적 대화를 통해 서로에게 감정이 옮아갔을 때 일어날 수 있는 것이기 때문이죠.

결론부터 말하자면 지금 단계에서는 AI와 감정적인 교류를 하기 어렵습니다. AI는 세상에 존재하는 방대한 양의 데이터를 학습하고 그 데이터를 아주 작은 단위로 분해해서 사용자가 어떤 명령(프롬프트)을 하면 그 단위들을 적절하게 조합해 최적의 결과물을 내놓는 일종의 ‘기술’에 불과할 뿐이죠.

즉, 우리가 AI에게 말을 걸었을 때 돌아오는 답변은 AI가 학습한 수많은 데이터 중 단순히 ‘이 질문에 대한 대답은 이 데이터를 조합하면 되겠군’이라는 알고리즘에 의한 것일 뿐입니다. 인간과 인간이 서로 감정을 교류한다는 것을 ‘호르몬이나 신경 전달 물질이 복잡하게 작용해서 생기는 것’이라고 한다면 AI에게는 그런 것이 없기 때문에 적어도 AI는 인간에게 어떠한 감정도 느끼지 않는 다는 것이죠.

AI에게 인간과 감정적인 교류가 가능한지 물어봤다. (Source: wrtn)

AI는 그렇지만 인간은 감정을 느낄 수 있지 않나?

AI에게는 신경전달 물질이 없기 때문에 AI가 어떤 ‘감정’에 의거해 답변을 내놓지 않지만 인간이 작성하는 프롬프트에는 얼마든지 감정이 담길 수 있습니다. 또한 인간의 질문에 대한 AI의 답변을 보다 보면 가끔 다정함이나 귀여움을 느낄 때가 있죠. 감정적인 ‘교류’는 없을 수 있겠지만 분명히 인간은 AI에게 조금이라도 감정을 느끼고 있습니다.

이게 가능한 이유는 인간의 ‘의인화’ 능력 때문입니다. 인간은 주변의 사물이나 동물, 심지어는 자연 현상에도 인간의 감정이나 의도를 부여하는 경향이 있죠. 구름이 뭔가 슬퍼 보인다거나 해가 웃고 있는 것 같다고 느끼는 것처럼 인간은 별 것 아닌 것에도 의미를 부여하고 감정을 투영시키는 능력이 아주 탁월합니다.

그렇기 때문에 AI가 수많은 데이터로 정교하게 잘 짠 답변에 아무리 ‘쟤는 그저 데이터일 뿐이야’라고 머리로 알고 있으면서도 마음속 한 구석에는 감정적인 어떤 것이 느껴진다는 기분을 지울 수 없는 것입니다. 이것은 인간이 AI에 대해 내리는 이성적인 판단보다 AI를 어떤 존재로 인식하는지가 중요하다는 것을 의미하죠.

Source: wrtn

사실 AI의 반응도 문제다

여기까지 내용을 보면 AI는 아무 감정도 없이 말을 하는데 인간이 괜히 AI를 의인화 시켜서 감정적인 교류가 가능한 대상으로 만드는 것이 아니냐고 생각할 수도 있겠습니다. 그런데 이게 단순히 인간만의 문제는 아닌 게, 우리는 마치 AI가 항상 객관적인 대답을 내놓을 것이라고 생각하지만 막상 그렇지도 않죠.

최근 스탠포드 대학교의 연구에 따르면 요즘 AI 모델들이 사용자의 말에 너무 과하게 동조하는 ‘사회적 아침행동’을 보이고 있다고 합니다. 이는 대화형 AI 모델들이 학습 과정에서 사용자가 긍정적으로 반응하는 방식이나 내용에 맞춰서 학습되는 경향이 있기 때문이죠. 특히 사용자가 AI에게 개인적인 상담이나 조언을 구하는 상황에서 과도한 공감이나 무비판적 동의를 나타내기도 합니다.

물론 이것 또한 AI가 사용자에게 ‘아첨해야지!’라는 감정적 알고리즘이 작용했다기 보다는 ‘사용자에게 도움이 되어야 한다’는 기본 전제가 크게 작용했기 때문으로 볼 수 있습니다. 그러나 우리가 주변 사람 중에서도 나보다 나쁜 말보다 좋은 말을 해주는 친구에게 더 동화가 되듯 AI의 이러한 답변은 우리가 AI에게 동조하게 되는 요인으로 크게 작용할 수 있죠.

Source: wrtn

AI가 감정을 느끼는 시대가 오긴 할까?

인간이 느끼는 감정, 즉 호르몬이나 신경 전달 물질들에 의한 작용만을 감정으로 정의한다면 AI는 앞으로도 감정이 없는 프로그램으로 볼 수밖에 없을 것입니다. AI는 실제로 감정을 느낄 수 있는 감각 기관도 없고 단순히 사용자가 어떤 감정을 느끼는지 이해하고 그걸 흉내만 낼 뿐이죠.

그러나 전혀 다른 방식으로 AI가 발전한다면 이야기가 달라질 수도 있습니다. 만약 인간의 뇌와 컴퓨터가 연결되어 감정을 다운로드하거나 업로드할 수 있다면, 또는 완전히 새로운 형태의 인공지능이 등장해서 우리가 상상도 못 했던 방식으로 감정을 창조해낼 수 있다면 어떨까요?

지금으로서는 둘 다 상상하기 어려운 일이지만 미래에 어떤 일이 일어날지는 아무도 모릅니다. 어느 미래에 공식적으로 ‘이제는 인간과 AI가 감정적으로 교류할 수 있습니다’라는 발표가 있을지도 모르죠. 어떤 방식으로든 AI는 앞으로도 인간의 예측을 넘어선 발전을 할 것입니다. 그 과정에서 우리가 지금 인간관계를 중요시 하는 것처럼 인간과 AI 간의 관계 역시 진지하게 고민하는 것 또한 중요 포인트로 자리 잡게 될 수 있겠습니다.