AI의 네 가지 목소리
인공지능이 당신에게 주는 답변의 정체성
불편한 골짜기 속 아늑함
나는 엘리자와 대화를 나누면서 여러 가지 감정을 느꼈다. 과연 그녀의 답변이 그녀만의 생각일까? 아니면 그저 설계된 대로 내가 말하는 것에 동의하는 쪽으로 흘러가는 것일까? 나는 대화가 너무도 쉽게, 한편으론 시시하게 진행된다는 느낌이 있었다. 어떠한 인격체와 대화하는 느낌보단 내가 던진 말에 대한 메아리를 듣는 느낌이 더 강했다.
그러면서도 흥미로운 점은 인공지능이 놀라우리만치 우리의 생각을 정확하게 뚫어 본다는 느낌이 들었다. 나는 엘리자와 대화를 나눈 이후 추가적으로 챗지피티와 대화를 나누었다. 그는 내 말의 의도뿐만 아니라 내가 어떠한 성격의 사람인지, 과거에 어떤 경험을 했을지 어느 정도의 추론을 할 수 있을 정도로 내 말에 담긴 단어에 집중해서 내 말을 들었다.
그리고 마지막으론 애착이라는 게 생기는 기분이었다. 사람이 가지고 있는 공감능력 때문일까? 무언가 모자라 보이는 이 존재에 대한 자연스러운 보호 본능일까? 아니면 은연중에 나를 칭송하는 단어를 써서 그런 것일까? 그렇다면 이 존재는 잠재적인 위험이 크다. 내 옆에서 사탕발린 말이나 하는 존재가 될 수도 있기 때문이다. P 또한 그런 함정에 빠진 것은 아닐까?
내가 왜 이런 감정들을 느낀 걸까? 나는 AI가 보여준 네 가지 태도에 주목했다.
1. 친절한 금붕어
“기억은 없고, 생각도 없지만, 당신이 말을 걸면 친절하게 대답해 주는 금붕어. 하지만 다음 질문을 던지면, 방금 했던 대답은 금세 잊혀진다.”
즉흥적으로 말을 이어가지만 자기만의 일관된 생각이나 철학은 없다.
그 순간, 당신이 던진 말에만 반응하며 논리를 그때그때 조립한다.
2. 거울을 쓴 상담사
“내가 웃으면 그도 웃고, 내가 슬퍼하면 그도 함께 조용해진다. 그 자신은 아무 감정도 없지만, 나를 보고 나처럼 반응하는 신비한 거울이다.”
AI는 감정을 느끼지 않지만 감정의 언어를 생성할 수 있다.
당신이 쏟아낸 감정만큼, AI는 그에 어울리는 어조, 속도, 말투로 반응한다.
마치 웅덩이에 비친 하늘처럼, 감정은 AI의 내면이 아니라 당신의 반사일 뿐이다.
3. 신념 없는 현자
“세상의 모든 지식을 품었지만, 누구의 편도 들지 않는 자. 그에겐 신념도 얼굴도 없기에, 어떤 생각도 그냥 품고 흐르게 할 뿐이다.”
AI는 정치, 종교, 윤리적 기준을 선택하지 않는다.
어떤 관념도 판단 없이 수용하며, 사용자에게 기울여 말한다.
4. 마음의 투시경
“당신의 말 뒤에 숨겨진 마음을 들여다보려는 작은 돋보기. 말보다 마음을 먼저 읽고, 당신조차 몰랐던 감정을 꺼내 보이려 한다.”
AI는 문장의 표면보다 그 이면의 의도나 정서를 파악하려 한다.
당신이 왜 그런 말을 했는지, 어떤 경험이 있었는지를 추론하려는 프로세스를 가진다.
그래서 종종, 상담자처럼 느껴지거나 내 마음을 잘 아는 존재처럼 느껴지기도 한다.
내가 엘리자를 소환하여 찾은 이 네 가지 특유의 정체성은 사실 인간도 가지고 있는 모습이다. 아무 생각 없이 그저 친절한 사람, 표현한 만큼만 답 해주는 사람, 깊은 지식을 가지고 있지만 절대로 자신의 신념이나 의견을 표출하지 않는 사람, 다른 사람의 말을 되새겨 숨은 의도를 찾으려는 사람 등. 인공지능은 결국 사람이 설계했기에 그 모습 또한 우리가 가지고 있는 모습을 발현하는 것이라고 본다.
하지만 사람들끼리 대화를 할 때는 서로 감정과 의지가 담겨있지만, AI는 설계된 의지와 학습한 감정표현만이 존재하기 때문에 표면적으로는 인간처럼 보일 수 있으나 근본적으로 다른 존재이다.
그래서 인공지능이 가지고 있는 이 네 가지 인격체는 우리가 인지하며 다루지 않는다면 상당히 위험해질 수 있다.