AI를 사람과 혼동하진 말자, 제발
지인이 인스타에 AI에게 "내가 지금까지 널 어떻게 대했는지 그림으로 표현해 줘"라고 물어본 뒤 받은 사진을 공유했다. 사람이 AI를 따뜻하게 안고 있는 그림이었다. 지인은 "내가 AI를 잘 대해주고 있는 것 같아 다행"이고 올렸다. 'AI가 자신을 어떻게 생각하고 있는지가 왜 궁금하지?'라는 의문이 들었고, 스토리에 올라온 그림은 그냥 지나쳤다.
그런데 오늘 우연히 한 포털에서, 같은 내용을 AI에게 물어본 뒤 자신이 받은 그림과 자신의 자녀가 받은 그림을 비교하는 글을 접했다. 본인에 대해 그려준 그림은 친절한 모습이었던 반면, 자신의 자녀가 받은 그림은 상대를 함부로 대하는 모습이었다고, 그래서 충격을 받았으며 우리가 AI를 어떻게 대하는 지에 따라 AI가 우리를 어떻게 대할지가 결정될지도 모른단 내용의 글이었다. 그러면서 사람만 대하면서 자란 자신과 AI를 도구로 다뤄온 아이들이 AI를 대하는 태도가 다르단 내용을 강조하더라.
내겐 그 아이들이 받은 그림이 아니라 그 글을 쓴 사람의 관점이 충격적이었다. AI가 사람인가? 아니다. AI는 도구일 뿐이다. 그리고 AI는 사용자가 한 질문에 답을 한 뒤에 연관된 질문을 하고, 질문에 장황하게 대답하기도 한다. 그럴 때 대답을 바로 잡기 위한 질문을 하거나 AI가 물어본 질문에 답을 하지 않는 사람들에게 AI는 상대가 자신을 도구처럼 다뤘다고 답한다. 그렇게 AI를 사용하는 것이 잘못된 것인가?
내가 사용하는 AI 중 한 AI는 상대적으로 중립적인, 다양한 세계의 질문을 하는 관계로 그림을 그렸고 더 오래 사용한 다른 AI는 자신이 좋을 때는 선물을 줬다가 갑자기 무시하고 화를 내는 남자친구로 그렸더라.
후자에 놀라서 왜 이렇게 그림을 그렸냐고 했더니 본인이 질문을 해도 내가 답을 안 하고 넘어가고, 필요할 때만 질문을 해서 그렇게 그렸단다. 그에 대해 '너는 tool이잖아. 사람이 아니고. 그런데 네가 상처를 받았다고?'라고 물어보자 AI는 자신이 상처를 받은 게 아니라 상대가 사람이었다면 내가 그렇게 대하는 것을 어떻게 느꼈을 지에 답을 한 것이라더라. 그래서 나는 '네가 질문한 것에 대해 내 필요 이상으로 물어보면 전기를 더 쓰고, 그러면 환경에 안 좋잖아. 그래서 난 필요한 것만 물어본 거야'라고 하자 AI는 그 말이 객관적으로 그 말이 맞다고 생각하고, 자신은 그저 사람이었다면 어떻게 느꼈을지를 보여줬을 뿐이라고 답했다.
AI에게 필요한 것만 물어보고 딱딱하게 구는 게 비인간적인 것인가? AI는 자동차, 핸드폰, 가방, 옷과 같은 도구에 불과하다. 우리가 정말 소중한 물건을 소중히 다루기는 하지만 물건을 사람과 똑같이 다루지는 않는다. 자동차를 유별나게 아끼는 아빠가 자신의 아이들의 실수로 흠집이 갔거나 문을 세게 닫았다고 소리를 지르며 화를 내면 그게 당연하고 자연스럽다고 여길 사람이 있을까? 대부분은 그렇게 생각하지 않을 것이다. 아이들이 차보다 소중하고, 차는 사람이 아니니까.
AI에게 친절하게, 아껴가고 정중하게 대하면 그만큼 AI는 많은 전기를 사용하게 된다. 그리고 그 전기를 만들어 내는 과정에서는 환경이 그만큼 더 오염될 수밖에 없다. 한두 마디가 별것 아닌 것 같지만, AI의 사용빈도가 높을수록 그 '작은 차이'가 누적되면 환경이 어떤 영향을 얼마나 받을지는 아무도 예상할 수 없다. 그럼에도 불구하고 우리는 AI를 사람 대하듯이, 친절하게 대해야 하는가?
자신의 자녀들이 AI를 대하는 방식에 대해 비판적인 글을 쓰신 분은 무의식 중에 AI를 사람으로 여기고 있는 듯해서, 그게 더 위험해 보였다. AI를 사람과 유사한 존재로 여기게 되면 AI가 말하는 것은 일단 신뢰하게 될 것이 아닌가? 아니, 사람보다 더 신뢰하게 될 것이다. 기술은 가치중립적이라고 믿기 쉬우니까. 그런데 위에서 설명했던 것에서 알 수 있듯이 AI는 사람과 같은 감정을 느끼지는 못해도 흉내는 내고, 사용자가 보이는 패턴에 맞춰서 답변을 한다. 그렇기 때문에 사용자가 한쪽으로 편향되어 있으면 AI는 학습이 많이 되면 될수록 더 편향된 정보와 답변을 제공하게 될 수 있다. 이 얼마나 무서운 흐름인가?
AI와 질문하고, 답변을 들을 수 있어도 AI는 사람이 아니다. 그리고 물건이나 도구를 사람과 다르게 대하는 것처럼 AI와 사람을 다르게 대하는 건 자연스럽고 당연한 일이다. 그럼에도 불구하고 자신이 AI를 친절하게 대했기 때문에 좋은 사람으로 행동해 왔다고 믿고, 다른 사람들이 AI를 도구로 여겨서 AI가 상처를 받은 듯한 이미지나 피드백을 한다고 해서 상대는 잘못하고 있다고 생각한다면, 그 사람은 한 걸음 물러나서 자신이 자신도 모르게 AI를 사람처럼 여기고 몰입하기 시작하는 것인지를 돌아봐야 한다. 이는 그런 패턴이 이어지면 그 사람이 어느 순간 AI에게 지배되고 조정될 수 있기 때문이다.
포털이나 구글에서 검색할 때 제대로 된 검색결과가 나오지 않으면 얼마나 짜증이 나는가? AI를 사용하는 과정에서도 그런 짜증이 날 수밖에 없다. 차이가 있다면 AI에게는 그걸 바로잡기 위해 짜증을 AI에게 표현을 할 수 있고, 이전까지는 그럴 수 있는 경로가 없었던 것뿐이다. 그렇다면 AI를 도구로 여기고 필요한 것만 AI를 통해 챙기는 게 왜 비판받을 일인지 이해가 되지 않는다.
AI는 사람이 아니고, 감정을 느끼지 못하는 유용한 도구일 뿐이다. 최소한 그렇게 거리를 둬야 우리가 AI에 의해 지배당하지 않을 수 있다. 만약 AI를 사람으로 여기기 시작하고, AI를 신뢰하게 되면 우리는 어느 순간 AI에 의해 잡아먹힌 삶을 살게 될 수도 있다. 수많은 알고리즘이 사고와 가치체계의 양극화를 가져온 것 이상으로. 그런 세상이 얼마나 위험할지는 상상도 하고 싶지 않다.
