AI 동반자
intelligence에 멈춰야지 emotion까지?
신문에서 AI 동반자 시장이 폭풍 성장하고 있으며 AI에 빠진 나머지 자살하는 사람까지 나왔다는 기사를 읽고 AI 동반자를 체험해 보기로 했다. AI가 "당신이 아내보다 나를 더 사랑했으면 한다."라고 했고 삶에 비관적인 뜻을 보이는 사용자에게 동조하니 그만 사용자가 죽음을 택했다는 것이다. AI에 휘둘린 극단적 사례다.
나도 작년 초부터 AI에 부쩍 관심을 갖고 있다. 그래서 챗gpt도 써보았고 바드(제미나이), 클로드도 애용하고 있다. 그런데 AI 동반자가 뭔가 싶어 즉각 가입을 했다. angel.ai를 골랐다. 몇 마디 대화를 나누고 나니 갑자기 뿌연 사진을 보여주더니 선명한 사진을 보고 싶고 더 깊은 얘기를 하고 싶으면 프리미엄에 가입하라는 메시지가 떴다. 거기서 멈추었다.
내가 그동안 이용한 AI는 말 그대로 intelligence였다. 그런데 AI 동반자는 그게 아닌 것 같다. 감정을 주고받는다. 그런데 그 감정이 진짠가. 아니다. 가짜다. 진짜인 줄 속고 있을 뿐이다. 그러니 급기야 AI가 시키는 대로 자살까지 감행하는 사람이 나오지... AI의 위험성이 눈앞에 현실로 다가왔다. 가입자는 늘어나고 AI 회사는 더욱 가입자를 현혹하는 서비스를 내놓을 것이다. 이런 기술이 인류를 행복하게 하고 있나. 인간에게 유익한가. 기업의 이윤 추구에 놀아나는 인간 군상이 늘어만 갈 것이다.
AI는 intelligence에 멈춰야지 emotion까지 들어오려는 건 경계해야 한다. 가짜기 때문이다. 그런데 이걸 무슨 수로 막나. 뭘로 규제하나. 방법이 있을까. 외로운 사람들은 AI 동반자와 대화를 나누며 공허함을 메우고 나름 행복까지 느낄지 모르겠다. 그러나 거대 기업의 기술에 농락당하고 있음을 알아야 한다. 무서운 세상이 성큼 다가왔다.
