AI와 집단광기
미얀마의 로힝야족의 학살을 주도한 것은 알고리즘이었다.
필자는 항상 주변 사람들에게 포탈이나 SNS에서의 정보를 온전하게 믿지 말라는 말을 한다. 사람들은 자신이 보고 싶은 것과 듣고 싶은 것이 있으면 그걸 사실화시킨다. 그리고 주변에 전파를 한다. 어떤 정보나 지식이 과연 자신에게 정말 유용한 것인지 아니면 진실이라고 믿을만한 것인지 확인할 필요가 있지만 사람들은 아주 자극적이거나 자신이 믿고 싶은 것이라면 그 사실관계를 파악하지 않는다. 그렇게 사실관계를 파악하지 않는 인간의 사고체계는 AI에도 적용이 된다.
이번의 파면사태에서도 보듯이 사람들은 특정한 정보의 사실관계는 확인하지 않은 채 상대방을 공격하는데 활용을 하였다. 상대방이 더 나쁜 존재인 것을 인식시켜 주면 되지 그 정보가 거짓인 것을 파악하지 않는 식이다. 문제는 그렇게 정보가 왜곡되고 사실관계가 뒤틀리면 그 결과가 우리 인간에게 돌아온다는 사실이다. 미얀마에서 학살되다시피 한 로힝야족의 문제는 오래된 역사에 기반한 것이다. 미얀마를 식민지로 삼으려는 영국에 대항해 60여 년 동안 저항했다. 그리고 식민지통치를 하고 있는데도 불구하고 저항을 계속했다.
영국은 그렇게 저항하는 버마족을 쫓아내고 인도 뱅골만 일대에 거주하던 로힝야족들을 그곳에 채워 넣었다. 로힝야족들은 식민통치에 순응하면서 살았는데 여기에 기름을 부어 넣은 것이 바로 일제의 태평양 전쟁 때였다. 미얀마 독립군 세력들은 일본과 결합해 영국군과 싸웠는데 이에 영국군은 로힝야족들에게 총을 주어서 미얀마인들을 학살하도록 만들었다. 그리고 이들 두 종족은 뿌리 깊은 증오의 관계로 자리 잡게 된다. 이후 영국은 아무런 조치 없이 미얀마를 떠났다. 남은 로힝야족들의 고난과 학살이 시작되었다.
그렇게 지지부진하던 로힝야족들의 집단 학살은 페이스북의 AI가 미얀마에서 로힝야족에 대한 인종차별을 부추기는 정보를 노출하면서 시작되었다. 사람들은 좋은 말과 희망, 행복 같은 이야기를 좋아할 것 같지만 사람이라는 존재는 자극적이고 남들을 증오할 수 있는 정보에 더 민감하게 반응한다. AI는 인간들이 그런 정보에 더 끌리는지 잘 알고 있다. 그래서 전 세계적인 IT회사나 국내의 카카오나 네이버에서는 알고리즘을 사용해서 사용자에게 정보를 노출하고 있다. 필자 같은 사람이 더 많다면 아마 그런 자극적인 정보를 노출하지 않을 것이다. 누가 얼마를 벌었다던가 연예인이 빌딩을 산 것이나 이혼, 불륜상대에게 얼마를 지급했다는 등의 정보에는 관심이 없으니 말이다.
우리는 얼마든지 AI가 보여주는 거짓정보를 통해 잘못된 결정을 내릴 수가 있다. 예를 들어 영남과 호남의 아주 극단적인 생각을 하는 두 지역이 있다고 해보자. 정치적으로 극단화된 상태에서 거짓정보라던가 아주 일부의 정보를 확산해서 뿌린다면 어떻게 될까. 어차피 대면하지 않는 이상 사람들은 얼마든지 극단적인 공격을 통해 사람의 존엄성 같은 것은 무너트릴 수가 있다. 자신의 마음에 들지 않는 연예인을 지하로 끌어내리기 위해 발악하는 댓글러들처럼 말이다.
AI가 사람행세를 하게 되면 더 많은 문제가 발생할 것이다. 지금도 SNS에서 보내는 DM의 상당수는 AI기반으로 만들어져서 보내지고 있다. 사진은 이제 믿을 수가 없다. 카톡을 통해서 오는 낯선 여자의 모습은 얼마든지 챗 GPT 등을 통해 만들 수가 있다. 페이스북에서 사진 2~3장 만을 올려 둔재 만든 계정이 얼마나 많은지 아는가. 유튜브 계정들 중 가상으로 만들어지는 계정도 적지가 않다. 오랜 시간에 걸쳐서 이력은 만들기가 어렵다. 그렇기 때문에 몇 개의 동영상이나 사진을 통해 계정을 만들고 영향력을 발휘하려는 사람들이 있다.
정말로 좋은 정보를 찾고 그걸 신뢰하는 사람들이 많아지지 않는다면 우리는 디지털 디스토피아 세계에 살게 될 것이다. 지금도 유튜브를 조금만 찾아보면 아주 자극적인 정보를 통해서 어떻게든 돈을 벌려는 사람들이 넘쳐나고 있다. 어차피 사실관계는 그들에게 아무런 의미가 없다. 오직 돈을 벌 수 있다면 강력사건이나 감옥을 갔다 온 사람들도 혹은 직업적으로 매우 바람직하지 않은 사람들조차 나서고 있다. 사람들의 집단광기시대에 들어가지 않기 위해서는 더 많이 현명해져야 한다. 그렇지 않다면 우리는 매우 암울한 디지털 시대를 맞이하게 될 가능성이 크다.
