챗봇의 습격. 지식iN이 위험하다
허위정보의 범람
ChatGPT를 시작으로 bing AI, Bard 등 많은 챗봇이 출시되었습니다. 이를 통해 사람들은 본인이 원하는 정보를 더 쉽게 찾을 수 있게 되었고 많은 분야에 활용되고 있습니다. 단순 정보 제공에서 끝나지 않고 마치 사람이 답변을 하는 듯한 느낌을 준다는 것이 특징이죠.
하지만 여러 가지 문제도 발견되었는데 이 중 챗봇의 존재 의의 자체를 부정하는 수준의 문제도 있었죠. 바로 제공되는 정보의 정확성입니다. ChatGPT의 경우는 이미 거북선 라이트닝 볼트 시스템 같은 소설 속에도 등장하지 않을 것들에 대한 정보를 거침없이 쏟아내는 등의 문제로 조롱의 대상이 된 적도 많고 bing AI 또한 부정확한 정보를 제공하는 경우가 아직 많습니다. Bard의 경우는 제가 사용한 후기로는 아직 써먹는 게 불가능한 수준의 처참한 완성도를 보여줍니다. 더 큰 문제는 이런 것들을 마치 진실인 양 답변해 준다는 겁니다. 그 때문에 답변을 보는 사람이 처음부터 정답을 알고 있거나 알고 있는 지식에 어긋나는 답변을 하는 게 아니라면 이렇게 만들어진 허위사실을 진실이라고 믿게 될 수 있다는 겁니다.
그리고 이런 점들이 결합하여 네이버 지식iN에는 새로운 문제점이 생겼습니다. ChatGPT의 답변을 그대로 복붙 하는 답변자들이 생겨난 것인데요. 사실 ChatGPT에 대해 알고 있고 몇 번이라도 질문을 던져 본 사람이라면 답변의 형식만 봐도 ChatGPT의 느낌을 강하게 받을 수 있지만 그것이 중요한 것은 아닙니다.
질문자는 정답을 모릅니다. 그렇기 때문에 질문을 했겠죠. 그리고 ChatGPT는 뭐든지 그럴듯하게 말하는 능력이 있습니다. 말하고 있는 정보가 허위사실일지라도 말이죠. 그 때문에 질문자는 이런 챗봇이 만들어 낸 그럴듯한 허위사실에 현혹되기 쉽습니다. 간결하고 정확한 정보보다 장황하게 설명된 그럴듯한 허위사실이 아무런 정보가 없는 사람들에게는 진짜처럼 보이기 쉽다는 겁니다. 그렇다면 챗봇이 만든 허위사실이 채택이 될 가능성이 높아지고 이는 지식iN의 신뢰성을 더욱 떨어뜨리죠.
지식iN이 가진 룰렛 이벤트는 이런 문제를 더욱 심화시키는데 답변 횟수 3회당 1회씩 주어지는 룰렛 시스템 상 그냥 보이는 대로 ChatGPT 켜서 물어보고 답변 던져놓고 룰렛 기회만 받아먹는 경우도 많습니다. 작정하고 이런 목적으로 사용할 경우 심하게는 언어 모델의 한계를 언급하며 답변할 수 없다고 말하는 ChatGPT의 답변까지 무지성으로 붙여 넣는 경우도 나올 정도입니다. 제가 본 경우 중에는 한국어 질문에 굳이 영어로 물어본 것인지 Sorry로 시작하는 답변도 보이더군요. 답변이 불가능한 영어 질문에서 ChatGPT가 자주 보여주는 패턴이죠.
물론 예전에도 이런 문제는 있었습니다. 예전에도 허위사실을 그럴듯하게 말하는 사람은 있었고 룰렛 이벤트의 문제점도 예전부터 지적이 되어왔죠. 예전에도 질문자는 정보가 없는 사람이었고 그렇기 때문에 허위사실에도 잘 속아 넘어갔습니다. 하지만 챗봇의 등장이 지식iN에 주는 영향이 더 큰 이유는 챗봇들 자체만으로 지식iN보다 정보를 얻기 더 쉬운 모델인 것도 있지만 무식한 사람이 활개를 치기 더 좋은 환경이 되었다는 겁니다. 정말 아무것도 모르면 답변을 지어내기도 어렵지만 그럴듯하게 지어낸 답변이 키보드 좀 두들기면 바로 생성되니 거리낌 없이 복사해서 붙여 넣을 수 있게 되죠. 그리고 답변의 내용을 보고 챗봇의 답변임을 눈치챌 수 있는 수준의 사람이라면 애초에 챗봇한테 그 질문을 하지 않았을까 생각해 봅니다. 그게 안 되는 사람들이니 이런 챗봇이 만들어낸 허위사실에 잘 속아 넘어가는 것이겠죠.
저는 챗봇이 아무리 발전해도 정확도 100%의 답변을 할 수는 없다고 생각됩니다. 그걸 하려면 개발진들이 엄청나게 갈려나갈 겁니다. 인터넷에 올라온 정보들은 당연히 잘못된 정보들도 많이 섞여있고 그 중에는 상당히 그럴듯하게 만들어진 정보들도 많죠. 이런 걸 일일이 걸러내야 하는데 그것이 100% 가능한 것일까요? 최대한 정확도를 높이는 방향으로 개발이 되고는 있습니다만 100% 확신하기는 어려울 겁니다. 정보의 교차검증이 필요한 이유이기도 합니다만 과연 그럴 사람이 얼마나 될 지 모르겠네요. 최소한 이 글을 보시는 분들만이라도 정보의 교차검증을 확실히 해서 허위사실에 속아넘어가지 않는 사람이 되도록 합시다.
