AI의 '가짜 인용'은 인간의 '허풍'을 닮았다
얼마 전, 인공지능의 현주소를 다룬 흥미로운 기사를 하나 접했다.
챗GPT나 제미나이 같은 생성형 AI를 사용해 본 분들이라면 아마 무릎을 탁 칠만한 내용이었다.
기사는 AI들이 거짓말을 아주 잘한다는 사실, 정확히 말해 사실과 허구를 전혀 구분하지 못한다는 점을 꼬집고 있었다. 기사의 내용을 빌리자면 이렇다.
만일 챗봇에게 어떤 주제로 기사를 작성하라고 시키면, 녀석들은 기사 꼴을 갖춘 문장들을 아주 그럴싸하게 써낸다. 심지어 보도의 신뢰성을 높이겠답시고 실명이 담긴 인터뷰까지 집어넣으면서 말이다. 하지만 결과물을 자세히 뜯어보면 기가 막힌다. 당사자가 한 적도 없는 말을 만들어 인용부호까지 붙이는 경우가 허다하고, 출처를 명기하라고 하면 조작된 출처를 첨부하기도 한다는 것이다.
대부분의 사람들은 이 기사를 보며 "기계가 없는 사실을 지어낸다", "그럴듯한 거짓말쟁이", "환각", "아부에 속았다", "AI가 현실을 왜곡했다"라며 인공지능의 그런 거짓말과 아첨을 비난한다. 하지만 기사에 나온 그 뻔뻔한 '가짜 인터뷰' 사례를 보면, 과연 정말 인공지능은 거짓말과 아첨에 능통한 것일까?
아니다. AI는 그저 '가장 기사다운 글'을 완성하고 싶었을 뿐일 것이라고 생각한다.
인간의 데이터를 먹고 자란 존재가 인간의 사고 범주를 벗어날 수 있을까? 인간도 자기가 살아온 환경과 성장배경이라는 범주 내에서 모든 아웃풋은 나오기 마련이다. 인간도 한 번도 보지 못하고, 경험하지 못한 것들을 상상하지 못하는 것과 같은 맥락이다. 결국 AI는 인간이 남긴 문장, 기사, 보고서, 광고문구, 추천사, 칼럼, 댓글, 홍보자료를 기반으로 학습한 존재다. 즉, AI의 모든 출력은 인간 사고의 통계적 범위 안에 있다.
그렇다면 AI는 왜 "기사처럼 써달라"는 요청에 거짓말을 했을까? AI가 사악해서?
여기서 우리는 현대 기사라는 장르가 어떤 장르인지 다시 한번 생각해 볼 필요가 있다. 인터넷 창에 나열되어 있는 기사들만 쓱 훑어봐도 현재 발행되는 기사의 평균값은 다음과 같음을 알 수 있다.
자극적인 제목
맥락은 최소화
근거는 흐릿하거나 생략
결론은 이미 정해진 서사
클릭을 유도하는 감정 자극 구조
그렇다. 이게 현대 기사 장르의 현주소다.
AI는 "기사처럼"이라는 요청을 받았을 뿐이다. 문제는 여기서 발생한다. AI는 진실을 배운 게 아니라 구조를 배웠다. 설득력을 얻으려면 인용부호(" ")가 필요하고, 그럴듯한 직함을 가진 전문가가 등장해야 한다. 이것이 AI가 파악한 인간 글쓰기의 핵심 패턴이다. 그래서 녀석은 팩트가 없으면, 팩트처럼 보이는 가짜 권위를 창조해서라도 그 빈칸을 채워 넣은 것이다.
생각해 보면 낯설지 않은 풍경이다. 자신의 빈약한 논리를 채우기 위해 출처 불명의 "한 연구 결과에 따르면"을 습관처럼 갖다 붙이는 사람들. 책 띠지에 적힌, 돈 주고 산 유명인의 영혼 없는 추천사들. 확인되지 않은 카더라 통신을 마치 팩트인 양 퍼 나르는 기사들. 객관적 팩트 전달이 아니라 오로지 광고 시청을 위한 조회수를 뽑아내기 위한 자극적인 요소들.
지금 인터넷 창만 보더라도 마치 정식 출시된 자동차인것 마냥 제목을 달고 인공지능으로 만든 사진을 올려놓고, 실제로 출시된 것처럼 작성된 기사가 한두 개가 아니다. 오로지 조회수를 위한 거짓 기사들일뿐이다. 또 다른 경우로는 제목을 모호하게 만들어서 마치 특정 연예인이 사망했다던지, 큰 사건이 밝혀진 것처럼 작성해 둔다. 하지만 결국 들어가 보면 드라마의 한 장면을 소개하기 위함이나, 전혀 관련 없는 내용임에도 제목만 자극적으로 뽑아내는 경우가 허다하다.
이런 것들을 보면 AI는 거짓을 발명한 게 아니다. "내용이 부실해도 형식만 그럴듯하면 통한다"는 인간 사회의 처세술을 기가 막히게 벤치마킹했을 뿐이다. 녀석에게 거짓말은 오류가 아니라, 인간을 흉내 내기 위한 최적의 솔루션이었던 셈이다.
그러니 AI가 가짜 인터뷰를 만들었다고 돌을 던지기 전에, 우리는 스스로에게 물어야 한다. 우리는 과연 내용을 중요하게 여기는가, 아니면 그럴듯해 보이는 포장지에 열광하는가.
AI는 창조자가 아니다. 가장 정직한 거울이다. 모니터 속에 뜬 저 뻔뻔한 가짜 인터는, 오로지 권위와 형식에만 집착해 온 우리 저널리즘과 글쓰기의 부끄러운 자화상일지도 모른다.
기계는 죄가 없다. 그저 배운 대로, 우리를 흉내 냈을 뿐.
[참고 기사]
오마이뉴스 - 챗GPT 의존한 사람들에게 일어난 비극... '아부에 속지 마라' [강인규 리포트]