빛나는 GPT의 그림자

바야흐로 GPT의 시대이다. 편지를 쓸 때도, 독서를 할 때도, 심지어 그림을 그릴 때도 사람들은 GPT를 사용한다. 체감상으로는 핸드폰이 처음 나왔을 때보다도 더 빨리 사회 전반에 퍼지는 것 같다. 매일 이걸 사용하는 나도, 많은 시간을 단축하고, 익숙하지 않은 영역에서 글을 찾고 작업의 아웃라인을 잡는데 매우 유용하다고 생각한다. 2~3년 안에는 우리 국민의 대부분이 사용하는 포털에 있는 기사나 댓글 중 절반 이상은 GPT를 거쳐 쓴 글일 것만 같다.

GPT는 ‘사람들이 할 법한 말’을 나열한다. 나는 컴퓨터 공학자가 아니므로 전문적인 설명은 내 능력을 벗어나지만, 내가 이해한 large language model의 작동 원리는 다음과 같다. 누군가 ‘abc’를 들었다면, 그 사람은 ‘def’를 말할 확률이 높다. 그런데, 누군가 ‘싸움이 한창이니, 내 죽음을…’을 들었다면, 그 사람은 왜의 총탄을 맞고 쓰러져가는 이순신 장군을 떠올리며, ‘적에게 알리지 말라’라고 답해야 한다. 이런 답을 하려는 사람은 수 많은 책을 읽고, 질문자의 의도를 파악해서, 문맥과 상황에 맞는 답을 주어야 한다. 그러기 위해서는 방대한 양의 텍스트를 반복해서 학습하고, 수천 억 개의 변수를 가중치를 달리하여 다음에 나올 확률이 높은 말을 예측하고, 사람들의 반응을 다시 학습해 정말 사람들이 ‘듣고자 하는’ 답변을 내놓아야 한다. 하드웨어의 엄청난 발전은 엄청난 횟수의 연산이 가능하게 되었고, 결국 인간의 언어를 단위로 쪼개어 (Tokenization이라고 함) 다음에 나올 단위를 예측하여 ‘자연스럽게’ 이어 붙이는 일을 해내고야 말았다.

하지만, 많은 사람들의 생각이 GPT에 잠식되어 갈수록, 여러가지 문제가 생길 수 있다. 먼저, 특정한 사안에 대한 사람들의 생각이 하나로 수렴될 수 있다. GPT의 글을 읽고 그것을 통해 글을 쓰게 되면, 사람들 뿐 만 아니라, GPT도 또한 그걸 학습하고 점점 한 쪽으로 결론이 치우치게 될 수가 있다. 2008년 리먼브라더스 금융 위기 때 모두가 집값이 오른다고 희망회로를 돌렸던 것처럼, GPT의 글은 사회의 위기와 블랙스완을 더 자주 불러일으킬 수 있다.

두 번째는 확증편향의 자동화다. 벌써 많은 사람들이 주위 사람들과 얘기하기 보다는 GPT에 먼저 물어본다. 그런데 GPT는 질문에 맞춰 설득력 있는 응답을 위해, 논박보다는 동조화에 특화되어 있다. 의견이 서로 다른 사람들이, “내 편 AI”를 통해 본인의 의견을 강화하고 대화의 여지를 닫으면, 안 그래도 지금 극단으로 치닫고 있는 정치 갈등은 훨씬 더 증폭되게 된다. 이는 생산적인 논증보다는 확증 편향을 정제하여 강화하는 민주주의의 ‘독’이 된다.

세 번째로, 누군가는 여론 조사를 다른 누구보다도 정확하게 해 낼 수 있다. 수 많은 글, 게시글, 뉴스, 댓글, 질문, 사진을 모아서 학습하면 사회적 ‘공기’를 실시간으로 학습할 수 있다. 그리고 마음만 먹는다면, ‘그 누군가’는 본인이 원하는 대로 여론을 교묘하게 조작할 수 있다. 드루킹이 무식한 형태의 댓글 조작이었다면, GPT를 이용한 글은 진짜로 일반 사람이 쓴 것 같은 글을 만들어 낼 수 있다. “아직 정치적 결정을 내리지 못한 중도 계층의 사람이 쓴 것 같은, 그것도 말투와 논리가 자연스러운 글”을 수천개를 만들어 여기저기 뿌린다면 과연 대중이 거기에 영향을 받지 않을 수 있을까.

마지막으로, GPT를 잘 쓰는 사람과 그렇지 못한 사람, 나아가 이 서비스를 제공하는 사람과 사용하는 사람들 사이에서 어마어마한 차이가 발생하게 된다. 조선시대에는 글을 읽을 수 있는 사람이 양반이었다면, 새롭게 오는 AI시대에는 AI로 도구를 만들고 그것을 활용할 교육 수준과 언어 능력을 갖춘 사람이 ‘양반’이 된다. 그리고 open AI처럼 GPT 서비스를 공급하는 기업은, 전 세계 지식 흐름의 방향과 속도를 통제할 수 있으므로, 지식 독점 나아가 권력 독점이 가능하게 된다.

GPT의 깔끔한 답안은 처음엔 나에게 감탄을 자아냈지만, 곰곰이 생각할수록 소름끼치는 공포로 다가온다.