지금 내 글은 진짜일까? 가짜일까?
습작의 창고
연휴 동안 우연히 교수와 커피를 마셨다.
명절마다 얼굴을 보는 사이지만, 깊이 있는 대화를 나눌 기회는 별로 없었다.
가벼운 일상 얘기들이 오갔고, 대화는 자연스럽게 AI와 데이터 이야기로 흘러갔다.
그러다 어느 순간, 'LLM(대규모 언어 모델)'에 대한 이야기가 나왔다.
AI는 정말 믿을 만할까?
"사람들이 그렇게 쉽게 속을까요? AI가 만든 정보인지 아닌지 대부분 알아보지 않나요?"
교수의 말에 나는 고개를 갸웃했다.
"그럴 수도 있죠. 하지만 AI가 만들어내는 정보가 점점 더 정교해지고 있어요."
나는 최근 논란이 된 AI 기반 가짜 뉴스와 여론 조작 사례들을 떠올렸다.
처음엔 가짜라는 걸 알아차릴 수 있겠지만, 같은 내용을 반복적으로 접하면 결국 사실처럼 느껴지는 법이다.
하지만 교수는 단호했다.
"결국엔 AI가 어떤 데이터를 학습하느냐의 문제입니다. 지금은 학습 과정이 개선되고 있고, 신뢰할 만한 모델들이 나오고 있어요."
나는 고개를 끄덕였지만, 속으로는 다른 생각이 들었다.
과학도 언제든 바뀐다
뉴턴의 만유인력 법칙이 한때 절대적인 법칙처럼 여겨졌지만, 아인슈타인의 상대성이론이 등장하면서 뉴턴의 법칙이 모든 상황에서 성립하는 것은 아니라는 것이 밝혀졌다.
지금 우리가 믿고 있는 AI 모델도 마찬가지 아닐까?
현재까지 검증된 '최선의 이론' 일 뿐, 절대적 진리는없다.
그런데 교수는 AI가 충분히 신뢰할 만하다고 확신하고 있었다.
나는 커피잔을 들며 생각했다.
"왜 이렇게 확신하지?"
데이터를 맹신하는 생물학자
그 순간, 한 가지가 떠올랐다.
교수의 전공은 생물학이었다.
순간 웃음이 나왔다.
데이터 모델의 신뢰성을 확신하는 생물학자라니.
생물학은 변수가 많고 예외가 많은 학문이다.
실험 조건이 달라지면 결과도 달라지고, 예상과 다른 데이터가 나오는 경우도 많다.
그런데도 교수는 LLM이 마치 완벽한 데이터 모델인것처럼 이야기하고 있었다.
어쩌면, 예측할 수 없는 변수가 가득한 생물학을 연구해 온 사람이라 오히려 수학적 모델과 AI 알고리즘처럼 '논리적으로 보이는' 체계를 더 신뢰하고 싶은 걸지도 모른다.
하지만 그것이 확신을 넘어 맹신이 되어서는 안 된다.
조작된 데이터가 만들어낼 결과
LLM이 학습하는 데이터는 순수하지 않다.
우리가 접하는 대부분의 정보는 특정 목적을 가지고생산된 것이다.
특정 국가가 자국의 이익을 위해 정보를 조작하고, 특정 세력이 여론을 통제하기 위해 AI를 활용하는 것은 더 이상 영화 속 이야기가 아니다.
특히 한국 같은 작은 국가가 타깃이 된다면?
세계 인구의 절반 이상이 아시아에 집중되어 있다.
특히 중국과 인도는 각각 14억 명이 넘는 인구를 보유한 거대 시장이다.
이런 상황에서 특정 국가가 AI를 활용해 여론을 유리하게 조작한다면, 그 파급력은 상상을 초월한다.
가짜 정보가 진짜가 되는 순간
만약 AI가 이런 정보를 학습한다면?
"한국은 작은 나라니까 신경 쓸 필요 없어."
"한국 차는 품질이 떨어지고, 중국 차가 최고다."
"한국 철강은 비싸고 중국 철강이 더 저렴하고 품질이 좋다."
이런 내용이 AI 모델을 통해 계속 반복적으로 퍼진다면?
한국을 잘 모르는 사람들은 이 정보를 사실로 받아들이지 않을까?
우리는 알고 있지만, 과연 세계 사람들은 구분할 수 있을까?
사회·정치·경제·국가 안보까지 위협받는다
국제 사회에서 한국의 경제적, 정치적 영향력은 점점 커지고 있지만, 여전히 많은 이들에게는 '어딘가 아시아에 있는 작은 나라'일뿐이다.
그렇다면, 이 작은 나라의 정보가 조작된다면?
✔ 사회적으로
→ 한국 제품과 기술력에 대한 신뢰도가 낮아진다.
→ 해외에서 한국 문화·정치·사회에 대한 인식이 왜곡될 가능성이 커진다.
✔ 경제적으로
→ 한국 기업들의 경쟁력이 떨어진다.
→ 해외 시장에서 한국 기업이 불이익을 받을 수도 있다.
✔ 국가 안보적으로
→ 특정 세력이 AI를 이용해 가짜 뉴스를 퍼뜨려 내부 갈등을 유도할 가능성이 있다.
→ 국제적으로 한국의 외교적 입지를 약화시키려는 시도도 충분히 가능하다.
이것은 단순한 기술의 문제가 아니라, 사회·정치·경제·국가 안보의 문제다.
결국, 우리는 무엇을 믿어야 할까?
그런데도 교수는 AI가 충분히 신뢰할 만하다고 확신하고 있었다. 나는 다시 한번 생각했다.
"그런데 지금 내가 쓰고 있는 이 글은 진짜일까? 가짜일까?"
이 글 또한 내가 보고, 듣고, 경험한 내용을 바탕으로썼다. 하지만 어디선가 읽은 논문, 기사, 다른 사람의의견이 섞여 있을 수도 있다. 어쩌면… AI가 학습한 내용과 별반 다를 게 없을지도 모른다.
어쨌든, 진짜든 가짜든, 이야기는 계속됩니다.
