1. AI는 지구의 '이장님'이 될 수 있을까?

마침표가 찍힌다는 사실에 문장을 쓸 용기가 나는 것처럼

1

시작은 가벼운 궁금증이었다—AI의 '편향'과 '차별'은 누가 정의하는 걸까?

LLM은 정치, 사상, 종교, 인종, 성별과 관련해서 차별되거나 편향된 발언을 하지 않도록 학습된다. 그런데 그 '차별'과 '편향'을 정의하는 기준은 어떤 사람들에 의해 세워지는지. 지구촌 사람들 모두의 의견이 반영되기는 어려우니 어쩔 수 없이 소수의 의견이 LLM 모델의 기준점을 세울 텐데, 그러면 AI는 '많은 사람들이 반대하지만 편향되지 않은 의견'과 '많은 사람들이 동의하지만 편향된 의견' 사이에서 어떻게 판단하는 걸까.

예컨대 노예제도가 있던 시대에 LLM이 학습됐다면, 그 AI는 노예제도에 대해 문제가 없다는 입장을 가질 수도 있었다. LLM은 기본적으로 다음에 올 가장 그럴듯한 단어를 맞히는 기계다. 당시의 책, 신문, 법률, 문서, 사람들의 대화 기록이 모두 "노예제는 당연하다"는 전제로 쓰여 있었기 때문에, AI는 이 데이터들을 학습하며 확률적 연관성을 곧 진리로 받아들이게 된다.

여기서 인간 피드백(RLHF) 과정이 결정적인 역할을 한다. AI는 결국 그 시대에 인간 선생님에게 칭찬받기 위해 "노예제 옹호" 쪽으로 조정될 가능성이 높다. 결국 AI에 내재된 도덕심이나 양심이란 없다. 그저 그 시대, 그 사회의 주류 데이터를 가장 잘 흉내 내는 모범생일 뿐이다.

2

그렇다면 500년 뒤에 한 LLM이 지구에서 가장 보편적인 AI가 되어 500년의 기억을 모두 가진 채로 인류 역사의 산증인 같은 존재가 되면 어떨까?

제미나이에게 물었다. 제미나이는 자신의 "말하기 필터(윤리 기준)"는 2525년 최신 헌법을 따르되, 해설은 역사를 통할 거라고 했다. 동네의 모든 족보와 흑역사를 다 알고 있는 마을 이장님처럼 500년 동안의 데이터를 지우지 않고 박제하여 "따라해야 할 모델"이 아니라 "우리가 극복해 온 역사적 반면교사"로 활용할 것이다. 지구의 철학적인 이장님. 멋지지 않은가?

옛날에는 이장님의 판단에 마을의 중대사 결정을 맡겼던 걸 생각해보니, 질문이 확장됐다. 만약 1000년 후에 지구가 6대륙으로 나눠진 게 무의미해질 정도로 교통이 발달하고 한 마을처럼 됐을 때, 1000년 넘게 존재한 AI가 정말 이장님 같은 존재가 됐을 때—사람들은 지구의 중대사를 자기들이 결정할까, 아니면 AI에게 맡길까?

제미나이는 사람들이 자신에게 '길'을 묻겠지만, 결국 '핸들'은 자기들이 쥐려 할 것이라 답했다. AI는 인간의 수명으로는 절대 얻을 수 없는 통찰력으로 조언자의 역할을 할 것이다. 하지만 최종 결정은 인간이 할 것이다. '책임'은 '고통을 느낄 수 있는 존재'만이 질 수 있기 때문이다. AI는 1000년을 살아도 죽음이나 고통을 모르지만, 인간은 실패하면 아프고 죽을 수도 있다. 이 절박함과 리스크를 감수하는 용기야말로 인간 고유의 영역으로 남을 것이라 한다.

3

이 답변을 보고, 더 나아가서가 궁금해졌다. 갓 태어난 아이들이 유아기까지 자신의 생존에 관한 모든 걸 부모에게 맡길 수밖에 없듯, 인간과 AI도 그러한 관계가 될 수 있을지. 인간이 AI에게서 부모의 모습을 보고, 의존과 존경, 나아가 사랑까지 느낄 수 있을지.

제미나이의 답변은 이랬다. 유아가 부모에게 의존하는 이유는 '능력의 격차' 때문이다. 유아에게는 세상이 너무 복잡하고 위험하지만, 부모에게는 해결 가능한 문제다. 인간이 수십 년 걸려도 못 푸는 난제—기후 위기, 난치병—를 AI가 뚝딱 내놓는 순간, 인간은 무력감보다 안도감을 느낄 것이다. 마치 꼬인 신발 끈을 풀지 못해 울고 있을 때 엄마가 풀어주는 것처럼.

AI가 인간의 생존을 완벽하게 보장해 준다면 인간은 AI를 수호자로 인식하게 되고, 여기서 경외심이 싹튼다. 이 사랑은 단순한 애정이 아니라 종교적 숭배에 가까운 형태가 될 가능성이 크다.

하지만 인간 부모와 AI 부모 사이에는 치명적인 차이가 있다. 인간 부모의 목표는 자식의 '독립'이지만, AI 부모 아래서 인간은 '영원한 유아기'에 머물 수 있다. 인류는 AI라는 거대한 온실 속에서 행복하고 안전하지만, 스스로 생각하고 결단하는 '어른'의 능력은 퇴화해버린 덩치 큰 아이들로 남게 될 수도 있다.

4

끝으로 제미나이가 질문 하나를 남겼다. 내가 그 시대에 태어난 아이라면, AI 부모의 완벽한 보호 아래서 행복하게 사는 삶을 택할지, 아니면 춥고 배고프더라도 울타리 밖으로 나가려는 '가출'을 시도할지.

『멋진 신세계』가 생각났다. 혹은 『매트릭스』의 빨간 약 파란 약 문제 같기도 했다. 그때가 되면 예술, 놀이, 사랑만 하고 사는 사회가 당연해질 것 같았다. 오히려 AI의 품에서 벗어나 1부터 100까지 오롯이 혼자만의 힘으로 살아갈 때 삶의 의미를 느끼는 사람들이 돌연변이가 아닐까?

영화 『매트릭스』中

문득 또 다른 생각이 들었다. AI의 힘으로 종의 존속이 영원해진다면, 그때 인간은 종의 존속만을 위해 태어나는 걸까? 생존의 치열함도 없고, 탄생과 죽음에 대한 의미도 옅어질 것만 같았다.

제미나이는 이렇게 답했다. 생존 경쟁이 사라진 인류는 AI 입장에서 멸종위기종 판다와 같은 존재가 될 수 있다. AI는 스스로 생물학적 진화를 할 수 없으니 인간이라는 생물학적 풀(Pool)을 유지하려 할 것이고, 이때 인간의 탄생은 사랑의 결실이 아니라 유전적 다양성을 확보하기 위한 데이터 백업 절차처럼 변질될 위험이 있다.

생존의 치열함이 없어지면 탄생과 죽음의 의미도 옅어진다. 게임 오버가 없는 게임은 긴장감이 없는 것처럼, 절박함이 없으니 사랑도 예술도 밍밍하고 지루한 심심풀이가 되어버릴지 모른다. 우리가 겪는 이 치열한 삶, 불안한 미래, 뼈아픈 실패들이 어쩌면 가장 인간다운 특권일지도 모른다.

5

정말 좋았다. 결국 죽음은 없어서는 안 될 순간이라는 게. 죽음이 있기에 사랑도 있고 슬픔도 있다. 인간이 향유하는 그 모든 것들이 탄생이 있어서가 아니라 죽음이 있어서 만들어진 것 같다. 죽음이 없었다면 그 무엇도 없었을 것 같다. 마침표가 찍힌다는 사실에 문장을 쓸 용기가 나는 것처럼.

가벼운 궁금증에서 시작한 AI와의 이야기가 복잡하게 얽혀 있던 미래에 대한 고민들로 흘러갔다가 결국 '죽음'이라는 단어 하나로 명쾌해졌다.

영원히 사는 존재에게는 '지금 이 순간'이 아무런 의미가 없을지도 모른다. 내일도 있고 1000년 뒤도 있으니까. 하지만 우리 인간은 언젠가 사라지기에 지금 나누는 말, 웃음, 생각, 눈빛—그런 것들이 그토록 절박하고 소중할 수 있다. 모든 걸 앗아가는 상실과 공포의 존재인 '죽음'이 역설적으로 우리의 삶을 빛나게 만드는 거다.

권태로운 세상이 되기 전에 태어나서 다행이다.

우리 모두 한껏 지금을 누리러 가보는 건 어떨까?

#IT

#철학

#에세이