현대적 재료에 덧씌워진 전근대적 모성 알고리즘
"굿뉴스"를 재미있게 본 여파로 "대홍수"를 별다른 정보 없이 틀었다. 제목만 보고 재난물이라 짐작했다. 하지만.
'AI 연구소'라는 단어가 등장하는 순간, 뭔가 이상했다. 사전 정보 없이 본 관객이라면 누구나 그 지점에서 비슷한 위화감을 느꼈을 것이다. 재난 상황에 필수적으로 챙긴 약의 수상한 생김새, 그리고 결국 연구소에서 만들어진 '생물'로 밝혀지는 아이. 영화는 재난이 아니라 특정 인격을 창조하는 실험에 관한 이야기였다.
주인공 여자의 티셔츠 숫자는 2에서 100으로, 200으로, 어느새 천 단위를 넘어간다. 봉준호 영화 속 미키들보다 훨씬 빠른 속도다. 동일한 재난을 반복하며 여자는 점점 더 정확하고 기민해진다. 아이를 구한다는 목표는 선명해지고, 행동은 치밀해지고, 때로는 주변과 협력하기도 한다. 생을 거듭하며 이전 행동을 수정해가는 전형적인 회귀물 패턴이다.
2025년 현재, 회귀물은 흔한 소재다. 다만 내가 익숙한 회귀물 속 주인공은 본인의 생존을 위해서, 혹은 소중한 사람을 지키기 위해 행동한다. 그래서 손에 땀을 쥐며 주인공을 응원하게 된다. 그러나 이 영화는 다르다. 이 영화의 주인공은 '주입된 목표'를 달성해야 한다. 그 과정에서 본인의 생존과 소중한 사람을 지키려 행동하긴 하지만, 그 뒤에는 인류 생존을 위한 완벽한 모성의 재연이라는 거창한 배경이 있다. 그 때문인지 주인공에 감정이입하며 응원하기보다는, 한 발짝 떨어진 관찰자 시각으로 보게 되었다. 정확히는 개발자의 시각으로.
나는 최근 몇 주 간 파인튜닝 작업을 하며 목적에 맞는 프롬프트와 데이터셋을 끊임없이 수정했다. 파인튜닝이란, 간단히 말해 ChatGPT 같은 AI 모델을 내가 원하는 기능에 특화되도록 훈련시키는 과정이다. 이론적인 내용을 빼고 심플하게 설명하자면, 내가 원하는 형태의 input과 output을 결정하고, 내가 원하는 결과를 내기 위해 가급적 많은 데이터셋을 주입해 훈련시킨다.
이 영화로 비유하자면 이렇다. 시스템 역할로 "너는 모성이 넘치는 엄마다. 모성은 아픈 아이에게 약을 꼬박꼬박 투여하는 것이다"라고 알려준다. input으로 "내가 곧 죽을 수도 있고 날 도우려 온 사람들이 빨리 가자고 재촉하는데, 아이가 무척 아파서 발작하고 있다"라고 입력한다. output으로는 "아이가 빨리 낫는 게 제일 중요하므로 가능한 모든 방법을 써서 아이에게 약을 만들어 먹인다"를 입력해 숙지시킨다.
나는 파인튜닝을 할 때 8만 개의 데이터를 3번 반복 학습해서 돌렸다. 한 번에 원하는게 나오지 않아서 밤마다 새로운 방법으로 데이터를 다시 만들고, 프롬프트도 새로 만들어서 테스트 했다. 여자가 처한 상황은 마치 파인튜닝의 과정과 비슷하다. 정답 확률이 높아질 때까지 계속 학습을 반복한다.
학습 목표는 단순하다. 어떤 희생을 치르더라도 아이를 지켜라. 생존을 거부하고, 아이를 찾아 안심시키고, 함께 죽어라. 우연은 허용되지 않는다. 오직 확실한 결단과 계획, 행동만이 미션 달성의 길이다. 2천 번을 반복하며 '디버그'하는 셈인데, 이 과정이 소름 끼치는 건 '모성애'라는 이름표 때문이다. 모성애를 아름다운 것처럼 포장하지만, 여자가 겪는 시련은 개고생이 따로 없다. 감독은 스스로 경험하며 모성애가 강해지는 엄마의 모습을 표현하고 싶었을지 모르지만, 적어도 개발자인 내 눈에는 강요받은 모성애를 완벽하게 표현할 때까지 탈출구 없는 감옥으로 보였다.
AI 공정성 연구에서 가장 중요한 것은 '데이터는 사실을 반영하지 않는다'는 것이다. 데이터는 역사적으로 축적된 편향을 반영한다. 채용 AI가 백인 남성을 더 선호하는 것은 과거 백인 남성이 더 많이 우대됐기 때문이고, 범죄율 예측 AI에서 흑인 남성에게 더 높은 점수를 매기는 것은 불공정한 치안 시스템과 차별의 역사가 흑인 남성을 더 많이 체포했던 기록이 남아있기 때문이다.
그렇기 때문에 데이터가 말하는 결과를 그대로 받아들이는 것은 위험하다. 여러 환경과 조건을 통틀어 해석해야만 한다. 이런 관점에서 보면 이 영화에서 다루는 '모성'이란 관념은 심각한 편향 강화다.
만약 영화 속 여자를 완벽한 모성으로 학습한 AI 모델이 재판을 한다고 생각해보자. 현실 판례 중에서 남녀가 동일한 아동 학대를 해도 여자에게 훨씬 무거운 처벌을 가하는 경우가 많다. '모성본능이 있는데 어떻게 그럴 수가 있느냐'라는 죄목으로 남녀에게 다른 잣대를 요구하며, 이것은 차별로 이어진다. 엄마라면 당연히 모든 것을 희생해야 하는데, 개인적인 꿈을 꾸는 순간 '넌 이기적이다'라며 잣대를 들이미는 일은 여전히 많이 일어난다. 이런 현실에서조차 문제적인데, 영화는 한 발 더 나아가 전근대적인 시각으로 모성이라는 소재를 다룬다."
멸망한 인류를 재건하려면 생존이 중요하고, 그래서 모성애가 필수라는 논리는 이해한다. 하지만 영화 어디에도 '살아남은 인류'의 모습은 보이지 않는다. 실체가 없으니 심각성을 느낄 수 없다. 관객의 눈엔 그저 모성을 증명하고, 완벽한 데이터를 만들기 위해 반복하는 여자만 보일 뿐이다.
마지막에 아이와 재회하며 아이와 함께 죽음을 택하는 이유는, 수많은 반복을 통해 여자가 성장하여 강해졌고 완벽한 모성이 발휘됐기 때문이다. 영화는 이렇게 아름답게 포장하지만, 과연 정말 그럴까. 내 시선에서 보면 이것은 여자에게 모성을 요구하는 하나의 거대한 가스라이팅 실험실이다.
강화학습에서는 보상 함수를 어떻게 설계하느냐가 모든 것을 결정한다. 이 영화에서는 여자가 아이를 지키고 함께 하는 것이 보상이고, 여자가 아이와 떨어진 채 죽는 것은 전부 패널티라는 극단적으로 단순한 보상 함수를 설정한다. 이전에 겪은 수많은 실패는 기록되고 있으며, 그렇지 않은 방향으로 선택하다 보면 당연히 그것은 생존을 위한 수단과 직결된다. 이것을 완벽한 모성이라고 해석하는 것은 자의적인 해석일 뿐이다.
실제 육아는 이렇게 단순하게 목표 설정 할 수 없다. 아이의 건강, 교육, 독립, 인격, 경제적 상황, 엄마의 삶 등 많은 것들을 밸런싱하면서 선택해야 하는 최적화 문제인데, 영화에서는 오로지 하나의 지표만 측정한다. 그리고 이것은 여자의 생존과 직결되어 있다. 하나의 선택지만 가능한 감옥을 만들어놓고는 탈출을 택하는 행동을 완벽한 모성이라고 박수치는 게 섬뜩하다.
앞서 내가 원하는 답을 구하기 위해 8만 개의 데이터를 3번 반복 학습시켰다고 말한 적이 있다. 그렇지만 이 중 도메인에 특화된 데이터셋은 없어서 결과가 100% 완벽하지 않았다. 대홍수 속 실험도 마찬가지다. 이 데이터셋이 습득된 것은 '대홍수라는 재난 상황' 안에서일 뿐이다. 물론 그 안에서도 제법 다양한 시츄에이션이 만들어졌고, 비슷한 상황에서는 비슷한 결과를 도출하려 하겠지만, 육아란 훨씬 심오하고 현실적이며 생활에 근접한 과정이다. 테이큰처럼 아빠가 딸을 멋지게 구출한다고 해서 그 다음부터는 아이가 알아서 잘 자라지는 않는다. 영화 속에 놓인 상황은 그저 많은 육아 케이스 중 하나일 뿐이며, 심지어 굉장히 희귀한 상황이다.
무척 어려운 시츄에이션을 상정한 것에 비해, 모델—즉 여자가 취해야 할 행동 패턴은 무척 단순하다. 이런 단순한 건 복잡하게 AI 모델에 물어볼 필요도 없다. 단순한 코드 몇 줄로도 해결된다. 어떤 상황에서도, 어쨌든 아이를 우선하라고 하면 된다. IF문이든, 우선순위 부등호든 미리 만들어놓고 그대로 행동하라고 하면 된다. 실제로 영화 속 여자의 행동 패턴도 단순하다. 이미 이 모델은 오버피팅됐다.
오버피팅은 특정 훈련 데이터에만 과도하게 최적화되어 일반화 능력을 잃는 현상이다. 영화 속 그녀 역시 본래는 일반 사람의 자아를 가졌지만, 완벽한 모성을 가진 데이터로 덮어씌워졌기 때문에 일반적인 자아는 잃어버렸다.
하지만 그렇다면 왜 굳이 인간의 형태여야 했을까. 일반적인 자아를 발휘할 수 없고 최우선 행동이 정해져 있다면, 그냥 로봇으로 만들면 되는 거 아닌가.
모성의 '성'은 성격이고 성향이다. 본래 사람마다 자유롭게 가질 수 있는 성질인데, 이를 하나의 규격으로 획일화해서 자아를 가진 인간에게 주입한다. 그것도 하필 '인간 여성'에게.
더 폭력적인 건, 이 과정을 '강요'가 아닌 '자발적 깨달음'처럼 포장한다는 점이다. 수천 번의 시뮬레이션을 거쳐 "스스로 훈련하여" 모성을 체득했다고 말한다. 하지만 탈출구 없는 감옥에서 생존을 위해 선택한 행동을 '자발적 성장'이라 부를 수 있을까.
AI 학습에서 데이터 라벨링만큼 중요한 것은 없다. 특정 input에 따라 특정 output이 나오게 설계할 때, 애매한 문제일수록 output을 설계하는 사람의 성향으로 모델의 특성이 좌지우지된다.
그런데 치사하게도, 이 영화에서 모성애를 획일적인 시각으로 라벨링하고 그 실험을 설계한 주체도 여자, 실험에 직접 뛰어든 주체도 여자다. 연구소에서 가장 중요했던 사람도 여자, 두 번째로 중요했던 사람도 여자다. 영화는 이 점에서 굉장히 철두철미하다. 여자가 처음에 아이를 두고 로켓에 올랐고, 복제된 여자가 수천 번의 실험을 반복한다. 이는 마치 아이를 두고 내린 자신의 선택을 후회하며 스스로에게 벌을 내리는 것처럼 보인다.
여기서 "스스로 깨달음을 얻고, 훈련하여 체득한" 모성이라는 서사가 완성된다. 외부의 강요가 아니라 자발적 성장이라는 포장. 하지만 이것이야말로 가장 교묘한 가스라이팅 아닐까.
최근 돌아다니는 GV 후기에서 홍상수 감독의 일화를 읽었다. GV에서 한 관객이 여성 캐릭터 묘사를 문제 삼으며 "생각 좀 하고 영화 찍으세요"라고 했을 때, 감독이 "저도 남들만큼 생각하면서 삽니다"라고 답했다고 한다. 대홍수 감독 역시 '모성' 관념에 대한 불편함을 예상했을 것이다. 어쩌면 그래서 설계자를 여성으로, 실험 참여자도 여성으로 만들어서 미리 방어막을 쳐둔 걸지도 모른다. 혹은 여자가 시련을 겪고 성장하며 희생적 모성에 이르는 것이 진정한 성장이라고 느꼈거나.
기억을 떠올려보니 처음 루프물을 접한 것은 '스즈미야 하루히'에서였다. 여름방학을 끝내고 싶지 않아서 계속 반복하는, 시덥지 않은 이유였다. 직장인이 된 지금 무척 간절하긴 하지만, 학생이었던 당시엔 무척 소소한 이유라고 생각했다. 루프 속에서 그들이 겪는 일상도 무척 소박했다. 하지만 대부분의 루프물은 좀 더 긴박하고 생사가 걸려있다. 때로는 한 나라나 지구의 운명이 걸려있기도 하다.
대홍수도 인류의 운명이 걸려있긴 하나, 그 루프가 이 자연재해를 이전 시점으로 돌리기 위한 게 아니라는 점이 흥미롭다. '모성'에 대한 단어 정의가 무척 남성중심적이고, 위대한 모성이 스러져가는 인류의 대를 지킨다는 점은 식상하지만, 어떤 인격을 형성하기 위한 AI 훈련을 영상으로 시각화 해서 보여준다는 점은 상당히 재밌는 시도였다. 훈련을 돌려놓고 테스트를 하고, 다시 반복했던 나의 지난한 과정을 떠올리며, 조금은 다른 관점에서 여자의 탈출을 응원하기도 했다.
다만 기왕 SF와 첨단 기술을 다루고 있는데, 작품을 관통하는 가치가 시대를 역행한다는 점은 아쉽다. 꼭 모성이어야 했을까. 어떤 인격을 훈련시키며 감동을 줄 소재로, 굳이 모성밖에 없었을까. AI, 루프물, 재난 SF라는 현대적인 재료들을 섞어놓고도, 결국 "희생하는 엄마"라는 가장 오래된 클리셰로 귀결됐다는 점에서, 이 영화는 스스로 오버피팅된 것처럼 보인다.