권력의 등기부
케이트 크로퍼트, AI 지도책 #1
강남역 KFC였다. 나는 한 손에 치킨버거를 들고 친구에게 LLM에 대한 설명을 듣고 있었다. 제대로 이해했는지는 모르겠지만, 하나 확실히 이해한 문장은 있었다. 앞으로 '데이터 센터'가 있느냐 없느냐에 따라 그 나라의 미래가 달려 있다고. 엄청나게 많은 양의 연산을 해낼 연산기계가 내뿜는 열을 식히기 위한 물, 연산 기계를 돌리는 혈액과도 같은 전기, 기계를 구성하는 다양한 자원, 그리고 이 모든 것을 아우르는 기술을 모두 감당할 수 있는 곳만이 데이터 센터를 유치-유지할 수 있고, 그것이 결국 그 국가의 역량을 의미하는 게 아니겠냐고.
친구와 달리 나는 꽤나 그 상황을 비관적으로 받아들였다. AI가 궁극적으로 인간을 지배하게 될 거라는 디스토피아적 세계관 때문도 아니고, 이 나라의 역량이 부족함을 통감하는 데에서 오는 비애감 때문도 아니었다. 단지 인공지능이라는 체계를 유지하기 위해 필요한 자원이 얼마나 많은지 그 자원 추출의 네트워크가 얼마나 촘촘한지 깨달았기 때문이다. 그리고 그 엄연한 비용들이 제대로 계산되지도 드러나지도 않고 있다는 사실 때문에도. 이 시스템은 장기적으로 존속 가능한 것일까?
개인용 컴퓨터에 꽂힌 그래픽 카드가 소모하는 전력량도 상당한데, 하물며 데이터 센터에서 사용하는 전력은 얼마나 될까? 여전히 재생에너지의 비중이 높지 않은 상황에서 전력량의 급격한 증가는 결국 화석연료나 원자력의 사용량 증가로 이어질 게다. 데이터 센터에서 발생하는 거대한 열을 식히기 위해 필요한 냉각수의 양은 얼마나 될까? 그렇게 데워진 물이 지나간 자리엔 어떤 환경 파괴가 발생할까? 반도체와 배터리를 생산하기 위해 필요한 희소자원은 어디서 어떻게 채굴될까? 광산이 있었던 곳의 미래는 대부분 씁쓸한 폐허였다. 인공지능의 학습을 위해 필요한 데이터들을 다듬는 과정에서 필요한 노동의 양과 비용은 어떻게 해결할까? 저임금을 받고 단순한 일을 반복하는 개발도상국의 노동자들은 건강을 갈아넣고 푼돈을 받는다.
노트북을 열고 손쉽게 이용하는 다양한 인공지능 시스템의 이면에는 전세계적인 규모로 이루어지는 자원 착취, 노동 착취, 데이터 착취가 자리하고 있다. 케이트 크로퍼트의 <AI지도책>이 훑고자 하는 풍경이 바로 이것이다. 저자가 "광산의 갱도, 에너지를 집어삼키는 데이터 센터의 긴 통로, 두개골 보관소, 이미지 데이터베이스, 형광등 아래의 물류 창고 등 우리가 종종 방문하지만 잘 알지는 못하는 풍경"(21)을 탐색하는 건, 바로 그곳에 인공지능의 '하부구조'가 있기 때문이다.
그는 인공지능을 '권력의 등기부'라고 부른다. 인공지능을 만들어내기 위해선 다양한 천연자원과 연료, 인간의 노동, 그리고 우리가 만들어 낸 수많은 디지털 데이터가 추출되어야 한다. (거의 무료로 이루어지므로, 나는 이것을 착취라고 부르는 쪽이 좀 더 온당하다고 생각하지만) 추출 과정은 매끄럽지 않으며, 이를 반복하기 위해선 정치적-사회적 권력이 작동하는 수밖에 없다. 때로는 1세계 인간의 눈에 보이지 않는 곳이라면 좀 더 잔인한 방식으로 폭력과 수탈이 이루어지기도 한다. 국가권력과 자본은 그들 손에 얻어낸 인공지능을 자신들의 '통치'에 활용한다. 인공지능이 무엇에, 어떤 방식으로 봉사해야 하는지는 불투명하다. 인공지능의 '지정학'을 통해 그가 이 책에서 던지고 싶은 질문은 이것인 것 같다.
"우리는 기로에 서 있다. 이제 우리는 AI가 생산되고 채택되는 방식에 대해 곤란한 질문을 던져야 한다. 이렇게 물어야 한다. AI는 무엇인가? AI가 전파하는 정치는 어떤 형태인가? AI는 누구의 이익에 봉사하며 피해의 고통을 가장 크게 짊어지는 것은 누구인가? AI의 이용은 어디에 국한되어야 하는가?" (31)
"AI는 널리 알려진 것보다 훨씬 많은 것을 우리와 지구로부터 뽑아낸다."(43)
풍경의 시작은 리튬 광산이다. 리튬은 충전식 배터리의 주요 재료다. 배터리가 들어가지 않는 전자제품은 없으니, 우리가 일상 생활 속에서 의존하는 데이터 클라우드가 몇몇 리튬 호수에 기대고 있다고 봐도 무방할지 모른다. 내가 이 글을 쓰고 있는 도구인 노트북, 스마트폰뿐만 아니라 전기자동차, 데이터 센터에도 리튬 이온 배터리가 쓰인다. 지구가 오랜 시간에 걸쳐 형성해 낸 광물들이, 단지 몇 년 동안 사용할 기기들에 대량으로 쓰인다. 수명이 다한 배터리는 개발도상국의 전자 폐기물 하치장으로 끝내 흘러들어갈 것이다. 끊임없는 이윤 생산을 위해, 주기적으로 불필요한 소비를 자극하는 자본주의 체제 아래에서 지구의 비재생성 자원은 급격하게 소멸된다.
뿐만 아니라 광업 자원의 생산 과정엔 반드시라고 해도 좋을만큼 자주 폭력과 살육이 발생한다. 개발도상국 - 한때 식민지였던 곳들 - 의 불안정한 정치는, 그 지역에서 산출되는 광업 자원으로 인한 경우가 많다. 그 자원들을 활용하고자 하는 구 식민지 모국의 정치적 영향력과 그들이 임의로 그은 국경선이 만들어 낸 부족 간의 대립이 아프리카 대륙에서 어떠한 폭력의 결과를 낳았는지 우리는 이미 익숙하게 알고 있다. 광업 자원으로 형성된 부는 그 지역이 아니라 선진국으로 빠르게 이동하고, 그마저도 몇몇 인공지능 산업에 연관된 이들에게 편중되게 분배된다. 그 산업을 유지하기 위해 필요한 다양한 비용은 시야에서 지워진다. 자원 채굴 과정에서 벌어지는 폭력, 환경 파괴와 노동 착취를 차치하더라도 전기 사용량, 물 사용량은 제대로 계산되지 않는다.
세계적 규모의 추출을 가능하게 하려면, 세계적 규모로 촘촘한 추출의 네트워크가 완성되어야 한다. 물류(Logistics)의 발달과 표준화는 인적 자원과 자연 자원의 이동을 쉽고 저렴하게 할 수 있게 만들었다. 인공지능 산업은 식민지 모국이 피식민국으로부터 빠르고 효율적으로 자원을 추출하기 위해 설치한 물류망에 의존한다. 철도와 해저케이블에 세계적 규모의 식민 경제의 흔적이 남아있듯이, 인공지능 산업 역시 그 위에 자신의 추출의 잔혹한 흔적을 덧씌운다. 저자가 찾아간 네바다 주 블레어 시의 황량한 풍경은 인공지능 산업이 앞으로 어떤 식으로 우리의 세계를 파괴할 지 보여주는 불길한 전주곡처럼 보인다.
"AI의 작업장 침투는 기존에 정착된 노동 형태와의 완전한 결별이라기보다는 1890년대와 20세기 초에 확립된 산업적 노동 착취라는 오래된 관행의 귀환으로 이해해야 마땅하다."(73)
저자는 추출의 허브인 아마존 물류 센터로 향한다. 그곳의 리듬은 인간이 아닌 로봇에 맞춰져 있다. 그곳에서 일하는 노동자들은 '집품률'을 맞추기 위해 빠르게 움직인다. 노동자들은 과로와 부상에 시달린다. 더 적은 수의 노동자로 더 많은 노동을 추출해내기 위한 '최적화'가 끊임없이 이루어지는 과정에서, 노동자들은 쓰고 버려지는 값싼 재료에 불과하다. 혹여나 노동 규율을 어기거나 작업 속도가 떨어지는 노동자가 있다면, 앱을 통해 직원의 동선을 추적하던 관리자는 곧바로 소리칠 것이다. 당신, 지금 느려!
관리자가 사용하는 시스템을 떠받드는 건 아이러니하게도 세계에 흩어져 있는 저임금 노동자들(메커니컬 터크 - 1770년 헝가리의 발명가 볼프강 폰 켐펠렌이 만든 체스두는 기계 인간. 사실은 그 뒤에 실제 인간이 앉아 있었지만 사람들은 다들 지능을 가진 자동인형이라고 착각했다고 한다)이다. 인공지능 훈련에 필요한 수천 시간의 훈련 데이터를 일일히 라벨링하고, 쓸모없는 데이터들을 걸러내는 작업은 여전히 푼돈을 받는 노동자들의 몫이다. 그들은 반복적이고 분절된 작업을 통해 인공지능을 위한 먹이를 제공하는 대가로 삶을 간신히 유지할 수 있는 낮은 급여를 받는다. 그 작업에 제대로 된 보상을 제공하면 인공지능 서비스의 비용이 상승해버릴테니까. (가끔씩 트위터에서 부업을 할 수 있다며 번역 AI 개선을 위한 데이터 라벨링을 '진심'으로 홍보하는 이들을 볼 때마다 복잡한 감정에 휘말린다. 푼돈이지만, 누군가에겐 생계를 유지하기 위한 수단일 수도 있기 때문이다. 그리고 그 약점을 이용하는 업체의 윤리는 여전히 질문에 부쳐지지 않고 있다)
발터 벤야민이 '역사철학테제'에서 언급한 체스 자동인형 이야기가 떠오르지 않나? 체스를 두면 백전백승이어서 기계라고 생각했는데, 알고보니 그 안에 체스를 잘 두는 작은 곱사등이가 있었고 그가 인형을 조종하고 있더라는 이야기. 우리는 체스 두는 기계만 보고 있는 건 아닌가? (*스포일러) 봉준호 감독의 영화 '설국열차'에서도 비슷한 알레고리를 확인할 수 있다. 무한히 달리는 열차의 비밀은, 기관차 바닥에 들어갈 정도로 작은 어린 아이였다는 사실. 우리의 눈에 보이는 '자동'의 환영에 대한 유비들. 여전히 인간의 노동을 갈아넣어야 돌아가는 시스템이 노동을 눈 앞에서 지움으로써 어떻게 자동화라는 환영을 만들어내는지를 여실히 보여주는 사례들이 책을 읽으며 계속 아른거렸던 것이다.
"AI가 저렴하고 효율적이라는 환상을 떠받치는 것은 여러 겹의 착취다. 지구에서 가장 부유한 기업들의 AI 시스템을 정교하게 조정하기 위한 대규모 무급 노동의 추출은 그중 하나다." (85)
시간이 부족하여 여기까지 읽는다. 사놓고 무려 1년이 넘는 시간이 지나서야 뒤늦게 읽었는데, AI에 대한 '비판이론'적 이해라는 측면에서 교과서에 가까운 게 아닌가 싶다. 조금 더 빨리 읽었으면 어땠으려나. 옆에 같이 읽을 책으로 라즈 파텔과 제이슨 무어의 '저렴한 것들의 세계사', 루퍼트 러셀의 '빈곤의 가격', 하비에르 블라스와 잭 파시의 '얼굴 없는 중계자들', 데보라 코웬의 '로지스틱스'를 일단 꺼내 놓았다. 인공지능쪽으로 가는 게 아니라 물류와 자원쪽으로 관심이 가버리는 건 또 무슨 조화려나.
