가치중립성이 가리고 있는 문제들
<AI는 인간을 먹고 자란다> 마크 그레이엄, 제임스 멀둔, 캘럼 캔트
자본주의가 만들어내는 기술은 결코 중립적이지 않으며, 그것을 만든 시스템의 논리와 권력 구조를 그대로 반영한다.
p.333~334
책을 만나기까지
인공지능에 대한 책들은 참 많다. 인공지능 시대에도 대체되지 않는 인재가 되는 법, AI가 모방할 수 없는 나만의 글쓰기, AI실전 적용 같은 제목의 실용서적과 더불어 빅테크 기업들에 대한 경영/경제서적도 가득하다. 책의 유형이나 목적은 달라도 이 책들은 공통점이 있다. AI의 발전방향을 따라 미래지향적이다. 방향성이 정해져 있고, 그 방향을 따라 힘이 담겨 있다. 사람들의 관심, 자본과 투자의 집중, 기업가 정신, 비전, 국가의 정책지원 등 사회와 경제의 에너지가 한 축을 향해 모여든다. 이곳저곳에 자리 잡은 뿌리들이 나무의 줄기로 모이듯 화살표들이 모여 더 거대한 화살표를 이룬다. 그렇기 때문에 AI에 관한 책들을 읽다 보면 어느 순간부터 비슷하다는 느낌을 받는다.
어느 날 온라인에서 다른 책들을 찾던 중 제목이 눈에 들어왔다. 인공지능에 가려진 노동자들의 현실이라니. 미래를 어떻게 준비하고 적응해야 하는지를 말하는 책들 사이에서 현실을 돌아보는 책의 존재감이 돋보였다. 간간이 인터넷 기사에서 미래에 어떤 직군이 대체될 위험이 높은지, AI 영향으로 고용시장이 얼마나 축소됐는지 보도되곤 한다. 하지만 극히 일부의 기업이나 직무만을 소개하다 보니 내용들이 대부분 단편적이다. 산발적인 정보들을 통해 수면 아래 무언가 벌어지고 있다는 것은 인지하지만, 그 실체가 무엇인지 이해할 수 없는 막연함이 희뿌연 막처럼 자리 잡고 있다.
저자들은 그 흐릿한 경계 아래를 몇 년 간의 조사와 더불어 때로는 직접 인터뷰하고 탐사를 통해 확인하고 온 이들이다. 이 책은 그 희뿌연 막 아래, 우리가 본능으로 느끼지만 증명하지는 못했던 심연을 실제 사례와 데이터, 역사를 통해 수면 위로 끌어올린다. 기술은 가치중립적이며, 우리를 자유롭게 하리라는 진보적 믿음과 가치관이 숨기고 있는 것들을.
이미지 출처 : iStock검수자들은 자살, 고문, 강간을 "거의 매일" 목격했다.
p.12
인공지능의 먹이 1 : 감정과 노동(주석 작업자)
인공지능은 주석 작업자(Data annotators)의 노동에서 시작된다. 인간처럼 인공지능도 인터넷과 현실세계로부터 수집한 데이터를 통해 학습하기 위해서는 정의가 필요하다. 부모는 아이에게 코끼리가 무엇인지를 이해시키기 위해 그림과 사진을 보여주거나 직접 동물원에 가서 보고 듣게 함으로써 하나의 관념을 형성시킨다.
마찬가지로 인공지능이 무엇을 학습할지 정의하기 위해서는 '태깅'이 필요하다. 가령 자율주행 차량의 경우, 자신의 주변 사물 중 무엇이 차량이고 인간인지를 구분하기 위해서는 외형이나 이동동선 또는 행동양상의 일반적 특징을 추출할 수 있어야 한다. 주석 작업자들은 사진이나 영상 속에서 이런 요소들을 찾아 이 사물이 무엇이라는 태그를 달아놓는다.
주석 작업자들은 정해진 사무공간에 앉아 업무시간 동안 이런 데이터들을 계속 쳐다보며 태깅을 하는 반복작업을 한다. 이들은 대부분 아프리카나 동남아시아 같은 남반구의 개발도상국 인력회사에 소속되어 있다. 하나하나의 작업만을 놓고 보면 단순한 반복업무지만 인간의 판단력이 요구되기에 노동-시간집약적인 업무 특성상 인건비가 낮은 지역의 업체들에게 외주를 맡기는 구조다.
현지의 작업자들은 업무시간 동안 주석이 달린 데이터라는 결과물을 산출한다. 외주업체는 데이터의 수준이나 품질을 검수한 뒤 빅테크 기업에 판매한다. 빅테크 기업 소속의 엔지니어나 개발자들은 이 가공된 데이터를 AI에게 투입하여 학습시킨다. 소비자/사용자가 생성형 AI 어플이나 프로그램을 통해 전달받는 결과물 너머에는 이런 산업 구조가 자리 잡고 있다.
이들의 근무환경은 대개 열악하다. 밀폐된 공간에 일렬로 늘어선 PC를 앞에 두고 8~10시간 이상 비슷한 화면을 바라봐야 한다. 작업자들에게는 하루치의 할당량 목표가 주어지고 이 목표를 달성해야만 임금을 받는다. 능력과 효율이 좋은 직원은 그에 비례하여 목표가 상향 조정되기 때문에 누구도 쉴틈이 없다. 중간 관리자는 직원 감시 프로그램을 통해 어느 직원이 생산성이 떨어지는지 실시간으로 확인한다. 그날 또는 그 주의 목표를 달성하지 못한 직원은 무급으로 야근을 하거나 주말에 나와 잔업을 해야 한다. 이렇게 일하는 케냐, 우간다의 주석 작업자들 평균 급여는 미화($)로 환산 시 월 200달러, 시간당 약 1.16달러에 불과한 돈이다.
하지만 메타와 같은 기업들은 여러 곳의 외주업체에게 검수 작업을 맡기고 있으며, 이들 업체는 더 많은 이익이 보장된 계약을 따내기 위해 더 낮은 임금을 제시해야 하는 구조 속에 놓여 있다.
p.14
주석 작업자들 중에서도 가장 혹독한 환경에 노출된 이들은 SNS, 소셜미디어 테크 기업의 외주를 받는 작업장이다. 인스타그램과 틱톡의 가장 큰 도전과제는 하루에도 수없이 올라오는 동영상과 사진들 중 서비스 규정을 위배하거나 타인에게 불쾌감을 주는 콘텐츠를 검열하는 것이다. 이들 기업들은 자동화된 게시물 선별 알고리즘을 개발하기 위한 기초 데이터로 제3세계에 콘텐츠 검수를 외주로 맡긴다.
이 과정에서 작업자들은 일반 사용자들에게는 노출되지 않는 충격적인 내용을 접하게 된다. 정세가 불안정한 국가나 지역의 경우, 전쟁이나 무장세력 간 충돌로 인한 고문과 살상 또는 강간의 라이브 영상이나 사진을 봐야만 한다. 아무리 내용이 자극적이고 비인륜적일지라도 내용 검토를 위해 영상의 경우, 초반의 10초와 마지막 10초를 반드시 작업자가 직접 확인해야만 한다. 이런 환경이나 자극을 참지 못하고 자리를 비우는 직원은 근무 정책을 위반했다는 이유로 평가점수가 떨어지고, 이로 인해 급여를 받지 못할까 봐 결국 다시 자리로 돌아와 폭력적인 게시물을 봐야만 하는 악순환으로 이어진다.
AI가 세계를 인지하고 구별할 수 있는 능력은 비전을 제시하는 CEO들이나, AI개발자들의 손에서 시작되지 않는다. 우리의 관심으로부터 멀리 떨어진 대륙 어딘가의 누군가가 밀실에 갇힌 채 폭언을 듣고 일하는 결과물이며, 누군가의 자녀이자 가장일 사회 구성원이 정신적/심리적 상해와 폭력에 노출됨으로써 만들어진다.
인간을 검색과 노동으로부터 자유롭게 한다는 포부와는 달리 AI는 어느 기술보다도 인간의 노동에 의존해야 하는 역설적인 산업구조에 기반을 두고 있다. 그 역설을 잘 알고 있기에, 빅테크 기업들은 외주와 하청을 통해 경제적/도덕적 부담의 위험을 하청업체에 전가한다. 그리고 하청업체는 다시 그 부담을 노동자에게 떠넘긴다. 전혀 낯설지 않은, 불편한 익숙함이 반복되고 있다.
이미지 출처 : Peakpx데이터 센터는 따뜻한 지역일수록 더 많은 물을 필요로 한다. 센터마다 차이가 있지만, 하루 최대 1,900만 리터의 물을 소비하는데, 이는 인구 5만 명 규모의 미국 소도시가 하루 동안 사용하는 물의 양과 맞먹는다.
p.130
인공지능의 먹이 2 : 환경과 자원(데이터 센터)
인공지능이나 AI라는 단어를 들으면 어떤 개념이 떠오르는가? 구글에 두 단어를 검색해 보면 조금씩 표현법은 다르더라도 비슷한 느낌을 전달하는 사진과 이미지들이 가득하다. 공중에 펼쳐진 광학적인 회로와 빛들이 인간의 손이나 뇌와 연결되어 있거나, 사람과 마주 보는 화면들이다. 인공지능은 지능이라는 단어로 인해, 또한 컴퓨터나 이동통신기기를 통한 접근성으로 인해 무형無形의 개념으로 우리에게 다가온다. 물리적인 한계와 물질의 속성에 제약받지 않는 산뜻함과 가벼움을 떠올릴 것이다.
AI의 학습을 위해서는 인간의 노동력을 필요로 했듯, 물리적인 구동을 위해서는 데이터 센터가 필수적이다. 경쟁사보다 빠르고, 보다 효과적인 답변과 결과물을 내놓기 위해서는 더 많은 칩과 더 강력한 슈퍼컴퓨터로 들어찬 데이터 센터를 확보해야 한다. 많은 양의 연산 능력은 그에 비례하는 전력을 필요로 한다. 이는 높은 발열량 그리고 설비를 식히기 위한 냉각수의 소비로 이어진다. 자연스레 수자원이 풍부한 곳으로 데이터 센터가 몰려든다. AI는 무형의 이미지와는 달리 설비의 사양과 환경의 제약에 민감한 물리적인 산업이다.
2021년 기준 아마존, 마이크로소프트, 그리고 알파벳 세 기업이 전체 주요 데이터 센터의 절반 이상을 소유하고 있다. 2023년 상반기에도 이들 세 기업이 전 세계 클라우딩 컴퓨터 시장 투자액의 3분의 2를 차지했다.
p.128
이런 물리적 특성으로 인해 인공지능 산업은 직접 데이터 센터와 해저 케이블 등 자체 인프라를 구축할 수 있는 인력과 자본, 기술의 규모를 갖춘 소수의 빅테크 기업들이 독점하는 체제로 굳어지고 있다. 사용자 누구에게나 동등한 참여의 기회와 결과물을 홍보하는 개방성과 달리 인공지능 시장은 규모의 경제를 내세운 폐쇄적인 공간으로 바뀌고 있다.
하루도 쉬지 않고 돌아가는 데이터 센터의 열을 식히는 과정에서 다량의 물이 증발하고 배출된다. 이로 인해 지역 사회에 데이터 센터가 몇 개만 들어와도 수자원 소비량이 급등한다. 데이터 센터는 매 순간 물을 필요로 하지만 그 물이 다시 돌아오는 데 걸리는 시간은 미지수다. 눈이나 비와 같은 기상현상은 인간의 예측과 다르게 움직이며, 최근의 지구 온난화는 이런 불확실성을 더 심화시키고 있기 때문이다. 데이터 센터가 가뭄과 수자원 부족 사태의 위기를 더 증가시키는 잠재적 요인이 되는 셈이다.
챗GPT에 질문을 물어보거나 검색하여 결과를 얻기 위해 필요한 전력은 구글에 검색할 때보다 10배 이상 더 많이 든다. 이처럼 엄청난 데이터 센터의 전력 사용량 때문에 지역 전력망과 발전시설도 그에 상응하는 수준으로 업그레이드해야 한다. 이 과정에서 투입되는 자금은 주나 시의 재정부담으로 이어지고 장기적으로는 시민들에게까지 영향을 준다. 결국 데이터 센터가 들어섰을 때의 이익은 지방정부와 기업들이 가져가지만 그로 인한 부담은 시민들이 떠안는 구조의 문제가 반복된다. 주석 노동자들의 경우와 크게 다르지 않다.
인공지능의 연산에 필요한 전기는 거저 생산되지 않는다. 친환경과 재생에너지만으로 국가의 전력 수요를 감당할 수 없는 현실에서 인공지능 사용의 증가는 데이터 센터의 증가를 의미하며, 결국 화석연료 사용의 증가와 같은 말이다. 인공지능의 성능과 효율성을 통해 기후변화와 에너지 수요 변화를 대비하며 친환경을 추구하겠다는 말은 원인을 가린 채 결과만을 제시하는 셈이다.
이미지 출처 : iStock결과적으로 단 한 사람이 전 세계 수십억 명이 사용하는 디지털 인프라를 실질적으로 통제할 수 있는 권한을 가진 셈이다.
p.248
인공지능의 먹이 3: 자본과 권력(빅테크 기업과 투자자)
인공지능이라는 하나의 기술을 위해 왜 이리도 많은 인간의 감정과 노동, 환경이 소모되어야 하는 것일까? 저자들은 AI 또한 자본주의라는 체제 안에서 개발되고 유통되며 소비되기에 정치/경제의 권력 구조가 가진 모순과 문제를 그대로 반복한다고 분석한다. AI의 방향성과 목적에 있어 사회 구성원 다수가 함께 고민하기보다는 극소수의 빅테크 기업, 그중에서도 더 극소수인 경영진과 투자자들만이 영향력을 행사하기 때문이다.
노동자와 소비자는 인공지능의 생산과 소비의 영역을 담당하지만 이들의 목소리가 테크 기업의 의사결정 과정에 직접 반영되지는 못한다. 자본주의에서는 자본의 논리가 권력의 논리이며, 권력은 기업에서 가장 많은 지분(의사결정권)을 가진 경영진과 외부 투자가들에게 집중되어 있다. 자유분방하고 개방적인 문화와 이미지를 구축하는 테크 기업들조차 의사결정 과정에 있어서만큼은 폐쇄성과 배타성을 유지한다.
이런 '닫힌 의사결정 조직'이 내포한 한계는 사회의 많은 영역과 가치들을 무시하거나 때로는 자본과 이윤의 관점으로만 환산해 버린다는 점이다. 그리고 그 과정에서 목적 달성을 위해 무언가를 희생하는 것을 '합리적 의사결정'이라는 명분으로 실행에 옮기게 만든다.
앞에 나온 주석 노동자들의 사례는 테크기업 경영자들이 도덕관념이나 감수성이 부족한 악인이라 벌어지는 일이 아니다. 테크기업들은 주주와 투자자들로부터 이윤창출의 압박을 받고 있으며, 이를 위해 경쟁사보다 우수한 성능의 생성형 AI를 만들어야 한다. 그러기 위해서는 개발역량을 높이면서도 동시에 노동집약적인 주석 태깅 작업의 인건비를 줄여야 한다. 그 결과, 자본투자-이윤창출이라는 하나의 관점이 노동자의 감정과 인권이라는 관점보다 우선시 되고 후자는 무시당하면서 새로운 사회문제가 만들어지는 것이다. 사회에 가치를 창출하고, 이윤을 추구하겠다는 솔직한 희망에서 시작했을지라도 그 과정에서 부여되는 체제의 압력이 구조의 최하층에게 희생을 강요하는 것이다.
문제는 이러한 사고방식이 마크 저커버그 같은 이들이 휘두르는 무제한적인 권력의 위험성을 간과하게 만든다는 데 있다. 이들은 세상을 이해관계가 충돌하고, 다양한 사회 집단이 대립하는 복잡한 정치적 공간으로 보지 않는다. 그보다는 세상은 해결 가능한 기술적 문제로 가득 차 있으며, 자신과 같은 똑똑한 사람들이 적절한 자금과 자원을 제공받기만 하면 그런 문제들은 하나하나 풀어낼 수 있다고 믿는다. 이런 낙관적 세계관 속에서, 그들은 세상이 점점 더 나아지고 있으며 자신들이 그 진보에 핵심적인 역할을 하고 있다고 확신한다. 스스로를 장기적인 낙관주의자로 여기며, 기술이 결국 사회를 해방시킬 수 있다고 믿는 것이다.
p.250
이런 의사결정을 더 위험하게 만드는 요소는 실리콘 밸리 중심의 테크기업가들의 '자기 신뢰'와 '기술에 대한 믿음'이다. 기업문화와 개인의 성향이 개방적이든, 보수적이든 이들은 능력주의 가치관을 기반으로 새로운 기술이 사회의 문제를 해결할 열쇠라고 믿는다. 기술적 이해도와 인적자본, 경제력을 등에 업은 테크기업가들은 공론화를 통한 문제해결이 시간을 소모하는 '비효율'이며, 누군가를 희생으로부터 보호하기 위한 제도적 장치를 '규제'라고 여긴다.
하지만 기술은 문제해결의 수단이 아닌 원인이 되기도 했다. 증기기관과 산업화의 시대는 이전에는 경험해 본 적 없는 환경오염과 열악한 노동환경, 부품으로 전락한 인간이라는 사회문제를 가져왔다. 정보통신 기술은 정보의 공유를 약속했지만 오히려 정보자원의 접근성 차이와 격차를 가져왔다.
인공지능이 자본의 논리에 종속되어 있는 한, 테크기업들은 이윤을 최우선으로 두고 인공지능을 개발할 것이며 그 과정에서 계속 희생양을 만들어낼 것이다. 투자가들에게 중요한 건 AI가 세상을 바꿀 기술이냐보다, AI가 투자 대비 얼마만큼의 수익을 창출할 수 있냐다. 2020년 초반을 들썩이게 만든 블록체인, 메타버스, NFT는 기대와 달리 사그라들었지만 인공지능은 대중의 이목과 실현가능성이라는 두 마리 토끼를 잡는 데 성공했고, 기업과 투자가의 자본은 이 새로운 기술로 몰리고 있다.
조면기(Cotton gin)는 목화의 씨앗과 솜을 분리하는 기계로, 이 장치 덕에 번거로운 분리작업이 자동화되었지만 정작 미국의 노예제도는 줄어들기는커녕 오히려 더 확장되었다.인공지능인가 아니면 추출기계인가
1793년, 당시의 세계경제와 산업의 흐름을 바꿀 중요한 기계가 발명된다. 엘리 휘트니의 조면기(Cotton gin)는 목화의 씨앗과 솜 부분을 분리하는 수작업을 기계의 힘으로 대체함으로써 산업에 전환점을 가져왔다. 1790년 8천 베일이던 미국의 목화 생산량은 1820년 65만 베일, 1850년 250만 베일, 1860년 400만 베일로 급증한다.
조면기의 등장으로 인간의 노동력보다 더 간편하게, 더 빨리, 더 많이 목화솜을 뽑아낼 수 있게 되었으니 남부의 목화밭에서 일하던 흑인노예들의 고통이 줄어들었을까? 우리는 역사를 통해 현실은 그렇게 흘러가지 않았다는 걸 알고 있다.
조면기가 분리작업의 효율성을 높이자 이를 따라잡기 위해 기존보다 더 많은 목화 공급이 필요해졌다. 지주들은 토지를 매입해 농장을 확장하고, 늘어난 토지의 구획에 필요한 흑인노예들을 더 사들이면서 노예의 숫자도 노예제도의 규모도 확대되었다.
어마어마하게 쏟아지는 목화솜은 유럽으로 수출되면서 침구류와 의복 등 각종 섬유산업을 활성화시켰고 일반 대중도 솜과 무명천 옷을 입을 수 있는 기회가 늘어났다. 자연스레 옷에 대한 수요가 일반 사회계층에까지 퍼지면서 수요의 증가가 다시 공급을 끌어올리는 순환구도가 만들어졌다. 조면기의 발명은 섬유산업과 대규모 농장의 경제적 성장을 이끌었지만, 그 산업에 필요한 노동력을 충당하기 위해 아프리카의 흑인들이 강제로 끌려와야 했다.
조면기는 단지 목화솜을 분리해 내는 '작업'을 대체했을 뿐, 목화를 재배하고 수확하고 이 과정에 필요한 노동력을 '비인간화된 노예제'로 유지되는 산업의 틀을 바꾸지는 못했다. 결국 조면기는 노예들을 해방시킨 것이 아니라, 오히려 더 많은 노예를 수입하고 그들을 노예제로 밀어 넣은 도구가 된 셈이다.
책은 인공지능이라는 용어 대신에 '추출기계'라는 단어를 사용한다. 온갖 자원을 세상에서 흡입하는 모습에서 지능을 가진 존재가 아닌, 수익을 창출하기 위한 또 하나의 기계장치로 본 것이다. 이 수익창출의 과정에 투입되어야 할 원재료는 '나'일 수도 있다. 그건 '나'의 창의력과 시간을 공들여 만든 작품일 수도 있고, '나'의 감정과 존엄성일 수도 있으며, '나'의 건강과 신체이거나, '나'와 가족이 생존하기 위해 필요한 자원이 될지도 모른다.
저자들은 인공지능의 유용성이나 가치를 부정하지 않는다. 대신 인공지능이 조면기와 같은 억압의 도구가 될 여지가 있는 자본의 '구조적 압력'을 지적한다. 이런 흐름을 막으려면 어떻게 해야 할까? 개개인은 나약하고 체제를 뛰어넘을 수 없기에 시민단체, 지방정부, 정부기관, 국제기구 같은 다양한 공동체가 AI개발을 감독하고 의견을 적극 개진해야 한다. 교과서적이고 이상적인 의견일 뿐이라고 생각할 수도 있다. 너무나 광범위하기 때문에 비현실적이라고 생각할 수도 있다.
그러나 바로 그 이유가 인공지능의 속성이다. '나'만이 아닌, 국가와 세계 전체에 영향을 끼칠 수 있을 정도로 다가올 AI는 파괴적인 기술이기 때문이다. 모두가 함께 관심을 갖지 않는다면, 모두가 추출기계에 투입될 자원이 될지도 모른다.
언론과 인플루언서들은 다가올 미래를 준비하라고 말하지만 모두의 상황과 배경은 제각기 다르다. 누군가는 빠르게 적응하겠지만 누군가는 그러지 못할 수밖에 없다. 적응하고 싶지만 그럴만한 환경이 되지 못하거나, 노령으로 인해 적응이 쉽지 않은 이들도 있다.
인생은 끝없이 이어지는 장애물 넘기 경주와도 같다. 순서의 차이만 있을 뿐 언젠가 누구나 한 번 이상은 장애물에 걸려 넘어지는 순간이 찾아온다. 영원한 1등이 없는 레이스에서 남들보다 빨리 달리겠다는 초조함과 불안은 누구를 위한 것일까. 누가 우리의 경쟁으로 수고를 들이지 않고 이윤을 얻어가는가. 경쟁에 뒤처지지 않도록 적응하라는 말도 중요하지만, 경쟁에 뒤처진 사람들도 완주할 수 있도록 경주의 규칙을 조정하자는 말 또한 필요한 시대가 아닐까?
인류학자 마거릿 미드는 문명의 첫 징조를 다른 어떤 도구나 역사적 사건도 아닌, 부러졌다가 다시 붙은 흔적이 남은 다리뼈로 정의했다. 달아날 수도, 사냥할 수도 없는 원시의 자연에서 골절은 사망선고와 다름이 없다. 뼈가 다시 붙은 흔적은 누군가가 그 사람이 치유될 때까지 보살폈다는 의미다. 누군가가 곤경에 처했을 때 그가 적응하지 못한다고 버리고 가지 않는 것, 그것이 바로 공동체와 문명의 시작이며 진정한 변화가 일어나는 지점이다.
인간사회의 문제는 역사가 증명해 왔듯, 한 개인이나 소수의 결정이 아닌 다수의 참여와 문제의 공론화를 통해 조금씩 개선되고 발전해 왔다. 참정권과 투표권, 노예제 철폐, 인종차별이 그래왔듯 언제나 우리를 해방시킨 건 기술이 아니라 우리 자신이었다. 누군가가 자본이 많다고 하여, 지위가 높다고 하여, 기술을 더 잘 이해한다고 하여 누군가의 운명을 결정지을 권리마저 갖지는 않는다. 그 힘의 권력구도에서 벗어날 때 비로소 추출기계는 진정한 인공지능이 되어 우리를 자유롭게 할 것이다.
글토막
우리가 소비자로서 AI 제품을 사용할 때, 우리 눈에 보이는 것은 표면적인 결과물일 뿐이다. 그러나 그 세련된 외관 아래에는 AI를 작동하기 위해 복잡한 추출 기계 네트워크가 존재한다. 추출 기계는 자본, 권력, 천연자원, 인간 노동, 데이터, 집단 지성이라는 핵심 요소를 빨아들여 통계적 예측치로 변환한다. AI 기업들은 이를 이윤으로 전환한다. AI를 하나의 기계 즉 추출 기계로 이해하는 것은, AI가 내세우는 객관성과 중립성의 허울을 벗겨내는 시도이다. 모든 기계에는 역사가 있으며, 특정한 시기와 목적에 따라 인간이 설계하고 구축해 왔다. AI 또한 기존의 정치경제 시스템에 깊이 뿌리내려 있다. 데이터를 분류하고, 차별하며, 예측하는 모든 과정은 이를 만든 사람들의 이해 관계와 권력 구조를 반영한다.
p.21