인공지능을 지탱하는 피와 땀 이야기
케이트 크로퍼드, 『AI지도책』, 소소의책, 2022.
“AI는 정치, 노동, 문화, 자본을 아우르는 대규모의 산업적 구성물이다.”
저자는 인공지능을 기술 관점에 국한하여 바라보는 사람들에게 인공지능이 빚어내는 경제적⸱ 정치적⸱ 문화적⸱ 역사적 힘을 알려주려고 이 책을 썼다.
책의 전반부에서는, 인공지능 산업을 지탱하는 광물과 물류, 노동의 실체를 설명한다. 실제로 AI의 연산을 실현시키는 산업은 광물과 물, 화석연료를 상상 이상으로 많이 소비한다. 예를 들어 자연어처리 모형 하나만 가동했을 때의 이산화탄소 배출량은 뉴욕에서 베이징까지 비행기로 125차례 왕복하는 배출량과 같다. 한편 노동 분야에서는 인공지능의 신뢰도 문제로 사람들이 훈련 데이터에 라벨을 붙이는 지루하고 반복적인 작업에 동원된다. 저자는 이런 현상을 “인간을 연료로 쓰는 자동화”라고 비판한다.
중반부에서는, 인공지능의 학습 재료인 데이터와 권력화된 분류체계를 보여준다. 무작위로 수집된 개인의 이미지는 그것에 내포된 의미나 맥락이 삭제된 채, 함수 입력을 위한 무색무취의 데이터로 취급된다. 데이터의 분류체계도 권력의 힘이 작용한다. 기계적인 연산을 위해서는 분류체계에 끼워 맞춰야 하는데 이 과정은 본질적으로 정치적이고 문화적이며 사회적인 선택이다.
후반부에서는, 인간의 감정을 읽는 문제와 국가 차원의 문제를 설명한다. 특히 저자는 국가 차원의 문제를 이렇게 비판한다. “현실에서든 상상에서든 AI 전쟁은 공포와 불안의 정치를 주입함으로써 내부의 반대를 억누르고 국가주의적 의제에 대한 무조건적 지지 분위기를 조성한다.” 결국 AI로 초래된 구조적 불평등이 재생산되고 고착되는 것이다.
나는 ‘케이트 크로퍼드’가 쓴 <AI지도책>이 인공지능에 관한 편협한 시각을 가진 사람들에게, AI의 진짜 버팀목이 인공화, 추상화, 자동화라는 기술적 가공물이 아니라 지구적으로 상호 연결된 ‘추출과 권력의 체계’ 임을 알려주는 좋은 책이라 생각한다.
왜냐하면,
첫째, 기술 이면에서 벌어지는 일들을 폭넓게 다룸으로써 시야를 확장해 주기 때문이다. 이 책을 읽기 전까지는 인공지능 기술이 보여주는 화려함에 취해, 인공지능 기술을 가능하게 하는 정치⸱ 사회⸱ 문화적 요소들을 전혀 생각해보지 않았다. 플라톤의 동굴 속에 묶여 있는 사람들처럼 그림자만을 보고 있었다는 생각이 들었다. 책을 다 읽은 지금은 매트릭스의 주인공처럼 ‘빨간 약’을 삼킨 기분이다.
둘째, 기술결정론에 입각한 미래 시나리오를 근본적인 수준에서 비판하고 문제의 본질을 제대로 볼 수 있게 도와주기 때문이다. 흔히 인공지능의 미래를 상상할 때 유토피아적 관점과 디스토피아적 관점의 시나리오를 생각한다. 이 시나리오들은 각각 특이점(풍요)이나 초지능(종말)으로 귀결된다. 저자는 이러한 기술결정론적 관점에 이의를 제기하며, 인공지능 산업의 실체를 똑바로 보도록 독려한다. 이 책을 읽으며 앞으로 인공지능의 미래를 생각할 때는 기술뿐만 아니라 전 지구적으로 연결된 인공지능 산업의 추출 시스템과 권력을 함께 생각해야 함을 깨달았다.
셋째, 범주화는 권력이고, ‘차이’를 ‘같음’으로 바꾸려는 시도는 일종의 인지적 폭력이라는 주장이 공감되기 때문이다. 범주화를 통해 적과 아군을 나눈다. 일관된 해석을 위해 복잡한 것들을 균일하게 깎아 나간다. 보드리야르의 ‘시뮬라크르’가 떠오른다. 일종의 ‘시뮬라크르 사회’인 오늘날, 차이로 발생하는 사본들을 억압하고 원본을 유지하려는 노력이 무척 역설적이다.
한 가지 아쉬운 점이 있다. 문제 제기는 탁월하지만, 대안이 막연하고 실현 가능한지 의문이 든다는 점이다. 과연 거대 기술기업이나 국가가 이익을 포기하고 인류 전체를 위해 연합할 수 있을까?
