<AI 지도책> AI는 자원과 노동을 잠식한다
역시.. 슬로우뉴스로 보면 편집 가독성 훌륭
브런치는 본진이니 남겨둔다.
AI는 공짜가 아니다
‘세계의 부와 권력을 재편하는 인공지능의 실체.’ 어쩌면 부제가 좀 더 직관적이다. [AI 지도책] (원제 AI of Atlas)은 AI 시대의 장밋빛 미래 대신 그 숨겨진 비용을 다룬다. 실제 천연자원 등 개발 비용부터 인간의 노동이나 프라이버시, 자유와 평등에 미치는 사회적 비용까지 두루 살폈다.
사실 2012년 컴퓨터가 강아지, 고양이 구별에 성공하고 2016년 알파고가 이세돌을 격파하면서 AI 광풍이 불기 시작한 뒤 AI 관련 정치적, 사회적 문제의식은 늘 유효했다. AI라는 단어조차 다소 빛이 바래면서 챗GPT가 최종병기처럼 떠오르는 시대지만 고민은 이어진다.
이 책은 AI로 성공하는 법을 가르치는 책이 아니라, 언론이 주목하지 않는 현안을 다룬다. AI가 무엇을 할 수 있는지 전망하는 게 아니라, 세계의 부와 권력, 어쩌면 세계 질서가 재편되는 과정에서 놓친 이야기를 쫓는다.
지구: AI 채굴
첫 장 제목이 ‘지구’. AI 채굴 얘기다. MS 연구소, 대학 등을 거친 저자 케이트 크로퍼드는 비영리기업 활동가처럼 거침 없이 이야기를 풀어냈다. 저자의 말대로 인류 역사에서 광업은 언제나 숨겨진 비용을 떠넘기면서 광산 주인의 수익을 만들어냈다. 귀금속을 비싸게 파는 동안 야생지, 맑은 개울을 잃고 공기가 나빠지고, 지역 주민의 건강이 나빠지는 것은 숫자로 따지지 않았다.
원전의 수익만 따질 뿐 폐기물 처리 비용을 계산하지 않는 것과 마찬가지다. AI가 지구를 훼손하냐고? 일단 숨겨진 비용은 분명히 하고 넘어가자. AI 관련, 자연어처리(NLP) 모형 하나 가동하는데 30만kg 이산화탄소가 배출된다. 뉴욕에서 베이징까지 비행기로 125차례 왕복하는 것과 맞먹는다. 저자는 “탄생에서 사멸에 이르는 AI 시스템의 일생에는 인간 노동과 천연자원의 착취, 기업 권력과 지정학적 권력의 거대 집중 등 여러 프랙털적 공급사슬이 존재한다”고 말한다.
첨단 전자 장비와 배터리의 필수 요소인 희토류 광물 역시 비용이 적지 않다. 희귀 광물인 희토류를 쓸만하게 만들려면 황산, 질산 등 녹이는 공정을 거친다. 엄청난 독성 폐기물이 생길 수밖에 없다. 희토류 1톤에서 7.5만 리터의 산서예기물, 방사성 폐기물 1톤이 산출된다. 중국이 전세계 희토류 95%를 공급하는 것은 채굴의 환경 비용을 감내하는 국가적 의지의 산물이다. 관련한 이야기는 프랑스 저널리스트 기욤 피트롱의 [프로메테우스의 금속]에 자세히 나오는데, 역시 팩트 폭격이 아픈 책이다.
희토류 문제를 추적한 기욤 피트롱은 [’좋아요’는 어떻게 지구를 파괴하는가]를 쓴 저자이기도 하다. 결국 모두 연결되는 이야기라는 뜻이다. [AI 지도책]과 문제의식이 유사한 책인데, 기욤 피트롱은 좀 더 말이 센 편이다. 지구촌 곳곳을 누비면서 강하게 경고하는 쪽이라면 [AI 지도책]은 조금 더 깊고 차분하게 들어가는 사회학, 철학책 느낌이 있다.
AI에 잠식되는 노동, 디지털 시대의 인형 눈 붙이기
[AI 지도책]의 프리즘으로 보면, 지구도, 노동도 AI의 그림자에 잠식되고 있다. 노동자에게는 선택권이 없다. 기업이 새로운 AI 플랫폼을 도입하든, 노동에 대한 감시를 첨단화하든, 노동자는 무조건 알고리즘과 협력해야 한다. 머신러닝, 기계학습을 위해 컴퓨터를 훈련시키는 과정에서 이미지에 설명 태그를 붙이는 것은 저임금 노동이다. 디지털 시대의 인형 눈 붙이기 같은 노동이다.
우리나라 언론에 ‘AI가 일자리 27%를 대체’한다는 요지로 호들갑스럽게 보도된, 하지만 그 맥락은 지워진 채 전해진 [OECD 고용전망 보고서 2023 ‘AI와 일자리’]에 관해 이상헌 박사(ILO 고용정책국장)와 인터뷰한 글이다. AI 시대의 일자리에 관한 다양한 고려 사항들이 궁금한 독자는 이 글을 참고하길 바란다. (편집자)
저자는 “2005~2015년 미국에서 창출된 모든 신규 일자리의 94%는 정규직 테두리 밖의 대체 일자리였다”며 “기업들이 자동화 확대의 과실을 따 먹는 동안 사람들은 평균적으로 더 많은 직업을 겸하고 더 적은 임금을 받으며 불안정한 처지에 놓인 채 더 오래 일하고 있다”고 지적했다. 디지털 플랫폼, 서비스를 만들거나 일찌감치 투자한 이들은 일확천금을 챙겼지만, 디지털 시대 다수의 일자리는 결코 좋은 편이 아니다. 아마존의 창고 노동자, 우버 운전자 등은 알고리즘 감시 시스템 안에서 고강도 노동에 희생되는 사례는 그런 이유로 쿠팡 불매운동을 벌이는 내게 익숙한 얘기다.
테크 기업의 ‘쥐어짜기’ 신공
테크 기업들은 노동자의 시간을 쥐어짜는데 더 세련된 기술을 쓴다. 저자는 사회학 교수 주디 와이즈먼의 논문(실리콘밸리가 시간을 맞추는 방법; How Sicon Valley Sets Time)을 인용, “더 젊고 더 남성 위주이고 하루 종일 일할 각오가 더 확고한 실리콘밸리의 엘리트들이 최대 효율을 향한 가차 없는 승자 독식 경주를 전제한 생산성 도구를 만들어낸다”고 전했다. 젊은 남성이 대부분인 개발자들 세계에서는 일중독과 사생활 포기를 찬미하고, 타인의 무급 혹은 저임금 돌봄 노동에 의존하는 것을 표준으로 대한다고 했다.
기술과 혁신은 늘 올바른 것처럼 여겨지지만, 인간이라면 생각 좀 하고 살라고 더 스마트한 기술이 뒷통수를 친다. 생각 없이 마냥 수용하면, AI에게 잡아먹히기 딱 좋다. 예커대 데이터는 ‘무색무취한’ 단어로, 배려, 동의, 위험 등에 대한 전통적 이해와 책임을 더 쉽게 벗어난다는 지적도 기억해둘만 하다. 우리는 혁신이라는 슬로건 아래 기술은 마치 편향되지 않은양, 공정하고 중립적인 실체가 있는 것처럼 생각하지만 꼭 그렇지 않다는 것을 이제는 안다. 데이터도 다를 리 없다.
데이터에 스며든 편견과 차별
“데이터를 그저 발견되기를 기다리는 ‘천연자원’에 빗대는 은유는 식민주의 열강들이 수백 년간 써먹은 탄탄한 수사적 수법이다. 원시적이고 ‘정제되지 않은’ 출처에서 온 것이라면 추출은 정당화된다”
누구나 소셜미디어에 글과 사진을 올리는 시대라 데이터를 내주는 것이 아무렇지도 않다고? 한때는 컴퓨터를 학습시키기 위한 데이터 구하는 게 일이었다. 역사의 장난 같은 일은 IBM 사례. 1969년에 시작된 연방 반독점 소송이 13년을 끌면서 1000명 가까운 증인이 법정에 섰던 것이 기회가 됐다. IBM은 그들의 녹취록을 모조리 디지털화, 1980년대 중반 1억 단어를 확보하는데 성공했다.
엔론 파산 뒤 시시비를 가리는 과정에서 158명의 이메일 50만 통이 공개된 것도 데이터 갈증을 해소한 사건이었다. 실제로 읽은 사람은 아무도 없지만 데이터에 고팠던 컴퓨터에겐 선물이었다. 이렇게 난리치던 데이터를 이제는 자발적으로 아무렇지도 않게 내준다.
데이터를 분류하는 행위 자체도 우리의 무관심에도 불구, 권력이다. 어떤 차이가 ‘차이’를 실제 만드는지 결정하는 것이 권력이 아닐 수 없다. 여성혐오적이고 인종과 노인과 장애인을 차별하는 ‘범주’들이 이미 등장하고 있으며 감정을 데이터베이스로 구축하는 작업도 우리의 불쾌감과 상관없이 이미 진도가 훌쩍 나가버렸다.
메릴랜드대 연구에 따르면 일부 얼굴 인식 소프트웨어는 흑인의 얼굴이 백인보다 부정적 감정을 더 많이 나타낸다고 해석한다. 더 분노하거나, 더 경멸적이거나, 미소를 억누른다는 판단을 이제 AI가 우리를 대신해서 한다. 인간의 편견이 그대로 전이된 기술에 대해 인간보다 신뢰하는 시대다.
경고! AI시스템은 기득권에 유리하게 설계된다
기계가 체스를? 바둑을 둘 줄 안다고? 대체 AI가 무엇을 할 수 있는지 궁금해하던 초기 논쟁은 다 지나갔다. 초지능이 언제쯤 등장할지 공포와 낙관이 교차하던 예측들도 이미 지나간 얘기다. 이제는 산업이다. 소수의 막강한 기술기업이 AI를 지구적 규모로 움직인다. 기계들의 표준시는 구글의 ‘트루 타임’이다. 우리는 끝내 보건, 교육, 형사 같은 중대 사안에 대한 결정권도 AI에 부여할 것인가?
저자는 “AI를 대규모로 구축할 자본과 AI를 최적화할 방법이 필요한 탓에 AI 시스템은 궁극적으로 기득권에 유리하게 설계된다”고 했다. 우리는 혁신에 눈이 멀어 지구가 훼손되고, 인류의 노동이 소외되는 꼴을 기어이 보게 될까?
책도 심각한 자각을 요구하지만, 함께 읽고 토론하다 보니 현실은 더 난감했다. 게임 일러스트레이션 등 이미 디자이너들의 일부 일감을 더 빠르고 쉽게 해내는데, 그걸 지휘 감독하는 건 아직 인간이라고 안심해도 될까? 영화 흥행을 예측하는데 확률이 낮은 것은 인간이나 챗GPT나 마찬가지이니 괜찮은 것일까?
창의적 생산적 작업물은 언제까지 우리 저작물이라 할 수 있는 것일까? 어도비가 챗GPT 작업의 저작권 문제도 책임지겠다고 한 뒤, 큰 기업은 수십억 원을 쓰면서 활용하고, 작은 기업은 엄두도 못 낸단다. 눈부신 기술도 부익부 빈익빈, 승자독식을 해결하기는커녕 더 심해지도록 만든다.
[AI 지도책]은 2022년 말에 번역됐지만, 실제로는 2021년에 출간됐다. 몇 년이 지났지만 서슬 퍼런 문제의식은 유효하고, 해결된 문제는 없다. 자세히 보면 영국 수학자 해나 프라이가 2018년에 쓴 [안녕 인간] (Hello World)의 문제의식에서 크게 바뀐 것도 없다. 그동안 AI 윤리를 비롯해 중요한 문제는 하나도 해결하지 않은 채 AI만 훨씬 똑똑해진 셈이다. 인간 뭐한 거냐..
