마이크로소프트 연구원이 말하는 AI에 대한 치명적 착각
그는 왜 AI를 비판하는가, 케이트 크로퍼드의「AI 지도책」
꽤 긴 기간 동안 북클럽 책들만 읽어오다가 오랜만에 직접 책을 골라 읽었다. 요즘 독서생활에 한 발짝의 자유나 한 틈의 여유도 없었다. 독서로 한가로이 보내던 오전 시간에 요새 강의를 듣고 있다 보니 독서를 하고 싶다는 마음만큼 시간을 내기가 어려웠다. 어느 날 책꽂이를 보면서 화들짝 놀랐다. 어느새 관심도 없는 책들만이 줄줄 꽂혀있었다. 내 것이라고 인정하고 싶지 않은 책장이었다.
부끄러운 마음이 들었다. 아무래도 더 미룰 수 없다. 읽고 싶은 책 하나 읽자. 수개월 전부터 눈길이 자꾸 가던 책에 가장 먼저 손을 뻗쳤다.
AI에 대한 다른 관점 없어?
인공지능(AI)은 이제 모두의 화두다. 정부, 기업, 개발자, 학교, 학생, 회사원. 내가 소속되어 있는 회사도 예외가 아니다. 우리 회사는 AI Transformation을 줄기차게 외치고 있다. 덕분에 올 연초에 본사에서 머무르는 동안 AI 관련된 조사 업무를 맡아하기도 했다. 이런저런 스타트업들에 대해서 읽어보고, 기술 동향 따위를 뒤적여보면서 느꼈다. 결국은 모든 게 투자 관점의 이야기였다.
AI의 급속한 상용화와 발전 덕에 AI에 대한 대중의 관심이 높아졌다. 언론과 미디어가 우리 모두에게 조바심을 조장한다. 놓쳐선 안 되고, 공부해야 하고, 따라잡아야 하고, 잘 활용해야 하고. 끊임없이 조잘조잘 불안감을 주입한다. 온 세상이 지치지도 않고 AI를 외치고 있는데 이러한 세상의 분주한 수다를 받아들이기 힘들다. 모든 말들이 명확하지 않은 동어의 반복, 집착처럼 들릴 뿐이다.
어떤 기술이 조명받게 되면 그 기술에 열광하는 사람이 있고, 다른 한편에는 경계하고 우려를 표하는 사람들이 있기 마련이다. 긍정하는 사람들과 부정하는 사람들, 그들의 대결 구도에서 내가 점하는 위치는 언제나 '구경꾼'의 자리다. 하지만 AI에 있어서는 한쪽의 무리가 무대를 점령한 듯하다. 거대 테크기업들과 미국 정부, AI 투자자들. 그들의 천둥과도 같은 함성에 감추어져 들리지 않는, AI에 대한 경계와 우려의 목소리를 찾아보기로 했다.
씬 밖의 목소리를 찾아 고른 첫 책은「AI 지도책」이다. 이 책은 AI가 어째서 권력과 한 묶음이 될 수밖에 없으며, 그 권력이 어떻게 우리를 착취하고 감시할 수 있는지를 다룬다.
마이크로소프트 AI 연구원은 왜 AI를 비판했을까?
이 책의 메시지는 확고하다. AI와 권력 간의 유착을 경고한다. 이 지점에서 이 책의 저자가 누구인지를 알면 더 흥미롭다. 저자 케이트 크로퍼드(Kate Crawford)는 마이크로소프트 연구소의 선임 수석 연구원으로 근무하고 있다. 마이크로소프트는 우리가 익히 알고 있듯이 미국 나스닥 시가총액 기준으로 3위를 하고 있는 빅테크 기업이다. 2019년부터 ChatGPT를 출시한 OpenAI와 전략적 파트너십을 구축하고 AI 산업에 공격적으로 투자하고 있는 AI 선두기업이기도 하다. 저자 크로퍼드는 마이크로소프트에서 AI의 사회적 영향력을 연구하고 있다. 심지어 리서치 팀 소개 페이지에 책이 함께 소개되어 있기도 하다.
Kate Crawford is a leading scholar of the social implications of artificial intelligence. Her latest book is Atlas of AI(opens in new tab) (Yale, 2021). Over her 20-year career, her work has focused on understanding large-scale data systems, machine learning and AI in the wider contexts of history, politics, labor, and the environment.
케이트 크로포드는 인공지능(AI)의 사회적 영향에 대해 선도적으로 연구하는 학자입니다. 그녀의 책 AI 아틀라스(2021)는 AI 기술의 역사적, 정치적, 생태적 영향을 탐구하며, AI가 단순한 기술이 아니라 인간 노동, 환경, 정치와 얽혀 있는 복잡한 시스템임을 조명합니다.
_Microsoft, Research People 페이지
어떻게 AI 선두기업인 마이크로소프트의 AI 선임 수석 연구원이 AI 산업 비판적인 책을 출간할 수 있었을까? 마이크로소프트가 기술을 대하는 시각을 엿볼 수 있는 부분이다.
이 책을 읽으며 많은 정보를 얻게 되었다. 무엇보다도 인공지능에 대해서 이야기하면서도 기술적 언어를 최대한 절제하고 있다는 점이 좋았다. AI의 기술과 임팩트에 대해서 직관적으로 서술하고 있어서 기술 분야에 종사하는 사람들뿐 아니라 비종사자나 학생에게도 추천할 수 있는 책이었다.
이 책을 통해서 알게 된 점들에 대해서 공유한다.
인공지능이란 무엇인가?
ChatGPT나 클로드 등 LLM 모델을 일상적으로 활용할 수 있게 되면서, AI 활용 경험의 문턱이 낮아졌다. 이제 대부분의 사람들이 AI가 어떻게 구축되고 작동하는지까지는 이해하지 못해도, AI가 무엇을 해줄 수 있는 지를 경험적으로 알고 있다. AI는 많은 것들을 똑똑하게 해치워주는 마법사 같다. 하지만 AI는 마법이 아니다.
AI는 그저 아는 것들을 엄청나게 수집해서 모르는 것들을 어림짐작하는 게임과 같다. 게걸스럽게 데이터를 수집하고 수집한 데이터 집합으로 대규모로 통계 분석을 실시한다. AI는 대량 연산을 통해 만들어낸 예측 모델이다. AI가 예측하려는 것은 나와 당신, 우리 가족, 우리 회사, 우리나라, 내일의 날씨, 환경, 미래, 모든 것이다. 결국 AI는 이렇게 정의할 수 있다. AI는 연산의 형태로 지구를 파악하려는 시도이다.
인공지능에 대한 착각 세 가지
AI를 일상에 맞이하고 있는 우리들은 과연 AI를 잘 알고 있을까? 이 책을 읽기 전까지 내가 가장 궁금했던 것은 AI와 함께 해야 할 미래였다. 내 직업을 AI가 대체하지는 않을지, AI가 못하는 게 무엇일지, 앞으로 나는 무엇을 더 공부해야 할지와 같은 질문들에 관한 글들을 주로 찾아 읽었다. 시중에 이러한 주제를 다루는 글들은 많다. 전문직이나 화이트칼라 직종의 업무 모두 AI가 대체할 것이며 앞으로는 블루칼라의 시대가 온다는 예측들이 주를 이룬다. 이런 글들에 빠져 있다 보면 위험하다. AI가 우리 삶에 미칠 영향을 오로지 직업적 관점, 돈벌이의 관점으로 축소해서 생각하게 되기 때문이다.
크로포드는 AI에 대해서 지협적인 시각을 갖는 것을 경계한다. 실리콘밸리의 금광 채굴 역사에서 시작해서 데이터 채굴이라는 신산업으로 인한 도시의 부흥으로 전개하며 AI의 기원과 본질에 대해 이야기해 준다. 거대 테크기업과 정부 권력이 AI 기술에 대해 드러내지 않는 것들, 그렇기에 우리가 알지 못하고 착각하고 있는 것들 세 가지를 지적한다.
첫 번째, AI는 추상적이다? AI는 물질적이다.
AI는 결코 추상적이지 않다. 우리가 손으로 만질 수 있는 것들로 구축되고 구동되고 있다. 크로포드는 인공지능 산업을 '채굴 산업'으로 규정한다. 인공지능은 지구의 에너지와 광물 자원을 채굴해 유지되고 있는 산업이다. 그에 따르면 AI의 산업의 뼈대는 광물이요, 혈액은 전기다.
인공지능 산업이 대량의 전력을 사용한다는 사실은 널리 알려져 있다. 데이터센터의 온습도를 적정하게 유지하고, 수많은 컴퓨팅 자원을 돌리는 데에는 많은 전기 에너지가 필요하다. 당연스럽게도 탄소 발자국, 연료 사용, 환경오염이 발생하고 있다.
인공지능 산업을 떠받드는 막대한 전기가 어디에서 나오는 것인지를 생각해 보면 이 산업이 필요로 하는 광물도 짐작해 볼 수 있다. 미국의 전기 생산량에서 재생 에너지가 차지하는 비중은 1/5가 되지 않으니 AI가 화석 연료에 의존하고 있다고 해도 과언이 아니다. 또한 컴퓨팅 자원을 구축하는 데에도 수많은 광물 자원이 소비된다. 구리, 알루미늄, 금, 은, 리튬, 희토류가 대표적이다. 특히 구리는 전선, 네트워크 케이블, 회로 기판에 사용되고, 리튬은 장비 전원 공급을 위한 배터리에 사용되고 있다.
우리와 같은 사용자들은 AI가 뚝딱하고 지식을 만들어낸다고 느낀다. 무無에서 지식을 창조하는 마법 같다. 하지만 AI는 무형 무취의 기술이 아나며, 전적으로 지구 자원에 의존하고 있는 물질 소진적 산업이다.
두 번째, AI는 객관적이다? AI는 차별적이다.
우리는 AI가 인간보다 훨씬 공정하고 객관적일 것이라 여긴다. AI가 평가하도록 해야 한다, AI가 판사를 하도록 해야 한다는 주장을 하는 사람을 쉽게 만날 수 있다. 하지만 우리가 믿는 것보다 AI는 공정하지도 객관적이지도 않다. AI는 인간의 지시 없이 판단을 내리는 연산 기법이 아니다. AI가 차별적일 수밖에 없는 원인을 저자는 두 가지로 제시한다.
첫째, AI가 학습하는 모든 데이터는 인간으로부터 도출되었다. AI는 인간적 데이터를 학습한 결과물이기에 인간적 사고틀을 벗어날 수 없다. 책에서 제시한 아마존의 AI 구인 서비스 사례는 섬뜩하다. 시스템을 구축하고 채용 절차 보조 수단으로 사용하기 시작하였는데 얼마 지나지 않아 시스템이 여성을 추천하지 않는 문제를 발견해 수정해야 했다. 10년 간의 데이터에 채용된 엔지니어의 절대다수가 남성이었기에, 이 데이터를 사용해 만들어진 모형이 남성을 추천하도록 학습된 것이다. AI는 과거의 데이터에 의존하며, 우리는 미래의 데이터를 제공할 수 없다. 결국 AI는 예측의 도구라기보다 진단의 도구에 가까우며, 과거의 차별이나 편향을 강화하는 방향으로 학습되기 쉽다.
둘째, AI가 무엇을 어떻게 학습할지를 결정하는 것은 인간이다. AI는 인간의 지시 없이 판단을 내리는 연산 기법이 아니다. 돈 있고 힘 있는 인간들이 AI의 목적을 규정하기에 AI는 절대 공정할 수 없다. AI의 본질적 역할은 범주화(Categorization)이다. 예를 들면, 사람의 사진을 보고 인종과 연령, 기분을 판정하는 AI가 있다. AI는 사람들의 얼굴을 범주화하는 일을 한다. 이때 중요한 건 AI가 얼마나 잘 분류해 내는지가 아니다. 중요한 것은 이 분류의 결과물이 어디에 어떻게 쓰이는가인데, 경찰 조직이나 공항 검색대 등에 도입되어 위험인물을 판별하는 데 쓰인다면 이 기준이 공정하다고 할 수 있을까? 어떤 이미지들로 어떻게 학습하는지 확인할 수 없지만 특정 인종이 검문을 받을 확률이 높았다고 한다.
분류는 권력의 행위이다.
AI 기술이 구축되기 위해서는 무엇을 분류해서 어디에 활용할 것인지 기획이 필요하며 분류 체계가 설계되어야 가능한 일이다. AI 모형을 만들기 위해서는 대규모 데이터 수집, 대량의 컴퓨팅 자원, AI 전문 인력과 라벨링과 같은 단순 노동을 할 인력도 대거 필요하다. 이 모든 비용을 지불하면서 시스템을 구축하고자 하는 무리는 권력과 자본이 집중된 집단이다. 무엇이 변인이고 어떤 범주로 어떻게 배정할 것인가를 결정하는 설계자는 소수의 집단이며, 그들의 목적은 선하기만 할 수 없다.
세 번째, AI가 인간 노동을 대체한다? 인간은 로봇이 되고 있다.
AI 클라우드 노동자 구인 공고. 언제 어디서든 일할 수 있음을 강조한다.AI 기술이 인간을 대체하기보다 인간이 로봇 취급받는 경향이 증가하고 있다고 저자는 지적한다. 특히 AI를 연구하기 위해서는 기계로는 처리가 불가능한 많은 작업들(데이터 수집, 정제, 라벨링)을 인간 노동에 의존해야 한다. 특히 이러한 노동은 비용 절감을 위해 크라우드 노동의 형식으로 인간을 착취하고 있다. 이러한 크라우드 노동자들은 자동화된 시스템 속에서 단순 작업을 극도의 수준까지 반복해 내며, 일정량 이상의 처리 속도를 강압당하고 있다.
한국 태생의 독일 철학가 한병철은 디지털 기술이 새로운 노예제를 창출했다고 지적한다.
디지털 기기가 낳은 새로운 강제, 새로운 노예제에 직면하고 있다. 디지털 기기는 이동성을 무기로 모든 곳을 일터로, 모든 시간을 일의 시간으로 만듦으로써 우리를 더욱 효과적으로 착취한다.
한병철, 「투명사회」, 문학과지성사
실로, 우리 시대 클라우드 기술로 대표되는 연결성은 Everywhere, Everytime 노동할 수 있는 인프라를 제공한다.
많은 분들이 기술이 인간을 착취하고 있다는 감정을 느껴보았으리라 생각한다. IT 기술로 인해 일처리의 속도는 계속해서 빨라지며, 노동자는 그 호흡에 맞추어 일해야만 한다. 특히 소프트웨어 기반 시스템의 도입으로 인해 모든 유형의 노동이 시스템에 의해 해석되고 이해 가능하도록 스스로를 변경해야 했다고 크로퍼드는 지적한다. 기계가 처리할 수 있도록 업무 성과물은 규격화하여 가공하는 일은 몹시 흔한 일이 되었다. 나 또한 내가 기계를 위해 일하고 있다는 생각이 들 때가 많다. 요즘은 어딜 가나 키오스크나 태블릿으로 주문을 하는 경우가 많은데, 이것 또한 자동화된 시스템이 직원의 노동을 대체하는 것처럼 보일 뿐 사실 데이터 입력 노동을 소비자에게 이전한 것에 지나지 않는다.
AI 제국시대의 지형학
다시 최초의 질문으로 돌아가서, 케이트 크로포드는 왜 AI 기술 비판적인 글을 쓸 수 있었을까? 그는 마이크로소프트의 AI 연구자로 일하면서 기술이 시대에 미치는 영향력을 최전선에서 바라볼 수 있었다. AI 제국 시대를 예감하며 이 지형을 알리고 싶었던 듯하다.
실제로 크로포드는 블라단 욜러(Vladan Joler)와 함께 <Calculating Empire>라는 시각화 작업을 진행하고 있다. 1500년대부터 현재에 이르기까지 수세기에 걸친 역사를 시각화하기 위한 작업으로, 커뮤니케이션 장치, 인프라, 아키텍처의 변화에 대한 계보이다. 채굴 인프라를 통해 보이지 않는 곳까지 침투한 사회 통제와 분류의 역사를 잘 보여주고 있다.
이들의 시각화 작업은 커뮤니케이션, 계산, 분류, 제어라는 네 가지 주제로 이루어져 있다. 줌인해서 보면 환경, 자원, 기술, 디바이스, 데이터, 알고리즘, 모델, 바이오, 국방, 감시 등 흥미로운 세부 주제들을 폭넓게 다루고 있다. 직접 Calculating Empire 페이지에 방문해 이 시대의 지형을 탐구해 보시면 좋겠다.
References
1. 케이트 크로퍼드,「AI 지도책」, 소소의책 https://ridibooks.com/books/3665000048
2. 한병철, 「투명사회」, 문학과지성사 https://ridibooks.com/books/754037058
3. Microsoft, Research People (Kate Crawford) https://www.microsoft.com/en-us/research/people/kate/
4. Outlier, Open opportunity: Remote AI Training for Korean Writers https://app.outlier.ai/en/expert/jobs/4421871005
5. Kate Crawford and Vladan Joler, Calculating Empires https://calculatingempires.net/
