인공지능을 두려워하는 자본주의, 그리고 인공지능기술체계
기술미디어칼럼 #3
2023년 봄, 인공지능 기술의 가속을 두고 전 세계의 유력 기업가와 인공지능 전문가들, 석학들이 ‘거대 AI 실험 일시중지 공개서한’을 공표했다. 이 서한에는 애플 공동 창업자 스티브 워즈니악, 일론 머스크 등의 기업가들 외에도 AI 전문가 스튜어트 러셀, 요수아 벤조, 역사학자 유발 하라리도 포함된 것으로 알려졌다. GPT-4 의 성능을 상회하는 인공지능 개발을 6개월간 잠정 중단하고, 관련된 규제와 대책을 먼저 마련하자는 내용이 주요 골자다.
지난 3월 22일 발표된 <거대 AI 실험 일시중지 공개서한>수많은 갑론을박이 뒤를 이었다. 빌 게이츠는 인공지능이 삶을 발달시키고 불평등을 줄일 것이라는 ‘마찰 없는 자본주의’의 시각을 고수하고 있으며, 『마스터 알고리즘』의 저자 페드로 도밍고스는 현행 인공지능 진보를 규제할 수도 없고, 개발을 중단했다가는 나쁜 세력(범죄자, 독재 정부)에 의해 기술을 먼저 선점당하는 결과를 야기할 것이라 경고했다.
반면 생성 AI의 아버지이자 구글의 전 연구원이었던 제프리 힌턴은 중간 계층 서비스·사무직에 해당하는 고용시장이 대대적으로 대체될 것이라 경고하며, 인터넷 상에서 인공지능 생성물이 인간 생성물과 뒤섞이는 탈진실(post truth)이 발생할 수 있다며 인공지능 개발을 후회한다고 회고했다. 더욱 급진적인 비관론은 인공지능 과학자 일라이저 유드콥스키로부터 나왔는데, 그에 따르면 인공지능은 지각이 있는 생물들의 세계를 전혀 신경쓰지 않으며, 인간 생명 윤리를 제대로 학습하지 않았다. ‘인공지능 개발을 6개월간 일시적으로 중단할 게 아니라, 인류가 준비될 때까지 영원히 중단해야 한다’는 그의 분서갱유론도 만만찮은 지지를 얻고 있다.
지금까지 자본주의 사회의 발전을 통틀어 하나의 기술이 이토록 논쟁을 불러일으킨 경우는 사실상 찾아볼 수 없다. 자동차 기술의 진보와 마부들의 실업, 핵분열 기술 발전을 둘러싼 윤리 논쟁 등이 있었지만 자본주의를 이끌고, 옹호하고, 팽창시키는 주체인 자본가·테크노크라트 사이에서 이 같은 의견 불일치가 일어나고 있는 건 흥미로운 현상이 아닐 수 없다. 러다이트와 파업은 노동자들의 선택지였는데, 이를 자유주의 진영의 헤드들이 이야기하고 있는 것이다. 왜 그럴까? 지금까지 자본가들의 입장에서 기술은 도구이지 다른 어떤 무엇이 아니었기 때문이다.
19세기 초 영국에서 일어난 러다이트 운동기술의 진보에 의해 사회의 정치경제가 동시에 발달·변화한다는 기술결정론은 이전까지 가장 강력한 동기부여였다. 이는 권위주의적인 사회에서나 자유로운 사회에서나 마찬가지다. 그러나 사실 기술은 인간이 도구처럼 사용할 수도 없고, 마음대로 통제할 수 있는 단일한 대상물이 아니다. 프랑스의 기술철학자인 자크 엘륄에 따르면, 기술은 체계(system)를 이루고 있고 기술들의 체계가 얽히고 섥히면서 환경(environment)을 형성한다. 기술체계의 환경은 인간의 의지나 필요가 개입할 수 없는, 기술의 필요와 기술의 자율성에 의해서 모든 것이 결정되고 움직이는 세계다. 엘륄은 기술에 의한 인간 소외는 도덕이나 제도 등으로 해결할 수 없는 영역이라고 설명한다. 기술 체계, 특히 인공지능과 같은 효율성 중심의 로직의 체계는 인간적 가치, 존엄성 같은 효율이 떨어지는 요소들은 철저히 배제한다. 인간이 필요에 따라 도구처럼 기술을 활용하는 것이 아니라, 한 번 체계가 되고 환경이 된 기술은 자율적으로 움직이며 인간을 필요에 따라 활용하거나 소거하는 것이다.
현재 인공지능 기술 진보의 속도는 반도체 연산처리가 24개월마다 2배씩 빨라지는 무어의 법칙에 비해 무려 7~8배, 많게는 100배가 넘는 수준을 상회한다고 한다. 이미 인공지능에 대한 통제권은 인간에게 없으며, 심지어 자본가와 부자 계급들에게조차 없다. ‘거대 AI 실험 일시중지 공개서한’은 그런 현기증을 잘 보여준다. 이들은 뭘 두려워하고 있는 것일까? 인공지능이 도입되면 가장 먼저 공격받는 경제부문은 아마도 문화창조·저작권이 주를 이루는 문화산업일 것이다. 현행 인공지능의 편향적인 기술체계는 잡역부나 건설노동자보다 먼저 시나리오 작가와 일러스트레이터를 타겟으로 한다. 오늘날 서방을 포함한 선진 자본주의 국가의 근간은 문화 및 비물질적 경제로부터 나오며, 값싼 육체노동과 국제분업을 남반구에 외주준 상태다. 고육지책으로 인공지능 관련 기술을 전부 폐기하고 잊어버리지 않는 이상, 대대적인 공황과 경제 붕괴는 기정사실이라 할 수 있다. 인공지능이 의식을 획득하느냐 아니냐는 SF적인 문제다. 그러나 인공지능 기술체계가 어떤 소외의 환경을 만들지는 아주 현실적인 문제다.
1965년에 발표된 무어의 법칙최근 등장하는 수많은 일시노동 – 건당, 시간당 계약을 맺고 일하는 음식배달, 그랩, 숨고, 시간당 1달러도 채 되지 않는 돈으로 데이터를 훈련시키는 미세노동과 각종 플랫폼 노동의 등장은 소외를 이미 실현하고 있다. 다음 수순은 영화제작자, 컨셉 아티스트, 카피라이터, 만화가, 작곡가 등이다. 여기는 자본가들도 그리고 자본주의의 불안정한 신민들도 포기할 수 없는 저작권 경제의 영역이다. 인공지능이 제작한 이미지, 영상, 음악 등은 이미 기술적으로 인간의 것을 대체하는 것이 가능하다. 중요한 것은 어떤 ‘기술체계’를 만들 것인가이다.
이런 상황에서 우리에게 필요한 사고는 엘륄이 이야기하는 것처럼, ‘지구적으로 생각하고, 지역적으로 행동하라(think globally, act locally)’ 일 것이다. 전 세계의 시민사회 진영은 인간 윤리와 존엄성을 다투는 탈진실에 맞서싸울 뿐 아니라 문화산업의 근간이자 AI기술에 가장 취약한 창작노동자들, 예술가들을 보호하기 위해 데이터에 대한 통제권을 확보해야만 한다. 무차별적으로 학습하고, 제한 없이 아웃풋을 생산하는 인공지능에 제동을 걸되, 인공지능이 지닌 강력한 생산 능력을 시민적인 수준에서 전유할 필요가 있다는 것이다.
이를 위해서는 개인들의 데이터를 조건 없이 수집하는 빅테크의 무분별한 종획에 제동을 걸 수 있는 방안이 필요하다. 개인 데이터를 암호화해서 필요에 따라서만 공개할 수 있는 탈중앙화 기술, 그리고 데이터 센터 및 데이터 관리에 대한 시민사회 지분의 확대 등이 주요한 방향이 될 것이다. 인공지능을 도구처럼 활용할 수 있다는 식의 도구론은 이제 잊어버릴 때가 되었다. ‘어떤 기술을 활용할 것인가’가 아니라 ‘어떤 기술체계를 만들 것인가’ 담론 생산에서 핵심 테마가 되어야 할 것이다.
신현우(기술문화연구자, 문화연대 집행위원)
정보기술 공간에서의 노동과 커뮤니케이션에 관해 연구하는 기술문화연구자이다. 플랫폼, 게이밍, 인공지능과 블록체인에 걸쳐진 IT 기술문화를 미디어정치경제학의 관점에서 비판적으로 탐구한다. 문화연대 집행위원, 계간 문화이론 전문지 문화/과학 편집위원으로 활동하며 서울과학기술대학교와 한국예술종합학교에서 예술과 기술, 기술비판이론에 대해 강의하고 있다.
