AI는 인간을 대체할 때 살아남는다

-기술을 넘어 정의의 문제로

케임브리지 대학교 루카시안 응용수학 교수였던 라이트힐은 1972년 인공지능의 연구 동향에 대해 보고서를 작성했고, 내용은 다음과 같습니다.

먼저 그는 인공지능 연구 분야를 A, B, C 세 개의 범주로 나눕니다. 범주 A는 자동화입니다. 이 분야의 인공지능 연구는 목표가 분명한데, 목표는 인간을 기계로 대체하는 것입니다.

범주 C는 신경생물학, 심리학 등에 관한 이론적 탐구에 관심을 두는 경우입니다. 이 분야는 컴퓨터를 단지 실험 자료를 처리하는 데 사용하는 것이 아니라 중추신경계 모형을 구축하는 데 사용합니다.

범주 B는 범주 A와 범주 C 사이의 교량 활동을 하는 연구입니다. 구체적으로는 로봇 제작인데, 이것은 -자동화 기능을 통해 인간을 대체하는 무언가를 연구한다는 점에서- 범주 A를 지원합니다. 다른 한편으로는 -로봇이 일종의 로봇만의 뇌를 가져야 할 테니- 인간의 뇌신경 기능을 모방하는 연구를 통해 범주 C를 지원합니다.

(Chilton::INF::Lighthill Report)

로봇 품종 개량과 도태

위 그림을 보면, 어떤 사람이 로봇을 평가하고 있는 것 같습니다. 서 있는 로봇의 뒤에는 폐기 처분되는 로봇들이 있습니다. 게다가 이 그림의 보이지 않는 곳에선 아마도 로봇에 의해 대체되고 있는 사람이 있을 겁니다.

수십 년 전에 이미 AI 개발 목표는 분명했습니다. 이 연구는 단지 지적 호기심에 의해 수행되는 것이 아닙니다. 좁은 차원에서는 주행 기술 같은 특정 기술의 자동화를 위해서, 넓은 차원에서는 특정 산업에서 인간을 대체하기 위해 연구됐습니다.

AI가 인간에 의해 제작되든 혹은 AI가 스스로 자신을 개량하든 막무가내로의 진화는 허용되지 않을 것입니다. 특정 산업에서 인간을 대체할 수 있는 수준이면 살아남을 것이고 그렇지 않은 것들은 폐기될 것입니다. 인간이 개를 품종 개량하여 여러 용도로 사용하듯, 사용자들은 여러 산업에 사용하려 할 것입니다.

AI낙관론, 그런데 언제?

-"AI에 대한 열기를 믿지 마세요"

대런 아세모글루(MIT)

AI에 대한 낙관적 기대 중 하나는 AI의 엄청나게 발전하는 만큼 생산성을 엄청나게 향상시키고, 생산성이 엄청나게 좋아지면 인간의 삶도 풍요로워질 것이라는 기대입니다. 그러나 어떤 이들은 이 낙관론을 경계하고 있으며, 이에 관련한 글들도 많이 나오고 있습니다. 아세모글루는 AI 자동화가 기업들의 비용 절감에만 유리하지, 고용 감소 부작용을 우려합니다.

-"AI에 대한 열기를 믿지 마세요: 빅테크의 상상력 실패와 테크노봉건주의의 부상"

『AI 사기: 빅테크의 과장에 맞서 우리가 원하는 미래를 만드는 법』라는 책의 저자는 다음과 같이 주장합니다.

“경영진은 AI가 노동을 절약해 주는 장치가 될 것이라고 말하지만, 실제로 그것은 노동을 파괴하는 장치가 되도록 의도된 것이다. 그것은 노동자를 그들의 일을 훨씬 낮은 비용으로 수행할 수 있다고 여겨지는 기술로 위협함으로써 노동의 가치를 떨어뜨리려는 것이다”(42).

“저비용 대체물의 가능성 자체가 임금에 더 큰 하방 압력을 가하고, 노동자들에게 일자리 기회를 더욱 희소하게 만들었다”(55).

이러한 주장들을 AI 비판론이라고 합시다. 비판론은 낙관론과 반드시 모순 관계인 것은 아닙니다. 둘은 동시에 참일 수도 있습니다. 낙관론이 참일지라도, 그것이 언제 실현될 수 있을지 모른다는 점을 고려한다면 말입니다. 먼 미래의 언젠가는 AI 로봇이 제공하는 압도적인 생산물들에 의해 모든 인간이 노동에서 해방되고, 먹고 살기 위해 무엇을 해야 할지 고민할 필요 없이 여가만을 누릴 지도 모릅니다. 하지만 당장의 우리나 근 미래의 후손들은 어떨까요? 애매한 단계의 자동화는 고용 감소나 임금 저하의 요인에 불과할 것이라는 비판론의 지적도 일리있어 보입니다.

비관론의 우려가 틀렸다면? 틀리게 만들어야 한다

잠시 라이트힐의 보고서에 한 이야기로 돌아오겠습니다. 맨 위의 인용에 기술하지 않았지만, 본래 그 보고서를 통해 라이트힐이 말하려 했던 것은 "AI 기술이 엄청나게 발전할 것"이라는 기술 발전 낙관론자들에게 회의적인 시선을 보내는 것이었습니다.

그러나 지금 개발되는 것들의 수준을 보면 그의 우려는 틀렸습니다. 마찬가지로 이제 주제가 바뀌어 AI가 생산성을 향상시키느냐 아니면 이런저런 부정적 효과를 크게 만들 것이라는 쟁점에 대해서, AI 비판론자들의 우려도 틀릴 수 있습니다. 하지만 가만히 있어도 틀리게 되는 그런 문제일지는 의문입니다. 과거 역사를 살펴봤을 때, AI에게 대체될 처지의 인간들이 좀 더 적극적인 무언가를 행해야 할지도 모릅니다.

예를 들면, 약 조제의 경우 자동화 시스템의 경제성 여부와 상관없이 법적으로 약사 면허자만 조제 가능합니다. 공증은 전자 서명, 블록체인 기술로 대체 가능하지만 공증의 법적 효력은 국가 지정 공증인에게만 부여하고 있습니다. 이렇게 집단이 이익의 관철을 요구하고 국가가 면허와 규제로 보호하는 경우, 즉 경제적 효율성을 사회·정치적 비용이 막아서는 경우가 있습니다. 즉, 어떤 직군은 대체 불가능해서 유지되는 것이 아니라 사회·정치적 이유로 유지됩니다.

또 다른 길: 재분배 논의

AI 비판론에 대처하는 또 하나의 방법은 재분배를 조정하는 것입니다. 이런저런 이유로 경제적 효율성을 포기할 수 없었을 때, 그로 인한 이익을 AI 소유자가 독식하는 체제일지 아니면 세금을 통해 재분배할지, 재분배하면 어떻게 얼마나 할지 등에 대한 세밀한 논의가 필요할 것입니다. 방향성은 입법을 통해 정해질 것이고, 입법은 국회 의원이 할 것이고, 국회 의원은 정당의 방향성에 따라 입법을 할 것이고, 정당은 동일한 정치 비전을 지닌 사람들의 집합입니다. 숙의 민주주의에서 정책 방향성은 쟁점과 토론, 투표와 선거를 통해 이뤄질 것이며, 다행히 우리나라는 충분히 그러한 시스템을 갖춘 국가입니다. 하지만 이것으로 충분할까요?

정치철학 대중화의 필요성: 교육 개혁

AI 자동화의 도입을 놓고 경제적 효율성만 추구할 것인지 혹은 어떤 직군은 보호할 것인지, 이익을 놓고 누가 얼마나 가져가야 할지를 다루는 전형적인 학문은 정치철학입니다. 누군가는 경제학이라고 대답했을지도 모르지만, 그 순간 그 사람은 경제적 효율성만(혹은 수리 경제학으로 계산하면 된다는) 고려하면 된다는 정치철학적 관점을 가진 것입니다. 즉 이 문제에 관해선 경제학이나 정치학 보다는 한 단계 더 메타적인 접근을 해야 하고, 그 학문은 정치철학입니다.

이제 정치 철학은 중고등 단계에서부터 가르쳐야 할 학문이라고 생각합니다. AI 기술 발전에 맞춰서 중고등학생 때부터 새로 제공되는 교육이 알고리즘, 간단한 코딩, 이산 수학에 그치는 것은 너무 협소한 변화 아닐까요? AI 기술 시대에 제작·개발·사용을 중심으로 한 교육을 넘어, 그 기술이 바꿔 놓을 노동, 분배와 재분배 등 정의에 관한 문제를 판단할 시민은 어디에서 기를지 생각해야 합니다.