AI 자동화가 그저 그런 수준에 그치는 이유

MIT 인스티튜트 교수인 대런 아세모글루와 IMF 수석 경제학자 출신으로 MIT 슬론 경영대학원 교수 사이먼 존슨인 '권력과 진보'는 기술에 의한 진보는 자연스러운 결과가 아니라 제도와 외부 환경에 많은 영향을 받는 다는 점을 강조하는 책이다.

AI와 몰고올 혁신에 대해서도 비판적인 시선이 많이 엿보인다. AI로 인간을 대체하는 흐름이 강해지는 것에 대해 특히 그렇다. 

AI는 인간의 노동과 조화를 이루는 쪽으로 가야지 대체하는 것은 바람직하지 않다는 것이다. 단순히 사람을 위한 기술을 강조해서가 아니다. AI가 제공하는 자동화의 완성도도 만족할만한 수준은 아니란게 저자들 주장이다. 오픈AI 챗GPT에 대해서도 비슷한 관점으로 보고 있다.

이와 관련해 저자들은 먼저 딥러닝이 주도하는 현대 AI 패러다임의 특징을 조명한다.

현대 AI 애플리케이션은 인과관계 가설을 명료하게 세우는데서 시작하지 않는다. 가령 어떤 사진의 어떤 특징이 그안에 있는 특정 대상을 알아보는데 관련이 있는 정보인지를 연구자가 미리 정하지 않는다. 대신 방대한 데이터에 다충 모델을 적용함으로써 가설의 부재를 보충한다. 다층 모델에서 각각의 층은 서로 다룬 추상 수준을 다룬다. 하나의 층은 사진의 가장 자리에 초점을 맞추어 넓은 아웃라인을 포착할 것이다. 또 다른 층은 눈이나 발톱이 있는지에 초점을 맞출 것이다. 하지만 이렇게 정교한 도구가 있어도 인간과 기계의 협업이 없으면 데이터에서 정확한 추론을 이끌어내기는 어려운데 이러한 결함을 극복하기 위해 점점 더 방대한 데이터와 컴퓨팅 역량을 동원해 패턴을 찾아내려는 쪽으로 동기가 부여된다.

전형적인 기계 학습 알고리즘은 유연한 모델을 샘플 데이터에 적합 시켜서 더 큰 데이터에 적용할 수 있을 만한 예측을 만들어내는 것으로 시작한다. 고양이 이미지 인식의 경우 기계 학습 알고리즘은 고양이가 있는지를 표시한 태그가 달린 이미지 데이터 샘플을 통해 훈련을 받는다. 이 첫번째 단계에서 모델을 도출해 훨씬 더 큰 데이터에서 에측값을 내놓는데 사용한다. 그리고 예측이 얼마나 정확한지에 따라 알고리즘을 계속 개선해 나간다. 이와 같은 새로운 접근은 세가지 중요한 함의를 갖는다.

첫째 이것은 AI를 방대한 양의 데이터와 결합한다. 2021년에 환멸을 느껴 업계를 떠난 AI 과학자 알베르토 로메로는 이렇게 말했다. "AI 일을 하게 되면 당신은 데이터를 수집하고 데이터를 클리닝하고 데이터를 나누고 데이터로 훈련하고 데이터를 평가하게 될 것이다. 데이터, 데이터, 데이터다.  그리고 이 모두가 AI 에측 모델이 이것은 고양이다라고 말할 수 있게 하기 위한 것이다. 방대한 데이터에 초점이 놓이는 것은 튜링에게 영감을 받아 자동화를 강조할 때 나오게 되는 근본적인 결과다.

둘때 이 접근은 현대 AI가 매우 확장성이 있어서 고양이를 알아보는 것보다 훨씬 중요하고 흥미로운 영역에도 적용할 수 있을 것 같다는 인상을 준다. 

고양이를 인식하는 문제가 해결되면 더 복잡한 이미지 인식에도 동일한 방식을 적용할 수 있을 것이고 이미지 인식이 아닌 다른 업무, 가령 외국어 문장의 의미가 무엇인지 판단하는데도 적용할 수 있으리라고 말이다.  따라서 AI가 경제와 우리 삶에 미칠 잠재적 영향은 방대할 수 있다. 좋은 쪽으로도 종종 나쁜 쪽으로도 말이다.  하지만 이것이 디지털 테크놀로지를  발달시키는 가장 좋은 방법인가? 이 질문은 제기 되지 않는다.

셋째 더 우려할만 하게도 이 접근은 디지털 테크놀로지 분야를 자동화 방향으로 한층더 강하게 몰아간다. 기계들이 자율적이고 지능적이라면 자현히 인간 노동자의 업무를 더 많이 가져가게 될 것이다. 기업은 인간이 하는 기존의 업무를 더 잘게 쪼개서 AI 프로그램과 방대한 데이터를 통해 학습 시킨 뒤 인간을 알고리즘으로 대체할 수 있을 것이다. 이러한 접근은 인간을 보완하기 보다 인간 등가에 도달하는 것을 진보의 기준으로 삼는 방향성을 한층 더 정당화하며 이는 노동 비용을 줄이고자 하는 기업의 관심사와도 매끄럽게 부합한다.

하지만 저자들은 현재 AI가 자동화 품질은 그저 그렇다고 지적한다.

인간을 밀어내고 막대하게 데이터를 수집하면서도 새로운 테크놀로지가 생산성을 높여 노동 수요를 늘리고 노동자의 소득을 높이는 경우도 있긴 하다. 하지만 노동자들이 얻는 이득은 새로운 테크놀로지가 생산성을 아주 많이 높일 때만 나타날 수 있다. 오늘날 바로 여기에 심각한 문제가 있다. 아직까지는 AI가 그저 그런 자동화, 즉 생산성 이득이 크지 않은 자동화만 아주 많이 가져왔기 때문이다. 생산성이 크게 증가하면 자동화로 노동이 대체되는 부정적인 효과를 어느 정도 상쇄할 수 있다. 가령 자동화되지 않은 업무에서 노동자 수요가 늘거나 연관 분야들에서 연쇄적으로 생산이 증가해 고용이 촉진될 수 있다. 하지만 비용 절감과 샌산성 이득이 그리 크지 않다면 이같은 새로운 효과는 나타나지 않는다. 그저 그런 자동화는 생산성을 별로 향상시키지 못하면서도 노동자를 대체한다는 점에서 특히 문제다.

AI 시대에 그저 그런 자동화가 이뤄지는데는 근본적인 이유가 있다.

 

인간이 현재 수행하고 있는 대부분의 업무를 꽤 잘하고 있는 것이다. 인간이 수세기에 걸쳐 축적해온 지식과 노하우로 임하는 업무들을 단순히 AI가 대체하면 그리 인상적인 성과를 보여주지 못할 가능성이 크다. 가령 기업들이 너도나도 자동 무인 게산대를 설치했는데 기계가 잘 작동하지 않고 고객이 경험하는 서비스의 질을 높여주지도 않을 때 이것은 그저 그런 자동화다. 인간이 생산에서 수행하는 많은 업무는 투린한 활동과 복잡한 활동의 혼합이다. 인간은 암묵적 지식과 전문성에 의존해 그러한 일들을 수행한다. 그뿐 아니라 이러한 전문 역량의 상당 부분은 지극히 맥락 으존적이어서 AI 알고리즘으로 변환하기 어렵다. 따라서 해당 업무가 자동화되면 그러한 지식은 소실되기 쉽다. 테크놀로지가 경도된 지배층은 종종 간과하는 사실이지만 현대 경제에서도 인간의 적응성과 독창성은 이에 못지 않게 중요하다. 

책에 따르면 어떤 기술 혁신은 사람들의 삶의 질을 개선해 기술로 인한 혜택이 가급적 많은 이들에게 돌아가는 반면  어떤 기술 혁신은 그렇지 않은데, 이건 국가와 사회가 기술 혁신에 어떻게 대응하느냐에 따라 좌우된다.  그런 만큼 저자들은 테크 기업 리더들이 알아서 기술로 좋은 혁신을 해줄 거라 기대해서는 안된다고 주장한다. 이들을 견제할 수 있는 역량과 기술의 혜택이 가급적 골고루 돌아가도록 하는 제도 없이는 기술 혁신은 소수에게만 혜택이 돌아갈 가능성이 높다는 것이다.