딥마인드 공동창업자 "AGI 아닌 AI에이전트를 보라"

딥마인드 공동 창업자로 지금은 마이크로소프트에서 개인 사용자용 AI 부문을 이끌고 있는 무스타타 슐레이만이 쓴 '더 커밍 웨이브'는 AI와 합성 생물학이 몰고올 변화에 대해 사회, 국가 차원에서 미리 대비할 필요가 있다는 메시지를 강조하는 책이다.

AI 현장에서 직접 뛰고 있는 만큼, 저자는 챗GPT 같은 생성AI를 포함해 AI 기술이 갖는 잠재력에 대단히 긍정적이다. 하지만 사람 역량을 뛰어 넘는 AI, 이른바 인공일반지능(AGI) 담론이 확산되는 것엔 비판적이다. 언제 현실화될지 불확실한 AGI 담론에 사람들 관심이 쏠리면서 AI가 만들어내는 꾸준하고 점진적인, 그러면서도 대단히 의미 있는 개선들이  주목 받지 못하는 결과로 이어지고 있다는게 저자 지적이다.

나는 특이점의 달성 여부와 시기에 대한 논쟁이 관심을 딴데로 돌리게 하는 확실한 방법이라고 생각한다. AGI에 대한 타임라인을 논의하려는 것은 수정 구슬을 읽으려는 것과 다를게 없다. 초지능이라는 한가지 개념에 집착하는 바람에 사람들은 점점더 자주 충족되고 있는 수많은 단기 이정표를 간과하고 있다. 몇 년 동안 사람들은 스위치 하나만 누르면 AGI가 바로 실현될 수 있는 것처럼 생각했다. 

AGI는 이분법적인 개념으로 특정 시스템이 도달할 수 있는 하나의 식별 가능한 임계값이 존재하거나 부재하는 것이 특징이다.  나는 항상 이런 특징을 부여하는 것이 잘못됐다고 생각했다. 오히려 AI 시스템이 점점 더 많은 기능을 갖추면서 AGI를 향해 꾸준히 나아가는 점진적인 전환이라고 생각한다.  의식이 기계에서는 영원이 찾아볼 수 없는 어떤 정의할 수 없는 불꽃 같은 것을 필요로 하는지, 아니면 오늘날 우리가 알고 있는 신경망에서 저절로 생겨나는 것인지에 대한 난해한 논쟁에 굳이 휘말릴 필요는 없다. 당분간은 AI 시스템이 스스로를 인식하든, 이해력을 갖추든, 인간 같은 지능을 갖추든 중요하지 않다. 그 시스템이 무엇을 할 수 있는지가 가장 중요하다.  여기에 집중하면 날이 갈수록 AI 시스템의 성능이 크게 향상되고 있다는 진정한 도전 과제가 보이기 시작할 것이다.

저자가 말하고자하는 키워드는 AI 기반으로 지금은 사람이 하는 다양한 작업들을 자동화하는 AI에이전트인 것 같다

웹을 검색해 트렌드를 파악하고 아마존 마켓플레이스에서 인기 있는 제품과 인기 없는 제품을 가려내고 판매 가능한 제품의 다양한 이미지와 청사진을 만들어 알리바바에서 찾은 직배송 제조 업체에 보내고 이메일을 주고 받으며 요구사항을 구체화해 계약을 체결하고 판매자의 목록을 디자인하고, 구매자 피드백에 따라 마케팅 자료와 제품 디자인을 지속적으로 업데이트할 수 있다. 마켓플레이스에 사업자 등록을 하고 은행 계좌를 개설하는데 필요한 법적 요건만 제외하면 이 모든 작업을 AI가 충분히 해낼 수 있을 것으로 보인다. 사람이 약간만 개입하면 내년 안에 AI가 이러한 작업들을 해 낼 것이고 3~5년 안에는 완전히 자율적으로 모든 작업을 해낼 수 있을 것으로 보인다.

21세기를 위한 현대판 튜링 테스트가 충족된다면 세계 경제에 미치는 영향은 매우 클 것이다. 많은 구성 요소들이 이미 갖춰져 있다. 이미지 생성은 상당히 발전해 있고 은행, 웹사이트, 제조업체가 요구하는 유형의 API를 작성하고 사용할 수 있는 기능도 개발 중이다. AI가 메시지를 작성하거나 마케팅 캠페인을 수행하는 등 브라우저의 범위 내에서 일어나는 모든 활동을 수행할 수 있다는 점은 분명해 보인다. 가장 뛰어난 서비스는 이미 이러한 구성 요소를 수행할 수 있다. 그러한 서비스는 스스로 할일 목록을 작성하고 다양한 작업을 자동화할 수 있는 프로토타입의 할일 목록이라고 생각하면 된다.

이를 위해 저자는 ACI라는 용어를 들고 나온다. ACI는 AGI로 가기전 중간 단계 성격이다.

나는 이를 인공 역량 지능(ACI), 최소한의 개입과 감독 만으로 복잡한 목표와 작업을 달성할 수 있는 수준의 AI라고 생각한다.  AI와 AGI 모두 일상적인 논의의 일부이기는 하지만 우리는 시스템이 초지능을 발휘하기 전의 중간단계, 즉 현대판 튜링 테스트를 통과한 단계를 요약해줄 개념이 필요하다. ACI는 바로  그 단계를 가리키는 양칙이다. ACI는 AI의 진화하는 다음 단계를 나타낸다. 즉 ACI는 주어진 상황에 맞는 참신한 이미지, 오디오, 언어를 인식하고 생성할 수 있을 뿐 아니라 실제 사용자와 실시간으로 상호 작용할 수 있는 시스템을 말한다.  

ACI는 안정적인 기억을 통해 이렇나 역량을 강화함으로써 장기간 일관성을 유지하고 제3자의 지식 데이터베이스, 제품, 공급망 구성 요소 등을 포함한 다른 데이터 소스를 활용할 수 있도록 한다. ACI와 같은 시스템에서는 그러한 데이터소스를 활용해 아마존 마켓플레이스 매장을 설치하고 운영하는 것과 같이 복잡하고 포괄적인 목표를 추구하기 위해 일련의 작업을 장기적인 계획으로 엮어낼 수 있다. 이러한 요소들이 종합적으로 작용해 도구를 활용하고 광범위하며 복잡한, 그리고 유용한 작업을 수행할 수 있는 실질적 역량의 개발을 가능하게 한다.