(AGI의 시대) 광범위하고 얕은 지능 vs. AGI

슬로우뉴스 AI in a week 원고 중

이 글은 2025년 1월 20일 슬로우뉴스 'AI in a week'에 보낸 글 중 AGI와 관련한 한 꼭지이다.

현재 LLM 기반 AI 접근에 가장 비판적인 입장을 갖고 있는 학자가 뉴욕 대학의 게리 마커스 교수다. 얼마 전에 케라스(Keras)와 ARC-AGI의 창시자인 프랑스와 숄레(François Chollet)가 엑스에 다음과 같은 포스팅을 올렸는데 이에 자극을 받아 그의 블로그에 여러 연구자와 학자의 의견을 모아 글을 올렸다.

“실용적으로는 일반인이 (사전 훈련 없이) 해결할 수 있고 AI 모델로는 실행 불가능한 문제를 더 이상 생각해내기 쉽지 않을 때 AGI에 도달했다고 말할 수 있습니다. 현재로서는 여전히 이러한 문제를 생각해 내기 쉽기 때문에 AGI는 존재하지 않습니다.” - 프랑스와 숄레

숄레의 글에 대해 딥마인드에서 AGI 연구를 리드하는 창업자 하나인 셰인 레그는 다음과 같이 답을 했다.

“저는 적어도 10년 동안 딥마인드에서 이 말을 해왔고, 일반 사람들이 할 수 있는 인지 문제에 관한 것이라는 추가 설명을 했었습니다. 이 기준에 따르면 아직은 거기에 이르지 못했지만, 앞으로 몇 년 안에 거기에 도달할 수 있을 것 같습니다.” - 셰인 레그

게리가 셰인의 메시지를 공유하면서 ‘AGI라는 용어를 만들어 낸 사람 중 아무도 우리가 아직 이에 도달했다고 생각하지 않는다’라는 코멘트를 달았더니 AGI 용어 확산에 큰 기여를 한 벤 괴르첼이 다시 의견을 달았다. (셰인 레그와 벤 괴르첼이 AGI에 어떤 기여를 했는 가는 내 책 ‘AGI의 시대’에 잘 나온다).

“그렇습니다. 우리가 2005년에 ‘Artificial General Intelligence’이라는 책을 출판했을 때나 2006년에 첫 번째 AGI 워크숍을 조직했을 때 그리고 2008년에 첫 번째 AGI 컨퍼런스를 개최했을 때 의미했던 의미의 인간 수준의 AGl에 아직 도달하지 못했습니다. 이는 AI 연구 커뮤니티에서 이 용어가 알려지게 된 계기가 되었습니다.

그때 우리가 의미한 것은 전형적인 인간과 유사한 지식과 능력의 일반성을 갖는 것뿐만 아니라(명확히 말해서 o3는 아직 그 수준에 이르지 못했으며, 어떤 면에서는 초인적이고 다른 면에서는 심하게 인간 이하입니다), 경험으로부터 매우 다른 상황에 대해해 일반화할 수 있는 인간과 같은 능력을 갖는 것입니다… 제가 본 LLM 중심 시스템은 이것에 근접하지도 못했습니다. …“

마커스 교수는 지금 우리가 겪는 혼란은 AGI라는 용어 정의의 문제고 그렇다면 지금 우리가 보는 지능은 무엇일까 하는 질문을 던진다. 2022년 그가 내린 AGI 정의는 ‘모든 지능을 간단히 말한 것이며, 유연하고 일반적이며 인간 지능과 동등하거나 그 이상의 수완과 신뢰성을 갖춘 지능’이라고 했다. 이런 개념에서 LLM은 그 신뢰성 문제 때문에 특히 새로운 상황에서 대처하는 신뢰성 문제로 AGI라고 부를 수 없다는 것이다.

우리가 봤듯이 생성형 AI의 대답은 많은 경우 피상적이다. 존재하지 않은 것을 만들어 내거나 자주 어리석은 실수를 한다. LLM은 여전히 사람이 참여해야 하고 뭔가가 빠져 있다.

광범위하지만 얕은 AI가 안전할 것이라고 보장할 수 없고, 인간 친화적라고 보장할 수 없으며, 우리가 요구하는 것을 할 것이라고 보장할 수 없다. 그런 의미에서 지금 LLM 기반의 지능을 ‘광범위하고 얕은 지능’이라고 부르겠다는 것이 마커스의 제안이다. 그가 이번 글에서 강조하는 것은 ‘광범위하지만 얕은 AI를 넘어, 새롭고 더 안전하고 신뢰할 수 있는 시스템으로 전환하는 것은 인류에게 주요 연구 우선순위가 되어야 한다’는 점이다.

게리 마커스는 X에서 활동이 많지만 그의 핵심 글은 그가 발행하는 블로그를 보는 것이 더 좋다. 가입하면 뉴스레터를 메일로 받아볼 수 있다.