AI가 AI를 만드는 순간, 인류는 따라갈 수 있을까?
DRM News "FULL DISCUSSION: Google's Demis Hassabis, Anthropic's Dario Amodei Debate the World After AGI | AI1G"
위 콘텐츠에서 목화씨를 가져온 콘텐츠
생성형 AI의 발전 속도가 둔화되고 있다는 이야기는 반복된다. 데이터는 고갈됐고, 모델은 이미 할 만큼 했으며, 이제는 혁신보다 최적화의 국면에 들어섰다는 주장이다. 그러나 구글 딥마인드 CEO 데미스 허사비스와 앤트로픽 CEO 다리오 아모데이는 이 진단에 동의하지 않는다. 다만 같은 속도를 바라보는 두 사람의 시선과 해석에는 분명한 차이가 있다. 이 AI 거장들의 대화를 통해 AGI의 미래를 잠시 엿보자.
AI가 AI를 만드는 루프 - AGI 타임라인에 대한 두 개의 전망
다리오 아모데이는 비교적 공격적인 전망을 유지한다. 그는 2026년 혹은 2027년이면 노벨상 수상자 수준의 지적 능력을 갖춘 모델이 등장할 수 있다고 본다. 핵심 근거는 ‘AI가 AI를 만드는 루프’다. 모델이 코드를 작성하고, AI 연구를 수행하며, 그 결과가 다시 차세대 모델 개발로 이어지는 구조다.
이미 현장의 엔지니어들은 코드를 처음부터 쓰기보다, 모델이 작성한 코드를 편집하는 역할에 가깝다. 다리오는 소프트웨어 엔지니어 업무의 상당 부분을 모델이 수행하는 시점이 6~12개월 내에 올 수도 있다고 본다. 이 루프가 닫히는 순간, 발전 속도는 인간의 직관을 벗어날 가능성이 크다.
데미스 허사비스의 시선은 더 신중하다. 그는 “2020년대 말까지 인간의 모든 인지 능력을 갖춘 시스템이 등장할 확률이 50%”라는 기존 입장을 유지한다. 코딩이나 수학처럼 검증 가능한 영역은 빠르게 자동화되지만, 자연과학처럼 실험과 가설 검증이 필요한 분야는 시간이 더 걸린다는 판단이다.
특히 그는 질문을 던지고, 새로운 가설을 세우는 과학적 창의성의 영역에서 아직 모델의 한계가 분명하다고 본다. 자기 개선 루프가 인간의 개입 없이 완전히 닫힐 수 있을지는 아직 미지수라는 것이다.
숫자로 드러나는 가속 - 기술 논쟁 뒤의 사업 현실
흥미로운 점은 이 논의가 추상적인 철학에만 머물지 않는다는 점이다. 앤트로픽은 2023년 매출 1억 달러에서 2024년 10억 달러, 2025년에는 100억 달러까지 성장할 것으로 예상된다. 기술 발전의 속도가 단지 연구실 안의 문제가 아니라는 방증이다.
구글 딥마인드 역시 제미나이를 중심으로 오픈AI와의 격차를 빠르게 좁히며, 다시 선두 경쟁에 복귀했다고 평가받는다. AGI 논쟁은 이미 거대한 산업 경쟁의 중심에 있다.
노동 시장에 닥칠 충격 - 문제는 속도다
경제적 영향에 대한 두 사람의 공감대는 분명하다. 변화의 방향보다 속도가 문제라는 점이다.
다리오 아모데이는 향후 1~5년 내 초급 사무직 일자리의 절반이 사라질 수 있다는 전망을 유지한다. 과거 농업에서 제조업, 제조업에서 지식 노동으로 이동하며 인류는 적응해왔지만, 이번 변화는 기하급수적 속도로 진행되고 있다. 인간과 사회의 적응 속도가 이를 따라가지 못할 가능성이 크다는 우려다.
데미스 허사비스는 단기적으로 인턴십이나 초급 직무가 타격을 받을 수는 있지만, 장기적으로는 더 가치 있고 의미 있는 새로운 직업이 등장할 것이라고 본다. 다만 그는 AGI 이후의 세계를 ‘미지의 영역’이라고 표현한다. 단순한 분배의 문제가 아니라, 인간이 무엇을 위해 존재하는지라는 질문이 다시 제기될 수 있다는 것이다.
두 사람 모두 정부의 대응이 이 변화의 규모를 따라가지 못하고 있다는 점에는 의견을 같이한다.
지정학과 반도체 - 속도를 늦추지 못하면 합의는 불가능하다
대담의 분위기가 가장 날카로워지는 지점은 지정학적 리스크다. 특히 미국과 중국 간 AI/반도체 경쟁에 대해 다리오 아모데이는 강경한 입장을 보인다.
그는 최신 AI 칩을 중국 같은 적성국에 판매하지 않는 것이 우리가 시간을 벌 수 있는 가장 확실한 방법이라고 말한다. “공급망에 중국을 묶어두기 위해 칩을 팔아야 한다”는 논리는, 보잉사의 이익을 위해 북한에 핵무기를 파는 것과 다르지 않다는 비유까지 든다.
경쟁국이 동일한 속도로 기술을 개발한다면, 안전을 위해 속도를 조절하자는 국제적 합의는 성립할 수 없다는 판단이다.
데미스 허사비스 역시 미중 경쟁이 격화될수록 최소한의 국제적 안전 기준과 협력이 필요하다고 강조한다. 이 기술은 국경을 넘어 인류 전체에 영향을 미치기 때문이다.
안전성이라는 마지막 관문 - 기술적 낙관과 문명적 불안 사이
앤트로픽은 ‘기계적 해석 가능성(mechanistic interpretability)’ 연구에 집중하고 있다. 모델 내부를 들여다보고, 왜 그런 행동을 했는지를 이해하려는 시도다. 기만적 행동이나 예측 불가능한 오작동을 사전에 잡아내기 위한 접근이다.
데미스 허사비스는 딥마인드 설립 초기부터 AI를 대표적인 이중 용도 기술로 인식해왔다고 말한다. 충분한 시간과 협력이 주어진다면 기술적 안전성 문제는 해결 가능하다는 낙관도 함께 제시한다.
다리오 아모데이는 자신의 에세이 ‘Machines of Loving Grace’를 언급하며, AI가 질병 치료 같은 엄청난 혜택을 가져올 것이라 확신한다고 말한다. 동시에 바이오 테러, 권위주의 정부의 악용 같은 위험을 인류가 ‘기술적 사춘기’로 잘 넘겨야 한다고 강조한다.
페르미 역설에 대한 답 - 미래는 정해져 있지 않다
“왜 우주에는 지적 생명체의 흔적이 보이지 않는가. 혹시 AI 때문에 멸망했기 때문은 아닌가.”라는 질문에 데미스 허사비스는 고개를 젓는다. 인류는 이미 다세포 생물의 진화라는 거대한 필터를 통과했을 가능성이 높다는 것이다.
미래는 정해진 결말이 아니라, 우리가 써 내려가는 과정에 가깝다.
관전 포인트는 하나 - AI가 AI를 만드는 순간
두 CEO가 공통으로 꼽은 향후 최대 관전 포인트는 명확하다.
“AI 시스템이 AI 시스템을 만드는 과정이 어디까지 진행되는가.”
이 루프가 얼마나 빠르고 효율적으로 닫히느냐가 AGI 도달 시점을 결정할 것이다. 흥미롭게도 두 사람 모두, 사회가 적응할 시간을 갖기 위해 기술 발전 속도가 현재의 예측보다 조금은 느리게 흘러가길 바란다고 말한다.
AGI는 단지 기술의 문제가 아니다. 속도, 분배, 권력, 그리고 인간의 역할을 다시 정의하는 문제다. 이 질문 앞에서 우리는 아직 답을 쓰는 중이다.
photo: DRM News
회사 밖의 삶이 걱정이라면, 퇴사를 하고 싶다면? 이 책을 꼭 읽어보세요!
https://product.kyobobook.co.kr/detail/S000217556693
