AI시대, 앞으로 다가올 10년 - Chapter 01
The Decade Ahead written by Leopold Asch
AI 시대의 글을 쓰다보니 앞으로 AI가 어떻게 변화할까? 라는 궁금증으로 가장 파워풀한 정보를 찾기를 원했다.
그 중 인터넷에서 Open AI 수석연구원의 160페이지 레포트를 찾아냈다.
레포트의 내용은 너무나 커서 내가 과연 봐도 되는가 하는 의구심을 자아낸다.
예를 들면, 2030년에는 AGI(인공지능)을 만드는데 1300조원이 필요하며, 엔비디아 를 포함한 GPU시장은 막대한 성장을 이룩한다는 내용이다.
내가 쓴 글로만 보면 허무맹랑한 소리처럼 들릴지 모른다. 하지만 160페이지의 리포트를 읽고나면 당신의 생각은 달라질것이다.
지금부터 챕터 하나 하나씩 소개하려고 한다.
당신이 AI를 바라보는 관점과 시각을 이 리포트를 통해 무한하게 키워나가길 바랍니다.
The Decade Ahead written by Leopold Aschenbrenner서문
You can see the future first in San Francisco
미래는 샌프란시스코에서 가장 먼저 보입니다.
지난 1년 동안, 사람들의 관심은 100억 달러 규모의 컴퓨팅 클러스터에서 1,000억 달러, 그리고 이제는 조 단위 클러스터로 옮겨갔습니다. 매 6개월마다 회의실에서 논의되는 금액에 0이 하나씩 더해지고 있습니다. 그 이면에서는 앞으로 남은 10년 동안 사용할 수 있는 모든 전력 계약을 확보하려는 치열한 경쟁이 벌어지고 있으며, 가능한 모든 전압 변압기를 구하려는 움직임도 있습니다. 미국의 대기업들은 오랜만에 미국 산업의 힘을 총동원하기 위해 수조 달러를 쏟아부을 준비를 하고 있습니다. 10년이 끝날 무렵, 미국의 전력 생산량은 수십 퍼센트 증가할 것이며, 펜실베이니아의 셰일 가스전부터 네바다의 태양광 발전소까지 수억 개의 GPU가 돌아갈 것입니다.
인공 일반지능(AGI) 경쟁이 시작되었습니다. 우리는 생각하고 추론할 수 있는 기계를 만들고 있습니다. 2025년이나 2026년쯤이면 이 기계들은 많은 대학 졸업생들보다 더 뛰어난 능력을 갖추게 될 것입니다. 10년이 끝날 무렵, 이 기계들은 당신이나 나보다 더 똑똑해질 것이며, 진정한 의미의 초지능을 갖추게 될 것입니다. 그 과정에서, 수십 년 동안 보지 못했던 국가 안보 관련 조치들이 발동될 것이며, 곧 '프로젝트'가 시작될 것입니다. 운이 좋다면 우리는 중국 공산당(CCP)과의 전면적인 경쟁에 들어설 것이고, 운이 나쁘다면 전면전이 벌어질 수도 있습니다.
지금은 모두가 AI에 대해 이야기하고 있지만, 다가올 일에 대해 제대로 이해하고 있는 사람은 거의 없습니다. 엔비디아의 분석가들은 여전히 2024년이 정점에 가까울 것이라고 생각하고 있습니다. 주류 전문가들은 "그저 다음 단어를 예측하는 것일 뿐"이라는 고의적인 무지에 빠져 있습니다. 그들은 단지 과장된 이야기나 기존의 비즈니스 패턴만을 보고 있으며, 기껏해야 인터넷 규모의 기술 변화 정도로만 생각하고 있습니다.
머지않아 세상은 깨어날 것입니다. 하지만 지금 이 순간, 상황을 제대로 파악하고 있는 사람은 아마도 몇 백 명 정도일 것입니다. 그들 대부분은 샌프란시스코와 AI 연구소에 있습니다. 어떤 운명의 장난인지, 저도 그들 중 한 명이 되었습니다. 몇 년 전만 해도 이 사람들은 미친 사람 취급을 받았지만, 그들은 추세를 믿었고, 그 덕분에 지난 몇 년간 AI의 발전을 정확히 예측할 수 있었습니다. 이들이 앞으로 몇 년에 대해서도 맞을지는 두고 봐야 할 일입니다. 하지만 이들은 제가 만난 사람들 중 가장 똑똑한 사람들이며, 바로 이 기술을 만들고 있는 사람들입니다. 이들이 역사의 한 페이지에 작은 각주로 남을지, 아니면 실라드, 오펜하이머, 텔러처럼 역사에 길이 남을지는 아직 알 수 없습니다. 하지만 이들이 미래를 어느 정도라도 정확히 보고 있다면, 우리는 엄청난 변화를 맞이하게 될 것입니다.
제가 보고 있는 것을 여러분께 말씀드리겠습니다.
원문
그리고 아래에는 이 리포트에 관한 목차이다.
Chat GPT의 발전과 인공지능에서 초지능까지의 발전을 다룬다.
Chat GPT가 변화해온것만큼 앞으로는 엄청난 초지능이 발전한다는 내용이다.
1장부터 자세한 내용을 차근차근 다룰 수 있도록 하겠다.
목차
1장: GPT-4에서 AGI까지 - 단계별 변화(Orders of Magnitude)
2027년까지 AGI 도달은 상당히 가능성이 있다. GPT-2에서 GPT-4까지는 약 4년 동안 유치원생 수준에서 똑똑한 고등학생 수준으로 발전했다. 컴퓨팅 자원(연간 약 0.5 단계), 알고리즘 효율성(연간 약 0.5 단계), 그리고 비활성화된 잠재 능력 해제(챗봇에서 에이전트로의 전환) 등을 고려하면, 2027년까지 또 한 번 유치원생에서 고등학생 수준의 큰 도약이 예상된다.
2장: AGI에서 초지능까지 - 지능 폭발
AI는 인간 수준에서 멈추지 않을 것이다. 수억 개의 AGI 시스템이 AI 연구를 자동화하면서, 10년치 알고리즘 발전(5단계 이상)을 1년 만에 압축할 수 있다. 그 결과 인간 수준을 넘어서는 초지능 시스템이 빠르게 등장할 것이다. 그 힘과 위험은 극적일 것이다.
3장: 도전 과제
3a. 조 단위 클러스터 경쟁: AI 매출이 급격히 증가함에 따라, 이번 10년이 끝나기 전 수조 달러가 GPU, 데이터센터, 전력 인프라에 투자될 것이다. 미국의 전력 생산이 수십 퍼센트 증가하는 등 산업 동원은 매우 강렬할 것이다.
3b. 연구소 보안 강화: AGI 연구소의 보안은 아직도 사후 대책 수준이다. 현재 그들은 AGI의 핵심 비밀과 가중치를 중국에 거의 넘겨주는 수준이다. 국가 주도적 위협으로부터 AGI 비밀을 지키는 일은 엄청난 노력이 필요하며, 현재 우리는 그 준비가 부족하다.
3c. 초정렬(Superalignment): 인간보다 훨씬 똑똑한 AI 시스템을 통제하는 것은 아직 풀리지 않은 기술적 문제이다. 해결 가능한 문제지만, 빠른 지능 폭발 상황에서 제어가 실패할 가능성도 크다. 실패하면 재앙적 결과를 초래할 수 있다.
3d. 자유 세계의 생존: 초지능은 결정적인 경제적, 군사적 이점을 제공할 것이다. 중국은 결코 게임에서 배제되지 않았다. AGI 경쟁에서 자유 세계의 생존이 달려있다. 우리는 권위주의 세력에 맞서 우리의 우위를 유지할 수 있을까? 그리고 이 과정에서 자멸을 피할 수 있을까?
4장: 프로젝트
AGI 경쟁이 심화됨에 따라, 국가 안보 국가가 개입할 것이다. 미국 정부는 2027/28년 경 잠에서 깨어날 것이며, 정부 주도의 AGI 프로젝트가 시작될 것이다. 스타트업이 초지능을 다룰 수는 없다. 어딘가의 보안 구역에서, 최종 게임이 시작될 것이다.
5장: 마지막 생각들
우리가 맞다면, 어떤 일이 벌어질까?
부록
The Decade Ahead, 앞으로 다가올 10년
