AI 투자 거품: 800조 원은 어디로 갔는가?
Sequoia Capital
이 글은 Sequoia Capital의 David Cahn이 올린 2023년의 ‘AI’s $200B Question’과 2024년의 ‘AI’s $600B Question’를 번역, 의역, 재구성한 글입니다.
[2023년, 2,000억 달러(270조원)짜리 질문 - ‘수익은 다 어디로 갔는가?’] - 2023년 9월 20일
2022년 여름부터 시작된 생성형 AI가 초고속의 속도로 세상을 휩쓸고 있다. 엔비디아(NVIDIA)의 2023년 2분기 실적 호조는 이를 더 가속화시켰고, 생성형 AI를 위한 CPU와 AI 모델 학습에 대한 채울 수 없는 수요 수준을 보여줬다. 엔비디아의 실적 발표 이전에, 이미 챗지피티(ChatGPT), 미드저니(Midjourney), 스테이블 디퓨전(Stable Diffusion)과 같은 일반 소비자 대상 서비스들이 AI에 대한 인식을 한층 끌어올린 상태기도 했다. 그렇게 창업자들과 투자자들은 AI가 수십억 달러 수준의 수익을 창출할 수 있다는 실증적인 목격을 하게 됐다. 이렇게 생성형 AI는 이전에 받지 못했던 전례없는 주목을 받게 되었다.
엔비디아의 실적과 같은 사례들을 기반으로 투자자들은 투자를 집행해오고 있고, 그 결과 AI에 대한 투자는 나날이 늘어가며 기록적인 가치평가를 받고 있다. 하지만 중요한 큰 의문이 덩그러니 남아있다.
- 그 많은 GPU들은 어디에서 쓰이고 있는가?
- GPU를 사용하는 곳의 고객들은 누구인가?
- 이 급격한 투자들이 모두 수익을 내려면 얼마나 많은 가치가 창출되어야 하는가?
GPU에 지출되는 1달러 당 대략 1달러가 데이터 센터에서 GPU를 운영하는 데 필요한 에너지 비용으로 지출된다. 엔비디아가 연말까지 500억 달러 수준의 GPU 매출을 올린다면, GPU를 사들이고 GPU 데이터 센터를 운영하는 회사는 약 1,000억 달러를 지출(GPU 구매 비용 + 운영 에너지 비용)하게 되는 셈이다.
그렇게 설립된 데이터 센터의 GPU를 사용하게 되는 최종 사용자(ex. 스타벅스, X, 테슬라, 깃헙 코파일럿, 스타트업 등)들은 AI를 통해 제품과 서비스를 제공할 것이다. 만약 이들이 50%의 마진을 필요로 한다고 가정하면, 현재의 GPU 자본 지출을 기준으로 했을 때, 2,000억의 고객 생애 매출(lifetime revenue)를 창출해내야 초기 자본 투자를 회수할 수 있는 것이다. 이는 클라우드 벤더들의 마진은 포함되지 않은 수치다. 클라우드까지 고려하면 요구되는 매출은 더더욱 늘어날 것이다.
공시 자료에 의하면, 대부분의 데이터 센터 증설은 구글(Google), 마이크로소프트(Microsoft), 메타(Meta)와 같은 빅테크 기업에서 진행되고 있으며, 이들은 지속적으로 데이터 센터에 대한 투자액을 늘리고 있다. 이러한 빅테크 기업들의 자본 지출은 정말로 실제 최종 고객 수요와 직접적으로 연결되어있으며, 미래의 수요에 대한 예측에 기반하여 설계된 것인가? 이게 바로 2,000억 달러짜리 질문이다.
오픈에이아이(OpenAI)는 연간 10억 달러의 수익을 창출하고 있다고 한다. 마이크로소프트는 코파일럿(Copilot)과 같은 제품으로 100억 달러의 AI 관련 수익을 낼 것으로 예상한다고 발표했다. 구글, 메타, 애플도 AI 제품으로 비슷한 수준의 수익을 창출할 것이라고 가정해보자. 그리고 오라클(Oracle), 바이트댄스(ByteDance), 텐센트(Tencent), X, 테슬라(Tesla)와 같은 기업들이 50억 달러를 번다고 가정해보자. 이 금액은 굉장히 호실적일 때의 가정이다. 이러한 가정을 기반으로 했을 때, 현재 수준의 자본 지출 상태에서는 1,250억 달러 이상의 구멍을 메워야한다.
*회사 전체 수익이 아닌 AI가 발생시키는 수익 가정
스타트업 생태계가 이 큰 구멍을 메울 수 있는 기회를 가지고 있다. 세콰이어(Sequoia)의 목표는 이러한 ‘GPU 지출을 메울 수 있는’ 차세대 스타트업을 발굴해내는 것이다. AI 기술을 잘 활용하여 진짜 존재하는 고객의 가치를 만들어내는 곳 말이다.
이 자본 지출에 대한 분석은 우리가 현재 목격하고 있는 현실과의 간극을 분명하게 하기 위함이다. 2017년부터 이어져온 딥러닝 기술의 발전과 혁신이 드디어 대중의 관심을 받게된 것은 희소식임이 분명하다. AI를 위한 자본 지출이 현재 대대적으로 이루어지고 있으며, 이는 장기적으로 AI 개발 비용을 극적으로 줄여줄 것이다. 옛날에는 실제 서버를 구축해야 했지만, 요즘에는 클라우드로 해결되는 것처럼 말이다. 비슷하게, 많은 AI 회사들이 현재 GPU에 투자금의 대부분을 소진하고 있다. 이러한 흐름으로 인해 공급적인 제약이 빠르게 공급 과잉으로 바뀌면서, AI 실행 비용이 낮아질 것이다. 이는 더 많은 제품 개발과 창업자들의 유입을 촉진시켜줄 것이다.
역사적으로, 기술의 순환 주기상 인프라 과잉 구축은 자본을 소각(incineration)시켜왔지만, 동시에 제품 개발의 한계 비용을 낮춰줌으로써 미래 혁신의 가능성을 열어주었다. AI 기술에서도 이러한 패턴이 반복될 것으로 예상된다.
스타트업들에게 시사점은 명확하다. AI 생태계 내에 있는 하나의 커뮤니티로서, 인프라가 아닌 최종적인 고객 가치에 집중하여 사고를 전환할 필요성이 크다. 고객 만족은 훌륭한 비즈니스의 핵심 사항이다. AI가 실질적인 영향을 미치려면 기술이 실제로 사람들의 삶을 더 나아지게 만들 수 있어야 한다. 이 엄청난 AI 기술을 고객들의 삶을 바꿀 만큼 의미있는 제품으로 녹여낼 방법들에 대해 고민하면서 말이다.
AI 인프라 구축은 지속적으로 진행되고 있다. 데이터 센터뿐만 아니라 많은 AI 파운데이션 모델도 만들어지고 있다. 그리고 AI 개발을 위한 좋은 도구들도 많이 나왔다. 다시 2,000억짜리 질문으로 돌아가보자. ‘이 모든 돈을 다시 인프라에 투자할 것인가, 아니면 사람들의 삶을 바꿔나가는 데에 사용할 것인가?’
[2024년, 6,000억 달러(800조)짜리 질문] - 2024년 6월 20일
2023년의 글(위 글)에서는 ‘수익은 어디로 갔는가?’에 대한 글이었다. 당시 AI 인프라 구축에 따른 수익 기대치와 실제 AI 생태계의 수익 성장 사이에 큰 격차가 있었기 때문이다. 이번 주, 엔비디아가 세계에서 가장 가치있는 기업으로 등극했다. 사람들은 이 소식을 보고 2023년의 분석에 대한 반응을 남기기 시작했다. “2,000억짜리 질문은 해결된건가요? 아니면, 악화된건가요?”
현재 이 분석을 동일하게 다시 해본다면 2,000억 달러(270조 원) 질문은 이제 6,000억 달러(800조 원) 질문이 되었다. 그렇다면 2023년 9월 이후 무엇이 바뀐 것인가?
(1) 공급 부족의 해소
2023년 말에 GPU 공급 부족이 절정을 찍었다. 스타트업들은 VC와 연락 가능한 모든 사람에게 연락하여 GPU 접근에 대한 도움을 요청했다. 하지만 현재 대부분의 사람들에게 이 문제는 거의 완전히 해결되었으며, 합리적인 리드 타임(lead time)으로 GPU를 쉽게 구할 수 있다.
(2) GPU 재고(stockpile)가 증가하고 있다.
엔비디아는 2023년 4분기에 데이터 센터 매출의 약 절반이 대형 클라우드 제공 업체로부터 나왔다고 보고했다. 마이크로소프트 단독으로 엔비디아 4분기 매출의 약 22%를 차지했을 것으로 추정된다. 이는 대규모 자본 지출이 역사적 수준에 달성했음을 보여준다. 이러한 자본 지출이 빅테크 기업들의 2024년 1분기 실적 발표의 주요 주제였으며, CEO들은 사실상 시장에 “당신이 좋아하든 말든 우리는 GPU에 투자할 겁니다.”라고 말하고 있는 상황이다. 하드웨어 부품을 쟁여두는 것은 새로운 현상은 아니지만, 재고가 충분히 쌓이게 되면 수요가 감소하게 됨에 따라 이는 시장 재조정의 촉매제로 역할한다.
(3) 오픈에이아이는 여전히 AI 수익의 대부분을 차지하고 있다.
오픈에이아이의 수익은 2023년 말 16억 달러에서 현재 34억 달러로 증가했다. 소수의 스타트업들이 1억 달러 미만 범위로 수익을 증가시키긴 했지만, 여전히 오픈에이와의 간극은 여전히 크게 남아있다. ChatGPT 이외에 소비자들이 실제로 사용하고 있는 AI 제품은 얼마나 될까? 넷플릭스에 월 $15.49, 스포티파이에 월 $11.99달러를 내면서 얻고 있는 고객 가치를 생각해보자. 장기적으로 AI 기업들은 소비자들이 지갑을 지속적으로 열 수 있도록 상당한 가치를 제공할 수 있어야 한다.
(4) 1,250억 달러의 구멍이 5,000억 달러 구멍이 됐다.
2023년의 분석에서 가정한 매출 수준(빅테크 100억 달러 수준)은 여전히 변함없이 적용될 수 있으며, 이에 따라 손실 규모만 천문학적으로 늘어나게 됐다.
(5) 엔비디아의 블랙웰 B100이 곧 출시된다.
2024년 초, 엔비디아는 25% 높은 비용으로 2.5배 더 나은 성능을 보여줄 B100 칩을 발표했다. 이는 엔비디아 칩에 대한 최종적인 수요 급증을 이끌 것으로 예상되며, 올해 후반에 모든 사람들이 이 칩을 확보하려고 노력하게 되면서 또 다른 공급 부족이 있을 가능성이 있다.
AI의 수익 분석에 대한 주요 반박 중 하나는 “GPU 자본 지출은 철도 건설과 같다.”라는 의견이었다. 철도 건설은 초기에는 막대한 비용이 들지만, 완성 후에는 다양한 혜택을 가져오는 것처럼 장기적으로 무수한 이점을 가져올 것이라는 것이다. 이 의견은 타당하기도 하지만, 몇 가지 요점을 놓치고 있기도 하다.
(1) 가격 결정력(pricing power) 부족
철도 건설과 같은 물리적 인프라 건설에는, 본질적으로 그 인프라 자체에 본질적인 가치가 있는 경우가 많다. 샌프란시스코와 로스앤젤레스 사이의 철로를 소유한 회사라면, 독점적인 가격 결정력을 갖고 가격을 책정할 수 있다. 하지만 GPU 센터는 가격 결정력이 훨씬 적다. GPU 컴퓨팅은 점점 ‘사용 시간’을 기준으로 계량되는 상품으로 변하고 있다. 과점 상태의 CPU 클라우드와 달리, 전용 AI 클라우드를 구축하는 신규 진입자들이 계속해서 시장에 쏟아지고 있다. 항공사처럼 독점이나 과점이 없는 상태에서, 높은 고정 비용과 낮은 한계 비용을 가진 사업은 항상 가격이 한계 비용 수준으로 내려간다.
(2) 투자 소각(investment incineration)
철도 건설도 해당되는 경우로, 투기적 투자 열풍은 높은 자본 소각으로 이어진다. 즉, 투기적 기술 파동의 시기에는 많은 투자자들이 돈을 잃게 되기 때문에, 승자는 극소수고 패자는 널리게 되는 상황이 벌어진다. 18세기 영국에서는 운하 건설 붐이 일어났고, ‘운하’라는 단어가 붙은 투자자 모집에는 돈이 미친듯이 몰렸다. 하지만 이 투자 열풍은 운하에 치명적인 영향을 끼치게 된다. 운하를 통해 들여온 낮은 값의 많은 석탄과 철강이 철도의 경제성을 올리게 되었고, 오히려 철도 건설 사업이 더욱 흥하게 된 것이다. AI도 운하처럼 되지 않으리란 법이 없다.
(3) 감가상각(Depreciation)
철도 건설은 무어의 법칙(반도체의 성능이 2년마다 2배로 성능이 증가한다는 법칙)을 따르지 않기 때문에, 감가상각의 속도가 훨씬 느리다. 기술의 역사상 반도체는 계속해서 발전하고 있다. 엔비디아는 B100과 같은 더 나은 차세대 칩을 계속 생산할 것이고, 이는 이전 세대 칩의 더 빠른 감가상각으로 이어질 것이다. 현재 시장은 현재 칩이 3-4년 후에 가치를 유지할 것이라고 생각하면서 차세대 칩이 개선될 속도를 과소평가하고 있다.
(4) 승자와 패자
과도한 인프라 구축 기간동안 항상 승자가 있었다. 우리는 이러한 승자와 패자가 누구인지 주의 깊게 살펴볼 필요가 있다. AI는 변혁적인 기술적 흐름이 될 것이며, GPU 연산에 드는 비용의 하락은 장기적으로 혁신과 스타트업에 좋은 영향을 끼칠 것이다. 창업자들은 계속해서 AI를 구축할 것이며, 더 낮을 비용과 여러 실험들을 통해 축적한 학습들로 더 많은 혜택을 누릴 수 있을 것이기 때문이다. 그러나 위에 언급된 예측들이 현실화된다면, 투자자들이 가장 큰 해를 입게될 것이다.
AI로 인해 엄청난 양의 경제적 가치가 창출될 것이다. 최종 사용자(end user)에게 실질적인 가치를 제공하기 위해 노력하는 회사들은 큰 보상을 얻게될 것은 분명하다. 우리는 한 세대의 기술적 흐름을 정의할 정도의 잠재력을 가진 시기를 살아나가고 있다. 엔비디아와 같은 기업들은 이러한 흐름을 가능하게 하는 데 있어 해온 역할에 엄청난 칭찬을 받아 마땅하며, 앞으로도 생태계에서 중요한 역할을 할 것이다.
투기적 열풍은 기술 발전에 항상 따라오는 것이며, 두려워 할 것은 아니다. 이 순간을 냉철하게 바라보는(level-headed) 사람들만이 탁월한 기업을 만들 기회를 가질 것이다. 우리는 실리콘밸리와 전 세계로 퍼진 망상을 믿지 않도록 주의해야 한다. 그 망상이란, 우리 모두가 아주 빠르게 부자가 될 것이며, AGI가 머지 않아 도래하기 때문에 GPU를 비축해야한다는 것이다.
현실에서의 AI에 대한 여정은 매우 긴 여정이 될 것이다. 상승과 하락이 있긴 하겠지만, 분명히 가치있는 일일 것이다.
Source:
https://www.sequoiacap.com/article/follow-the-gpus-perspective/
