바보야, 문제는 스케일이야!⚡

안녕하세요, 촌장입니다.

4월 20일이었죠. 아마존이 앤트로픽에 250억 달러(약 35조 원)를 추가 투자한다는 뉴스가 떴습니다. 기존에 투자한 80억 달러(약 11조 원)는 제외하고 더 추가된 투자 금액만 이 정도입니다. 그리고 앤트로픽은 향후 10년간 아마존 클라우드(AWS)에 1,000억 달러(약 140조 원) 이상을 쓰기로 했습니다. 한 기업에 대한 단일 투자로는 정말 역대급이라고 할 수 있죠.

최근에는 AI 성능에 대한 뉴스 뿐 아니라 AI 인프라에 대한 투자에 대한 소식도 풍성합니다. 그리고 그 규모도 이전에는 상상할 수 없었던 규모로 이루어지고 있습니다. 대체 왜 이렇게 엄청난 투자가 이루어지는 걸까요?

아직도 AI의 성능에 대한 뉴스가 사람들의 관심을 끌지만, 앞으로는 "누가 AI에 얼마를 투자했다"가 더 큰 화두가 되지 않을까 싶어요. AI 경쟁의 무게 중심이 '기술'에서 '규모'로 이동하고 있기 때문이죠.

1992년 미국 대통령 선거에서 빌 클린턴 민주당 후보 캠프에서 진행했던 유명한 구호가 있죠.

"바보야, 문제는 경제야 (It's the economy, stupid)"

어쩌면 이제 AI 경쟁의 시대에는 이런 구호가 딱 맞을 것 같아요.

바보야, 문제는 규모야 (It's the Scale, stupid)

오늘 수요레터에서는 AI 경쟁의 진짜 전장이 어디로 옮겨가고 있는지, 그리고 그것이 우리에게 어떤 의미인지를 함께 살펴보려 합니다.

자, 그럼 시작해 볼까요?

1,000조 원의 베팅

올해 빅테크 기업들이 AI 인프라에 투자하겠다고 발표한 금액을 합산하면 정말 어마어마한데요.

아마존은 올해 2,000억 달러(약 280조 원)의 자본 지출을 예고했습니다. 대부분 AWS 데이터센터 확장용이라고 알려져 있구요.

구글은 1,750억~1,850억 달러(약 250조 원)를 계획하고 있고, 이는 작년(910억 달러)의 두 배입니다.

메타는 1,150억~1,350억 달러(약 170조 원), 마이크로소프트는 연간 1,200억 달러(약 170조 원) 이상의 속도로 집행 중입니다.

이 네 회사만 합치면 올해 약 7,000억 달러, 한화로 약 980조 원에 달합니다. 여기에 오라클의 500억 달러까지 더하면 거의 1,000조 원입니다.

닷컴 버블, 모바일 혁명, 초기 클라우드 투자를 모두 합쳐도 이 규모에 미치지 못합니다. 기술 산업 역사상 단일 연도 최대 자본 지출입니다.

이 돈은 어디로 가고 있을까요? 대부분 데이터센터입니다. AI 모델을 학습시키고 운영하기 위한 GPU 서버, 냉각 시스템, 네트워크 장비, 그리고 이 모든 것을 돌릴 전력 인프라에 투입되고 있습니다.

왜 성능이 아니라 규모인가

AI 경쟁에서 왜 모델의 성능보다 인프라의 규모가 더 중요해지고 있을까요? 세 가지 구조적인 이유가 있습니다.

첫째, AI 모델이 커질수록 필요한 컴퓨팅 자원이 기하급수적으로 늘어납니다.

GPT-4의 학습에는 약 30메가와트의 전력이 지속적으로 필요했습니다. 소규모 도시 하나를 돌릴 수 있는 전력입니다. 모델이 세대를 거듭할수록 이 수치는 몇 배씩 뛰어오르고 있습니다.

아무리 뛰어난 AI 모델을 개발해도, 그것을 돌릴 물리적 인프라가 없으면 아무 소용이 없죠.

그래서 AI 빅테크 기업들은 이 규모의 레이스에 사활을 걸고 있는 겁니다.

둘째, AI의 수익 구조가 바뀌었습니다.

초기에는 모델 학습(트레이닝)이 비용의 대부분이었지만, 이제는 학습된 모델을 수억 명의 사용자에게 서비스하는 추론이 전체 AI 에너지 소비의 80~90%를 차지합니다.

ChatGPT 검색 한 번이 구글 검색의 10배 전력을 쓴다는 분석도 있습니다. 사용자가 늘어날수록, 서비스가 확장될수록, 필요한 인프라도 비례해서 커져야 합니다.

AI 서비스 업체들의 고민도 여기에 있습니다. 더 성능 좋은 모델을 바로 내놓고 싶어도 이를 뒷받침할 인프라가 없으면 실제 서비스를 할 수 없는 상황이죠. 최근 AI 서비스 비용이 사용량 중심으로 가파르게 상승하고 있는 것도 이런 투자 비용과 연관이 있다고 보여집니다.

셋째, 지난주 화제가 되었던 앤트로픽의 미토스(Mythos) 사례가 이 현실을 적나라하게 보여줍니다.

앤트로픽이 미토스를 일반 공개하지 않은 이유 중 하나로, 사이버보안 우려 외에도 컴퓨팅 자원의 한계가 거론되었습니다.

벤처투자자 마크 앤드리슨은 "보안 우려가 아니라 일반 배포를 지원할 컴퓨팅 자원이 부족해서 공개를 못하는 것 아니냐"고 직접적으로 의문을 제기했고, 실제로 앤트로픽은 최근 잦은 서비스 장애와 피크 시간대 사용 제한을 겪고 있다는 보도가 있었습니다.

실제로 더 강력한 모델은 더 많은 자원을 소모합니다. 지난주 출시된 Opus 4.7만 해도 동일한 텍스트를 처리하는 데 이전 모델(Opus 4.6) 대비 최대 35% 더 많은 토큰을 사용합니다. 커뮤니티 테스트에서는 요청당 비용이 평균 37.4% 증가한 것으로 나타났습니다.

모델은 더 똑똑해지지만, 그만큼 더 많은 연료를 태우는 겁니다. 미토스급 모델이라면 이 격차는 훨씬 더 클 것입니다.

결국 AI 경쟁의 승부처는 "누가 더 똑똑한 모델을 만드느냐"에서 "누가 그 모델을 실제로 돌릴 수 있는 인프라를 가졌느냐"로 옮겨가고 있다고 할 수 있습니다.

K 반도체의 천문학적 수혜

이 인프라 전쟁의 가장 직접적인 수혜자는 누구일까요? 바로 한국의 반도체 기업들입니다.

삼성전자는 올해 1분기 영업이익 57조 원이라는 역사적 실적을 기록했습니다. 전년 동기 대비 755% 폭증입니다. SK하이닉스는 23일 1분기 실적을 발표하는데, 증권가에서는 영업이익이 사상 최초 40조 원을 돌파할 것으로 전망하고 있습니다. 전년 대비 약 370% 증가입니다. D램 영업이익률이 82%에 달할 것이라는 분석도 있습니다.

이런 천문학적 실적의 배경에는 고대역폭메모리(HBM)라는 AI 전용 반도체가 있습니다. AI 모델은 방대한 데이터를 동시에 처리해야 하기 때문에 일반 메모리보다 훨씬 빠르고 넓은 대역폭을 가진 특수 메모리가 필요합니다. SK하이닉스가 이 HBM 시장에서 약 57%의 점유율로 독보적 1위를 차지하고 있고, 엔비디아의 최신 AI 칩에 거의 독점적으로 납품하고 있습니다.

흥미로운 역설도 하나 있습니다. HBM 증산에 생산 역량을 집중하다 보니, 상대적으로 일반 D램의 공급이 줄어들었습니다. 그 결과 일반 D램 가격도 급등해서, 마이크론의 CEO는 "현재 비(非)HBM 마진이 HBM보다 더 높다"고 밝히기까지 했습니다. AI 인프라 투자 열풍이 메모리 반도체 산업 전체를 끌어올리는 구조가 만들어진 겁니다.

노무라증권은 SK하이닉스의 올해 연간 영업이익을 256조 원으로 전망하고 있습니다. 삼성전자 전망치(약 327조 원)를 합하면 양사 합산 영업이익이 580조 원에 달합니다. 정말 어마어마하죠.

그림자 — 인프라 전쟁이 남기는 문제들

하지만 모든 거대한 확장에는 그림자가 따릅니다.

에너지 문제가 가장 심각합니다.

전 세계 데이터센터의 전력 소비량은 2022년 약 460테라와트시(TWh)에서 2026년 1,000TWh 이상으로 두 배 이상 급증할 것으로 전망됩니다. 미국에서는 데이터센터가 전체 전력의 약 4%를 소비하고 있으며, 2028년에는 6~12%까지 늘어날 수 있다는 분석이 나옵니다.

대형 AI 데이터센터 한 곳이 쓰는 전력이 인구 106만 명이 거주하는 고양시 전체 가정의 전력 소비량과 맞먹는다고 볼 수 있죠. 아마존이 만드는 AI 캠퍼스 하나의 전력 용량은 원자력 발전소 한 기가 제공할 수 있는 전력 용량에 달합니다.

2024년에는 AI 확장의 가장 큰 병목이 CPU 칩 공급이었습니다. 엔비디아가 GPU 공급이 시장의 수요을 따라가지 못했기 때문입니다. 하지만 2026년에는 그 병목이 메모리로 옯겨갔고, 아마 앞으로는 전력이 그 위치를 차지할 것 같습니다. GPU나 메모리는 구할 수 있지만, 그것을 돌릴 전기가 없는 상황이 현실이 되고 있습니다.

미국 북부 버지니아(세계 최대 데이터센터 밀집 지역)에서는 신규 전력 연결 대기 시간이 3~5년을 넘기고 있습니다.

환경 문제도 뒤따릅니다.

데이터센터에 공급되는 전력의 60% 이상이 여전히 화석 연료에서 나옵니다.

빅테크 기업들이 앞다퉈 재생에너지 약속을 하고 있지만, 재생에너지 건설 속도가 폭증하는 전력 수요를 따라가지 못하고 있는 실정입니다. 메타는 루이지애나의 새 데이터센터 부지에 원자력 발전소와의 전력 계약을 맺었고, 마이크로소프트는 해저 데이터센터 실험을 진행하기도 했습니다.

경제적 지속 가능성에 대한 우려도 있습니다.

이 정도 규모의 투자가 실제로 수익으로 돌아올 수 있을까요?

아마존은 올해 자본 지출 때문에 잉여 현금 흐름이 마이너스로 전환될 것으로 예상됩니다. 투자자들 사이에서 "이 규모의 AI 투자가 정당화될 수 있느냐"는 질문이 점점 커지고 있습니다.

하지만 AI 기업의 입장에서는 투자를 멈출 수 없습니다. 여기서 멈추는 순간 영원히 따라잡기 어려운 격차가 발생하니까요.

그렇게 먼 시간이 지나지 않은 시점에 소수의 기업들만이 이 경쟁에서 살아남아 있을 겁니다.

그리고 부의 집중 문제가 있습니다.

PwC의 최근 연구에 따르면, AI 경제적 가치의 74%를 상위 20%의 기업이 가져가고 있습니다.

인프라 규모가 경쟁력을 결정하는 구조에서, 이미 거대한 인프라를 가진 기업들이 더 큰 격차를 벌릴 수밖에 없는 '부익부 빈익빈'의 순환이 시작되고 있습니다.

이런 상황에서 우리가 국가가 주도해서 AI 소버린 정책을 마련하는 것은 가장 현실적인 전략이라고 볼 수 있습니다. 개별 기업들의 힘으로는 이제 AI 경쟁에서 살아남을 수 없습니다.

새로운 단계에 진입하다

19세기 미국의 철도 시대를 떠올려 봅니다. 당시에도 경쟁의 핵심은 기관차의 성능이 아니었습니다. 누가 더 많은 철로를 깔고, 더 넓은 네트워크를 확보하느냐가 승부를 결정했죠. 철도가 없으면 아무리 좋은 기관차도 달릴 곳이 없었으니까요.

지금 AI 산업이 바로 그 국면에 들어서고 있습니다. 모델의 성능은 여전히 중요하지만, 그 모델을 실제로 돌릴 수 있는 데이터센터, 전력, 반도체, 운영 시스템 등의 인프라 없이는 어떤 AI 혁신도 불가능합니다.

아마존이 앤트로픽에 35조 원을 베팅한 것은 단순히 한 AI 기업에 대한 투자가 아닙니다. AI 시대의 철도를 깔겠다는 폭석이죠. 삼성전자와 SK하이닉스의 천문학적 실적은 이 철도의 레일(반도체)을 만드는 기업의 가치를 보여줍니다.

AI 기술의 발전을 바라보는 우리의 시선도 한 단계 전환이 필요합니다. "AI가 무엇을 할 수 있는가"만 묻는 시대는 지나가고 있습니다. 이제는 "AI를 돌리려면 무엇이 필요한가", "그 비용을 누가 치르는가", "그 에너지는 어디에서 오는가"를 함께 물어야 합니다.

기술은 진공 속에서 발전하지 않습니다. 언제나 물리적 현실 위에 서 있습니다. AI가 아무리 가상의 세계를 다루더라도, 그것을 떠받치는 것은 결국 전기와 칩과 냉각수라는 지극히 물리적인 자원입니다. 이 사실을 잊는 순간, 우리는 AI의 미래를 반쪽만 보게 됩니다.

오늘 수요일, AI 뉴스의 화려한 헤드라인 너머에 있는 진짜 전장을 한번 들여다보시는 건 어떨까요.

촌장 드림