클라우드의 판이 다시 짜인다

‘네오클라우드(Neocloud)’ 시대의 개막

Together AI가 보여주는 새로운 AI 인프라 전쟁의 방향

AI의 성장은 더 이상 모델의 경쟁만이 아니다.
이제 진짜 전장은 ‘누가 엔비디아 GPU를 얼마나 효율적으로 빌려줄 수 있는가’,
즉 AI 인프라 경제의 주도권으로 옮겨가고 있다.

1. 새로운 클라우드 주자들의 등장 — “네오클라우드”란 무엇인가

엔비디아의 GPU는 현대의 석유다. 이 ‘AI 시대의 연료’를 둘러싸고
아마존(AWS), 구글 클라우드, 마이크로소프트 애저가 지배하던
기존 클라우드 시장에 균열이 생기고 있다.

이 틈새를 파고드는 새로운 기업들이 있다.
Together AI, CoreWeave, Lambda, Nebius 같은 이른바 ‘네오클라우드(Neocloud)’ 기업들이다.

이들은 전통적 클라우드 기업이 직접 보유한 대형 데이터센터 대신, 엔비디아 GPU를 구매하거나 임대해 AI 스타트업들에게 ‘GPU 임대형 클라우드’ 서비스를 제공한다.

즉, 이들은 클라우드의 새로운 유통망 역할을 한다 — GPU를 사서 다시 빌려주는 AI 전용 인프라 브로커들이다.

2. Together AI의 전략: “임대에서 소유로”

샌프란시스코 기반의 Together AI는 그중에서도
가장 빠른 성장세를 보이는 신흥 강자다.

이 회사는 본래 AWS나 CoreWeave 같은 클라우드 사업자로부터 GPU 서버를 빌려 다른 스타트업에게 재임대하는 모델로 시작했다.
하지만 이제 방향이 바뀌었다.

Together는 직접 GPU를 구매하고, 미국과 사우디아라비아 등지에서 자체 데이터센터 건립을 추진하고 있다.

이 움직임의 핵심은 수익성 구조 전환이다.
GPU를 직접 소유하면 중간 임대비를 줄이고 매출총이익률(Gross Margin)을 높일 수 있기 때문이다.

현재 Together의 마진은 약 45% 수준으로, OpenAI나 Anthropic보다 낮다.
그러나 자체 인프라를 확보하면 이 격차를 빠르게 좁힐 수 있다.

3. 폭발적인 성장세 — “AI의 석유를 파는 플랫폼”

Together의 비즈니스는 단순한 GPU 임대에 그치지 않는다.
API 기반 AI 서비스 매출이 전체의 30~40%를 차지한다.

이는 오픈소스 모델을 API 형태로 쉽게 구동할 수 있게 하는
‘AI 개발자용 클라우드 플랫폼’의 성격을 띤다.

대표 고객으로는

Cursor 제작사 Anysphere

AI 챗봇 Decagon

음성 생성 스타트업 ElevenLabs가 있다.

이들 기업의 폭발적인 GPU 수요 덕분에 Together는 올해 3월 연간화 매출 1억 5천만 달러에서 여름에는 3억 달러 이상으로 두 배 성장했다.

시가총액 역시 33억 달러에서 50억 달러 이상으로 상승했다.

4. 사우디의 그림자 — “AI 오일머니”가 움직인다

주목할 점은 사우디아라비아와의 협력 논의다.
Together는 사우디의 AI 추진기관 Humain과 함께 데이터센터 설립을 논의 중이며,
사우디 국영 석유기업 Aramco의 벤처 부문으로부터 투자도 유치했다.

즉, AI 인프라의 오일머니화가 현실이 되고 있다.
사우디는 자국 내 에너지 자본을 AI 연산력으로 전환하려 하고,
Together는 그 전략적 파트너로 자리잡으려 한다.

5. 엔비디아의 숨은 손 — “경쟁을 통한 확장 전략”

흥미로운 점은 엔비디아가 모든 네오클라우드 기업에 투자하고 있다는 사실이다.

CoreWeave, Lambda, Together 모두 엔비디아로부터 GPU 우선 배정과 재정적 지원을 받는다.

이는 단순한 투자 이상의 의미를 가진다. 엔비디아는 아마존·마이크로소프트 같은 전통 클라우드 기업들이
자체 AI 칩을 개발해 경쟁자로 떠오르는 상황을 견제하기 위해, 이들 신흥 네오클라우드를 균형추로 육성하고 있는 것이다.

6. 클라우드의 미래는 ‘AI 특화형’으로

Together의 첫 데이터센터는 이미 7월 메릴랜드에서 가동 중이며, 다음 달에는 테네시 멤피스 센터 발표가 예정되어 있다.

하지만 이 전략은 리스크도 따른다. GPU의 세대교체가 빨라지는 만큼, 보유 자산이 빠르게 감가상각될 수 있다는 점, 네트워킹 장비 유지·보수 등 운영 복잡성 증가 역시 부담 요인이다.

그럼에도 불구하고, 이 ‘소유 전환’은 피할 수 없는 흐름이다.
GPU가 단순한 임대 자산이 아니라 AI 시대의 핵심 생산수단으로 자리잡았기 때문이다.

“AI의 진짜 승자는 모델이 아닌 인프라”

이제 AI 산업의 패권은 모델 성능이 아니라, 얼마나 빠르고 안정적으로 GPU 연산력을 확보할 수 있는가로 결정된다.

OpenAI가 Oracle, Microsoft를 넘나들며 서버 확보에 몰두하는 이유,

Together가 사우디와 손잡고 데이터센터를 짓는 이유,

엔비디아가 신흥 클라우드 생태계를 전략적으로 육성하는 이유 —

모두 하나의 결론으로 수렴된다.

“AI의 미래는 소프트웨어가 아니라 하드웨어의 분배에서 결정된다.”

Together AI의 등장은 단순한 신생 스타트업의 성장 스토리가 아니다.

이는 AI 자본주의의 새로운 형태,

즉 “연산력이 곧 권력”이 되는 시대의 서막이다.