GPU 동맹군 vs NPU 연합군
엔비디아의 위세가 이전만 같지 않다. OpenAI는 그간의 엔비디아와 동맹을 깨고 브로드컴과 손잡고 자체 AI 칩을 만들겠다고 선언하고, 이미 구글은 TPU로 아마존은 트레이니엄, 마이크로소프트도 마이아를 공개했고 메타도 MTIA를 개발했다. 이렇게 빅 테크기업들이 저마다 독자적인 AI 칩셋을 개발 중에 있다. 인텔까지도 차세대 AI 칩을 개발한다고 가세했다. 이미 엔비디아는 GPU 시장에서 80% 시장 점유율을 가진 절대 강자다. 그런데 탈엔비디아 바람이 거세지고 있다.
우리가 사용하는 AI 서비스들은 모두 똑똑한 품질의 AI 모델을 기반으로 운용된다. 그 모델은 OpenAI나 앤쓰로픽을 포함해 빅테크 기업들이 방대한 데이터를 수집해서 훈련을 시켜서 만들어진다. 그렇게 훈련을 시키는데 필요로 하는 것은 데이터 외에도 엄청난 성능의 AI 인프라가 필요하다. 당연히 그 인프라의 핵심 반도체 칩셋이 엔비디아의 GPU다. 압도적 성능으로 AI 모델의 학습을 보다 빨리 하기 위해서는 필수적으로 필요로 하는 것이 GPU다.
엔비디아는 2007년에 CUDA라는 AI 모델을 학습할 수 있도록 도와주는 플랫폼을 공개해 자사의 GPU를 그래픽 외에 일반 목적의 병렬 연산에 사용할 수 있도록 했고 덕분에 과학 계산이나 머신러닝 등에 이 GPU가 사용할 수 있는 길이 열렸다. 이후 2016년에 엔비디아의 P100 GPU로 구성된 DGX-1 슈퍼컴퓨터를 오픈AI에 선물하기도 했다. 이후 매년 더 빠른 성능의 GPU를 만들며 압도적인 AI 학습의 아이콘이 되었다. 그렇다보니 AI를 개발하는 기업들은 경쟁사들보다 더 나은 AI를 만들기 위해 어쩔 수 없이 엔비디아의 제품을 사용할 수 밖에 없게 되었다.
하지만, 작용이 있으면 반작용이 있는 것처럼 이렇게 너도나도 엔비디아 GPU에 락인되다보니 정작 AI로 당장 돈을 못벌고 투자만 해야 하는 기업들 입장에서는 대안을 찾을 수 밖에 없었다. 심지어 중국의 경우 미중 무역분쟁으로 엔비디아의 고성능 GPU를 반입할 수 없어 중국의 AI 모델들은 자국의 AI 칩셋으로 AI를 훈련시킬 수 밖에 없었다. 그런 중국의 Deeseek R1부터 Qwen에 이르기까지 뛰어난 성능의 모델들이 엔비디아 GPU없이도 개발 가능하다는 것이 증명되면서 GPU 대안이 떠오르게 된 것이다.
특히 이미 훈련된 AI 모델을 운용하는 과정에는(이를 Inference, Reasoning = 추론이라 함) 굳이 비싼 GPU를 사용하지 않아도 된다. 즉, 한강을 건너는데 항공모함은 사치일 뿐 작은 돗단배 하나면 충분하다. 그렇게 AI를 구동하고 운영하기 위한 칩셋(추론 전용 NPU)에 대한 필요성이 커졌고 구글을 포함한 클라우드 기업과 메타 등은 독자적인 NPU를 개발해 자사의 AI 서비스 운용에 활용하고 있다. 당연히 오픈AI와 앤스로픽과 같은 AI 기업들 역시 그런 대안을 찾아가고 있다. 한국에서도 퓨리오사AI, 리벨리온과 같은 NPU 전문 스타트업들이 그런 니즈를 가진 기업들의 갈증을 해결해주고 있다. 물론 인텔과 AMD, 브로드컴 등의 반도체 기업들 역시 이 시장을 겨냥해 공세를 본격화하고 있다.
그렇다면, 엔비디아는 솔절없이 이렇게 추론 시장을 놓치게 될까? 또한, GPU의 대안으로 각 기업들이 서로 연합하는 경쟁구도의 변화에 위기를 맞게 될까?
그렇기에는 엔비디아의 기술 리더십이나 전 세계 1위 시가총액의 기업으로서 대처 속도나 효과가 타의 추종을 불허한다. 엔비디아는 AI를 위한 GPU를 넘어서 추론 전용 그리고 자율주행차와 로봇 그리고 디지털 트윈(공장) 등을 위한 AI 인프라를 개발했다. 이를 위해 Groq이라는 LPU(추론 칩셋)을 만드는 기업을 인수했고, 베나 루빈이라는 2026년 차세대 슈퍼컴퓨터는 추론에 최적화되었을 뿐 아니라 학습과 추론 2가지를 동시에 통합 수행해내기도 한다. 자동차 회사들이 자율주행 AI를 개발하고 운영하는 것을 돕는 알파마요라는 플랫폼을 제공했고, 로봇을 위한 Isaac 플랫폼 그리고 옴니버스, 코스모스라는 디지털 트윈을 위한 AI 플랫폼을 제조업 혁신을 위해 제공하기도 했다. 이렇게 다양한 산업 영역에서 AI를 잘 활용할 수 있도록 돕는 플랫폼과 함께 그에 맞는 새로운 반도체 칩셋을 제공하고 있다. 심지어 CPU도 직접 개발하고 AI 전용 PC를 만들기도 한다.
이처럼 반 엔비디아를 향한 다양한 도전이 본격화되고 있기는 하지만 엔비디아의 선제적 대응과 발빠른 공세가 만만치 않다. AI 시장은 더 커지고 더 넓은 영역으로 확산되고 있다. 그런만큼 엔비디아와 경쟁자들의 전쟁은 누가 승자냐 패자가 아니라 모두 다 새로운 시장의 승리자가 될 것이다.