GPU의 독주에서 CPU 병존의 시대로

다시 CPU가 제 위상으로 돌아올 수 있는 이유

지난 몇년간 컴퓨팅은 가히 고속컴퓨팅, GPU의 시대였다. GPU는 끝없이 확장가능하며(Scalable), 그에 비례해서 발전하는 ‘무식한 연산량’은 ASIC이라는 주문형 ‘추론’ 반도체로의 흐름을 이끌어냈다. GPT-3를 기점으로 스케일링의 법칙의 유효성이 확인되면서, 세계의 거대기술기업들은 GPU쟁탈전을 벌여왔다. 이는 나아가 국가의 안보문제로 인식되어, GPU는 희토류, 무기, 방산물자와 같은 전략자산의 위치로 올라섰다.

하지만 현재 시장과 AI산업의 패러다임이 보이는 흐름은 GPU만이 전략자산이 아님을 명백히 보여주고 있다. 그 두번째 타자는 중앙처리장치, CPU이다. CPU는 GPU에 가려 한동안 빛을 보지 못했다. 전통적인 CPU제조업체들은 AI붐의 막대한 GPU수요의 수혜를 입지 못한 가장 큰 방관자, 내지는 피해자들중 하나다. 나아가 추론형 반도체가 '넥스트 GPU'로 지목되면서, 그 소외감은 더욱 심화되었다. 일각에서는 CPU의 시대는 갔고, 더이상 컴퓨팅에 CPU를 범용적으로 사용하지 않는 시대가 가까이 왔다는 과감한 예측까지 내놓을 정도였다.

그들의 논리는 이러하다. 만약 지능의 가격이 0에 수렴한다면, CPU의 가격보다, AI토큰 당 가격이 낮아지는 순간이 올 것이고, 이 순간 모든 연산과 컴퓨팅은 GPU와 추론형 반도체를 위시한 ‘가속기’들이 차지하게 된다는 것이다. 그들은 언젠가 CPU에게 명령어로 1+1을 명령하는 대신, GPT의 서버에 보내 연산하는 것이 더 싸지는 시대를 염두에 둔 것이다.

그들의 논리도 타당하지만, 결정적으로 다른 부문에서 CPU의 수요가 고조되고 있다. 반도체 분석 전문매체 SemiAnalysis에 따르면, CPU수요는 지난 6개월간 매우 괄목할만한 수요개선을 보였다. 특히 서버수요는 ‘치솟는’ 수준이었다. 최근 Q4 실적 발표에서 인텔은 2025년 말 데이터센터 CPU 수요의 예상치 못한 급증을 경험했으며, 새로운 수요를 충족시키기 위한 공급 제약 완화를 위해 2026년 파운드리 장비에 대한 설비투자 지침을 상향 조정하고, PC에서 서버로 웨이퍼 우선순위를 전환하고 있다.

그래프 2: Intel Data Center & AI (DCAI) 매출 추이 ($B, 2024 Q4 ~ 2025 Q4) Q4 2024: $4.35B → Q3 2025: $4.09B

이러한 상황의 급변에는 두가지 이유가 자리한다. 첫째는 RL(강화학습)의 보편화, 그리고 둘째는 에이전틱 서비스의 범람이다.

우선 첫번째 이유를 보자. RL의 강화학습은 보상함수를 정의하고, 보상을 최대화 하기 위한 방법으로 모델이 동작할때 학습이 진행된다. 이 과정에서 보상함수의 값은 끊임없이 개선되고, 재계산된다. 이 과정에서, 강화학습(RL) 기법의 활용은 CPU 수요를 더욱 높인다. RL 학습 루프에서 "RL 환경"은 모델이 생성한 행동을 실행하고 적절한 보상을 계산해야 한다. CPU는 또한 복잡한 물리 시뮬레이션과 고정밀 합성 데이터 검증에도 깊이 관여한다. 모델을 더욱 발전시키기 위해 필요한 RL 환경의 복잡도가 커지면서, GPU 유휴 시간을 최소화하고 GPU를 계속 바쁘게 유지하기 위해 주요 GPU 클러스터 근처에 위치한 대규모 고성능 CPU 클러스터의 필요성이 대두되고 있다.

그래프 1: 2025년 Q4 글로벌 x86 CPU 출하량 성장률 (%) Client CPU: QoQ +2.7% Server CPU: QoQ +6.5% / YoY +13.6% AMD

결국 AI를 학습시키기 위해서 필요한것은 GPU이지만, 그 외의 작업들은 여전히 CPU의 몫이고, 그 과정에서 서버용 CPU의 수요가 증가하고 있다는 의미이다. 첫번째 이유가 학습단에서 증가하는 CPU의 수요를 다루었다면, 두번째 에이전틱 하니스의 범람은 추론단에서 증가하는 CPU의 수요를 다룬다.

GPT에게 PPT생성과 같은 반복되는 사무용 작업을 맡겨보자. GPT는 우리의 예상과 같이 컴퓨터를 부팅하고 마우스 커서를 움직여 버튼을 클릭하지 않는다. 분석중…으로 뜨는 스니펫을 클릭해 열어보면 GPT는 우리의 지침대로 PPT를 생성해줄 python코드를 작성하고, 실행함으로서 한번에 PPT를 완성한다. 현대 LLM과 같은 ‘언어’모델은 기본적으로 텍스트 중심의 모델이다. 멀티모달이라는 기술로 다양한 데이터포맷을 오고가며 작업할 수 있는 모델이 다수 출시되어 있으나, 멀티모달을 통해 커서를 움직이고, 받아낸 결과로 다시 입력하는 식의 인간과 같은 작업은 너무 비싸다. AI에게는 마우스를 움직이는 동작 조차 숫자집합에 불과하기 때문이다. 인간의 입장에서는 눈으로 보고 마우스를 움직여 작업하는 것이 자연스럽지만, AI에게는 다수의 토큰을 낭비하는 힘든 작업 일수 밖에 없다. 반면 이에 비해 명령줄 터미널로 작업하게 된다면, 텍스트를 자연스럽게 구사하는 언어모델로서는 더 용이하게 작업 할수 있는 셈이다.

결국 언어모델이 다수의 도구(agentic tools)에 접근하여 스스로 행동하는 에이전트로 동작하기 위해서는 각각 독립적인 컴퓨팅 환경을 할당받아야 하고 이는 서버용 CPU의 수요를 늘린다. 또한, 상술한 코딩으로 환원된 일상 작업들,소프트웨어 개발 및 수학 같은 분야에서 이를 수행하려면 코드 컴파일, 검증, 해석, 도구 활용을 병렬로 처리하기 위한 다수의 CPU가 필요하다.

그래프 4: 현대 AI 워크로드(특히 RL & Agentic)에서의 Compute 자원 배분 추정 GPU (훈련·고강도 추론): 65% CPU (RL 환경 실행, 보상 계산

결국 우리가 목도하는 것은 단순한 CPU의 부활이 아니다. AI가 단순히 '생각'하는 단계를 넘어, '행동'하는 단계로 진화하면서 그 행동을 뒷받침할 인프라의 무게중심이 이동하고 있는 것이다.

GPU가 AI의 두뇌라면, CPU는 AI의 신체다. 두뇌가 아무리 정교한 명령을 내려도, 그것을 실행할 신체 없이는 아무것도 이루어지지 않는다. 에이전트가 코드를 실행하고, 환경을 시뮬레이션하고, 도구를 병렬로 호출하며, 보상을 계산하는 일련의 과정은 모두 CPU의 영역이다. AI가 더 똑똑해질수록, 더 자율적으로 행동할수록, 역설적이게도 CPU의 수요는 더 커진다.

물론 CPU가 GPU를 대체하거나, 과거의 독점적 위상을 회복한다는 의미는 아니다. 패러다임은 '대체'가 아닌 '공존'으로 향하고 있다. 학습에는 GPU, 추론의 맥락 관리와 환경 실행에는 CPU, 그리고 특정 반복 추론에는 ASIC이라는 역할 분담의 구도가 점차 선명해지고 있다. 앞으로의 데이터센터는 GPU 클러스터 하나로 이루어진 단일 구조물이 아니라, GPU와 CPU가 긴밀하게 맞물린 이종 컴퓨팅 생태계로 재편될 것이다.

그래프 3: 글로벌 Data Center CPU 시장 규모 전망 ($B) 2025: $14B 2026: ~$15.5B (강한 더블 디짓 성장 예상)

투자자와 산업 참여자 모두에게 이 흐름이 시사하는 바는 명확하다. AI 인프라 투자의 초점을 GPU 단일 축에서 벗어나, CPU와 그 생태계 전반으로 넓혀야 할 시점이 도래했다는 것이다. 한동안 조연에 머물렀던 CPU는, AI가 세상 속으로 뛰어드는 바로 그 순간, 다시 주연의 자리를 요구하고 있다.

출처(본문 순서)

그래프 1 Intel Q4 2025 Earnings Report, Jan 2026

그래프 2 Mercury Research / Jon Peddie Research, Feb 2026

그래프 3 SemiAnalysis 기반 분석

그래프 4 SemiAnalysis 및 시장 보고서(Precedence Research 등)