2부 지금 우리는 어디에 서있는가? - AI 시대의 충격과 과제
불과 20년 전만 해도 반도체 산업의 중심은 CPU와 메모리였다.
인텔이 CPU 시장을 장악했고, 삼성전자가 메모리에서 세계 1위를 지켰다.
당시 컴퓨팅의 구조는 단순했다. CPU가 연산을 담당하고, 메모리가 저장을 맡았다. 이런 구조 덕분에 인텔과 삼성, 두 회사가 산업의 주도권을 쥘 수 있었다.
하지만 스마트폰과 인공지능 시대가 열리면서 판도가 완전히 바뀌었다.
2007년 아이폰이 등장하면서 세상은 PC 중심에서 모바일 중심으로 이동했다.
최초의 아이폰, 스마트 폰 형태의 회사 제품들
애플은 독자적인 칩을 설계하기 시작했고, 삼성과 협업해 A시리즈 칩을 개발했다.
삼성은 파운드리에서 애플 칩을 생산하며 새로운 사업 기회를 잡았다.
그러나 곧 문제가 생겼다.
삼성은 자사 모바일 칩을 만들기 시작했고, 이는 애플에게 보안과 경쟁의 위험으로 다가왔다. 결국 애플은 생산을 2014년 TSMC로 이전했고, 이는 삼성 파운드리가 공정 기술 면에서 TSMC에 크게 뒤처지는 계기가 되었다.
GPU의 부상, 엔비디아의 시대
AI 시대의 가장 큰 전환점은 병렬 연산의 중요성이다. CPU는 직렬 연산에 강했지만, 대량의 데이터를 동시에 처리해야 하는 인공지능 연산에는 한계가 있었다. 이 틈을 메운 것이 GPU였다.
엔비디아는 GPU를 활용한 병렬 연산 기술로 AI 붐의 최대 수혜자가 되었다.
2025년 현재 엔비디아의 시가총액은 약 4.4조 달러로, 인텔(약 1천억 달러)의 40배를 넘어섰다. 불과 2010년대 초반까지만 해도 엔비디아는 작은 그래픽칩 회사로 취급받았다는 점을 떠올리면, 이 변화는 극적이다.
( Nvidia의 시가 총액 1위 달성 25.7.10 기준 )
미국 빅테크의 AI 전쟁
미국의 빅테크 기업들은 인공지능에 막대한 투자를 이어가고 있다. 2024년 한 해 동안 마이크로소프트, 구글, 아마존, 메타 등은 약 3천억~3.5천억 달러를 AI 연구개발, 데이터센터, 반도체 설계에 쏟아부었다.
- 마이크로소프트는 오픈 AI와 협력하며 데이터센터 확충에 집중하고 있고,
- 구글은 TPU(텐서 처리 장치)를,
- 아마존은 AWS 인프라와 전용칩 ‘Inferentia’와 ‘Trainium’을,
- 메타는 Llama 모델과 맞춤형 AI칩을 내놓으며 경쟁한다.
자율주행 분야에서도 전용 칩 경쟁이 치열하다. 엔비디아의 DRIVE Thor는 자동차용 슈퍼컴퓨터라 불리고, 테슬라 역시 자율주행 전용 칩(FSD 칩)을 독자적으로 설계했다.
중국의 추격
2024년 중국의 AI 투자 규모는 200억 달러 수준으로, 아직 미국에는 못 미치지만 빠른 속도로 확대되고 있다.
이미 중국에는 250개 이상의 대형 데이터센터가 운영 중이며, 바이두·알리바바·텐센트 등 빅테크가 AI 인프라를 대규모로 구축하고 있다. 여기에 국가적 지원이 결합하면서 반도체 굴기와 AI 결합 전략이 가속화되고 있다.
한국의 위치
한국은 여전히 메모리 반도체에서는 압도적 1위다. 특히 HBM(고대역폭 메모리) 분야에서 삼성과 SK하이닉스는 엔비디아, 구글, 마이크로소프트의 주요 파트너다.
그러나 데이터센터 인프라와 전용 칩 설계에서는 크게 뒤처져 있다. AI 시대에 핵심은 ‘데이터 + 연산 + 인프라’인데, 한국은 데이터센터 건립 속도, 전용칩 역량, 생태계 투자에서 미국과 중국에 비해 취약하다.
반도체외에 주력 제조업인 철강, 석유화학, 자동차, 전자마저 흔들리고 있다는 점이다. 중국의 과잉 투자, 미국의 관세와 자국 우선주의가 한국 제조업 전반에 압박으로 작용하고 있다.
한국은 준비되어 있는가?
내가 반도체 메모리 전략마케팅실에서 미주 담당했던 2000년대 초반만 해도 구글과 엔비디아는 작은 고객사였고, HP·Dell·IBM, Comaq, Sun사 등 PC 및 서버 분야가 핵심 고객이었다.
그러나 지금의 현실은 완전히 뒤바뀌었다. 엔비디아와 구글이 산업의 중심으로 떠올랐고, PC 및 서버를 담당했던 인텔은 반도체 산업에서 뒤처지고 있다.
AI 시대는 반도체와 산업 패러다임 자체를 바꾸어 놓았다. 미국과 중국은 막대한 투자와 생태계 확장을 통해 경쟁력을 높이고 있다.
그렇다면 한국 기업들은 과연 이 거대한 전환에 준비가 되어 있는가?
삼성과 SK하이닉스의 메모리 경쟁력이 든든한 버팀목이긴 하지만, 이제는 메모리를 넘어 AI 인프라와 전용 칩, 데이터센터, 그리고 새로운 산업 생태계로 도약하지 않으면 한국은 뒤처질 위험이 크다.
이미 파운드리에서는 TSMC에 주도권을 상실했다. 현재 TSMC는 60% 이상 점유율을 확보하고 있다.