15주차: AI인프라 전쟁 - 반도체/전력/데이터센터

PART 4. 통찰 — 미래 산업을 읽는 눈

Mar 10. 2026

1848년 미국 캘리포니아에서 금광이 발견됐다는 소식이 퍼지자, 전 세계에서 사람들이 몰려들었다. 이른바 '골드러시'다. 그런데 이 시대를 통틀어 가장 큰돈을 번 사람은 금을 캔 광부가 아니었다. 광부들에게 청바지를 판 리바이 스트라우스, 그리고 삽과 곡괭이를 공급한 상인들이 역사에 이름을 남겼다.

오늘날의 AI 골드러시도 다르지 않다. 세간의 관심은 ChatGPT, Claude, Gemini 같은 AI 서비스에 집중되지만, 이 게임의 판세를 실질적으로 좌우하는 것은 그 뒤에서 묵묵히 세상을 떠받치는 세 가지다.

반도체, 전력, 데이터센터

14주차까지 우리는 AI가 화면을 뚫고 현실 세계로 나오는 과정을 살펴봤다. 이번 주는 시선을 한 층 더 깊은 곳으로 돌린다. AI라는 건물의 '지반'을 읽는 눈을 갖출 때, 비로소 산업의 흐름이 보이기 시작한다.

반도체: AI의 두뇌, 그리고 그 두뇌를 먹이는 연료탱크

AI를 구동하는 핵심 부품 하면 흔히 'CPU'를 떠올리겠지만, AI 시대의 주인공은 GPU(Graphics Processing Unit, 그래픽처리장치)다. 본래 게임 화면을 빠르게 그려내기 위해 개발된 칩인데, 알고 보니 AI 연산에도 탁월한 능력을 발휘했다. 그 이유는 구조에 있다. CPU가 복잡한 문제를 순서대로 처리하는 '깊이'의 방식이라면, GPU는 단순한 계산을 동시에 수천 개씩 처리하는 '넓이'의 방식이다. AI 학습은 수백만 개의 숫자를 반복적으로 계산하는 작업이기 때문에, GPU의 병렬 처리 구조가 압도적으로 유리하다. 엔비디아가 AI 시대의 최대 수혜 기업으로 부상한 것은 이 때문이다.

그런데 GPU가 아무리 뛰어나도, 데이터를 제때 공급받지 못하면 속도가 나지 않는다. AI 연산의 진짜 병목은 흔히 처리 속도가 아니라 데이터 이동 속도에서 발생한다. 이 문제를 해결하기 위해 탄생한 것이 HBM(High Bandwidth Memory, 고대역폭 메모리)이다.

비유하자면 이렇다. GPU가 요리사라면, 일반 메모리는 주방 한쪽 구석의 냉장고다. 요리사가 아무리 빠르게 손을 놀려도, 재료를 가지러 냉장고까지 뛰어다니는 시간이 생긴다. HBM은 요리사 바로 옆에 붙어 있는 조리대다. 재료를 즉각 꺼내 쓸 수 있으니, 요리의 전체 속도가 빨라진다. AI 모델이 대화에 답하는 속도, 이미지를 생성하는 속도, 방대한 문서를 분석하는 속도가 모두 이 HBM의 성능에 달려 있다.

여기서 한국의 위치가 돋보인다. 전 세계에 공급되는 HBM 5개 중 4개는 SK하이닉스와 삼성전자가 만든 '메이드 인 코리아'다. AI 시대의 핵심 부품 공급망에서 한국이 독보적인 위치를 점하고 있다는 의미다. 13주차에서 살펴본 온디바이스 AI의 NPU가 스마트폰 안의 두뇌라면, HBM은 대형 데이터센터 안의 혈관에 해당한다.

AI 서비스가 발전할수록 이 혈관(HBM)의 수요는 계속 늘어난다.

전력: 디지털이 아날로그를 만나는 지점

AI는 인터넷에 접속하면 마법처럼 작동하는 것처럼 보이지만, 그 이면에는 반드시 '전기'라는 물리적인 자원이 필요하다. AI가 질문 하나에 답하기 위해 소비하는 전력은 단순한 웹 검색과는 차원이 다르다. AI 서버는 일반 서버보다 전기를 7~8배 더 소비하고, AI 학습용 서버의 소모량은 그보다 훨씬 더 많다.

AI 모델은 한번 학습을 시작하면 수주에서 수개월간 쉬지 않고 가동된다. 24시간 내내 고전력 상태를 유지하는 것이다. 하이퍼스케일 AI 데이터센터 한 곳이 소비하는 전력은 수십만 명이 사는 중소도시 전체 소비량과 맞먹는다. 전 세계 데이터센터의 전력 소비는 2030년까지 지금의 두 배 이상으로 늘어날 것으로 전망된다.

그 결과, 에너지 산업의 지형이 바뀌고 있다. 한때 청정에너지만 쓰겠다고 선언했던 구글, 마이크로소프트 같은 빅테크들이 잇따라 원자력 발전소와 장기 계약을 체결하고 있다. 심지어 수십 년 전 문을 닫았던 석탄 발전소 부지에 AI 데이터센터를 짓는 사례도 등장했다. AI의 미래를 이야기하면서 동시에 에너지 정책과 탄소중립을 논해야 하는 아이러니가 펼쳐지고 있는 것이다.

한국도 이 흐름에서 예외가 아니다. 국내 데이터센터 전력 수요는 2028년까지 연평균 11% 증가가 예상되지만, 송전선과 변전소 확충 속도는 오랫동안 제자리걸음이다. 수도권에 전력 수요가 집중되면서 송전망이 포화 상태에 이르고, 일부 지역에서는 데이터센터 신규 전력 인입이 지연되거나 불허되는 사태도 벌어지고 있다.

이제 전력을 확보하지 못하면 AI 인프라도 멈춘다. '전력 주권'이 곧 '기술 주권'인 시대가 도래했다.

데이터센터: 디지털 시대의 부동산

AI가 작동하려면 방대한 연산이 이루어지는 물리적 공간이 필요하다. 그것이 데이터센터다. 데이터센터는 서버를 모아 둔 단순한 창고가 아니다. GPU 수십만 개를 한데 모아 놓고, 쉬지 않고 돌리면서, 그 열을 식히고, 끊임없이 전기를 공급하는 초대형 복합 시설이다. 국가 경쟁력의 핵심 인프라로 재정의되고 있는 이유가 여기에 있다.

문과생의 시각으로 데이터센터를 이해하는 가장 좋은 틀은 부동산이다. 데이터센터는 일종의 디지털 시대의 공장 부지다. 어디에 짓느냐가 승패를 가른다. 과거에는 통신망 밀도나 세제 혜택이 중요했다. 이제는 다르다. 글로벌 빅테크들이 데이터센터 부지를 고를 때 가장 먼저 따지는 기준은 전력 단가와 전력 안정성, 그리고 냉각 효율이다. 전력을 충분히 공급받지 못하는 지역에서는 데이터센터 허가 자체가 중단되는 일도 세계 곳곳에서 벌어지고 있다. 최첨단 디지털 시설이지만, 결국 '땅과 전기'가 승패를 가르는 역설이다.

미국 인디애나주 뉴칼라일에 있는 아마존웹서비스 AI 데이터센터 [출처:중앙일보]

또 하나 흥미로운 변화가 있다. 냉각 기술이 새로운 경쟁력으로 부상했다는 점이다. AI 서버에서 발생하는 열은 기존 공랭식(바람으로 식히는 방식)으로는 감당이 안 된다. 그래서 최근에는 서버를 특수 액체에 통째로 담가 식히는 액침냉각, 물을 직접 순환시켜 식히는 수냉식 등 차세대 냉각 기술이 주목받고 있다. 데이터센터 설계와 운영이 반도체 클린룸에 버금가는 정밀 기술의 영역으로 진입했다.

국내 시장을 보면 가능성과 과제가 공존한다. 국내 민간 데이터센터 시장은 2028년 10조 원 돌파가 예상되지만, 전력 인프라 병목과 수도권 집중이라는 구조적 문제가 성장의 발목을 잡고 있다. SK와 AWS가 협력해 울산에 건설 중인 초대형 AI 데이터센터 프로젝트는, 반도체를 생산하는 나라가 AI 인프라도 직접 운영하는 구조를 만들려는 시도로 읽힌다. 이는 단순한 IT 투자가 아니라 국가 전략의 일환이다.

골드러시의 진짜 수혜자: 청바지를 파는 기업들

이 세 가지 인프라의 흐름을 이해하면, AI 산업의 수혜 지형도가 전혀 다르게 보이기 시작한다. 화면에 보이는 AI 서비스만 바라보면 절반밖에 못 보는 것이다.

GPU를 구동하기 위해서는 변압기, 케이블, 배전반이 필요하다. 수만 대의 서버를 식히기 위해서는 냉각 시스템과 물이 필요하다. 데이터센터를 짓고 운영하기 위해서는 건설, 설비, 에너지 솔루션 역량이 필요하다. AI 서비스 기업이 화려한 조명을 받는 동안, 이 조명이 켜지도록 전선을 깔고 발전기를 돌리는 기업들이 조용히 수혜를 누리고 있다.

국내 사례가 이를 잘 보여준다. 변압기와 전력 기기를 만드는 LS일렉트릭은 북미 AI 데이터센터 수주가 폭증하면서 해외 매출이 급증했다. 효성중공업도 초고압 변압기 수주가 늘면서 가파른 실적 성장을 기록했다. AI를 직접 만들지 않지만, AI가 작동하도록 인프라를 제공하는 이 기업들이야말로 골드러시의 청바지를 판 리바이 스트라우스의 역할을 하고 있는 것이다.

문과생의 시각으로 정리하면 이렇다.

새로운 기술 패러다임이 등장할 때, 그 기술 자체만큼이나 그것을 가능하게 하는 기반 산업을 읽는 눈이 중요하다. 1990년대 인터넷 혁명 당시 닷컴 기업들은 수없이 흥망했지만, 인터넷 케이블과 서버를 공급한 시스코(Cisco)는 조용히 거대한 기업으로 성장했다. 역사는 반복된다.