구글이 춘천에 AI 데이터센터를 짓는다면?

만약 구글이 한국 춘천에 초대형 AI 전용 데이터센터를 세운다고 상상해 보자.

춘천의 산과 호수 사이에, 초록빛 유리벽을 두른 거대한 건물이 들어선다. 하지만 이 건물의 진짜 심장은 콘크리트나 철골이 아니다.

그 속을 채우는 수만 장의 AI 가속기(GPU·TPU), 그리고 그것을 떠받치는 전력·냉각 인프라가 핵심이다.

( 데이터 센터 내부 구조. 서버룸,, 전력망, 냉각 시스템, 네트워킹룸 등 )

데이터센터의 건축 비용 구조를 살펴보면 흥미롭다. 보통 우리가 생각하는 건물 공사비는 전체의 10~15%에 불과하다.

나머지는 서버, 네트워크, 전력, 냉각 같은 장치들이 차지한다.

특히 AI 데이터센터는 일반 클라우드 센터와 전혀 다르다.

먼저 IT 장비, 즉 서버와 스토리지가 전체 비용의 절반 이상을 가져간다. 그런데 이 가운데 대부분은 바로 AI 가속기다.

예를 들어 NVIDIA H100 GPU 한 장이 자동차 한 대 값과 맞먹는 3만~4만 달러. 구글이 파운데이션 모델을 훈련하기 위해 수만 장을 투입한다면,
IT 예산의 70% 가까이가 GPU로 들어간다. CPU 서버나 스토리지는 오히려 조연에 불과하다.

AI 가속기의 핵심 구성 요소 중 하나가 메모리다. 특히 HBM(고대역폭 메모리)은 GPU 성능을 좌우하는데,
GPU 모듈 가격의 약 30~40%가 HBM에서 발생한다. 즉, 전체 데이터센터 투자에서 HBM만 차지하는 비중이 10% 이상에 달할 수 있다.

삼성전자와 SK하이닉스가 글로벌 HBM 시장에서 각축을 벌이는 이유가 바로 여기에 있다.

이제 눈을 돌려 건물 바깥을 상상해 보자. 춘천의 전력망은 마치 대형 발전소를 옆에 두고 사는 듯한 긴장감을 안겨줄 것이다.

AI 데이터센터 하나가 소도시 전체 전력 사용량에 맞먹는 전력을 요구하기 때문이다. 전력 인프라, 즉 UPS와 발전기, 변전 설비는 전체 투자에서 약 25~30%를 차지한다.

냉각은 또 다른 축이다. GPU가 내뿜는 열은 용광로와 맞먹는다. 뜨거운 공기를 차가운 공기로 식히는 것만으로는 부족하다.
액체가 직접 칩을 식히는 액체냉각이나 서버 전체를 절연액에 담그는 침지냉각 같은 첨단 기술이 쓰인다. 냉각 설비만 해도 전체의 20%를 넘는다.

정리하자면, 춘천의 구글 데이터센터는 이렇게 구성된다.
- AI 가속기: 전체 비용의 30~40% (이 중 HBM 비중은 약 10~15%)
- 전력 인프라: 25~30%
- 냉각 시스템: 20%
- 건물 및 기타: 10~15%

총비용은 규모에 따라 다르지만, 2025년 기준으로 초대형 AI 데이터센터(수십만 개 GPU 탑재)는 약 50~100억 달러 수준으로 추산된다.
이는 웬만한 원자력 발전소 건설비용과 맞먹는 수준이다.

겉으로 보기엔 그저 현대식 건물일 뿐이지만, 내부적으로는 “AI 가속기를 위한 거대한 생명 유지 장치”라고 해도 과언이 아니다.
건물은 껍데기이고, 진짜 가치는 내부의 GPU와 이를 움직이게 해주는 전력·냉각 장치에 있다.

( 데이터 센터 내부)

이런 관점에서 보면, AI 데이터센터란 사실상 “AI 가속기 클러스터”를 안전하게 돌리기 위한 전력 공장과 냉각 공장,
그리고 보안 시설을 한데 묶어 놓은 거대한 기계 장치다. 구글이 춘천에 이런 시설을 세운다면, 그것은 단순히 데이터 저장소가 아니라 AI 시대의 발전소가 될 것이다.

삼성 SDS 친환경 춘천 데이터센터 조감도