AI 시대의 심장, 데이터센터

땅-전력-냉각이 모여 만들어지는 거대한 '심장'

by Dearlee J

누군가 나에게 데이터센터를 이루는 핵심 요소를 꼽아보라고 한다면 넓은 땅, 전력, 그리고 냉각시스템이라고 답할 것 같다.

하이퍼스케일 데이터센터 건설은 종종 '빅테크 3사의 땅따먹기 게임'으로 비유되곤 한다.




넓은 땅.

눈에 보이지 않는 온라인 세상을 책임지는 데이터센터인데 재밌게도 하나의 형태로 이 세상에 존재한다. 즉, 데이터센터는 넓은 땅이 없으면 실존할 수 없다는 것. 여느 건물이 그렇듯 데이터센터도 건물의 구조가 서 있을 수 있는 부지와 땅이 필수적으로 필요하다. 특히, (캠퍼스 별로 차이는 있겠지만) 대략 200-400 acre의 부지가 필요한 하이퍼스케일 데이터센터 같은 경우 자리 잡고 서 있을 수 있는 땅이 아주 많이 필요하다.


남녀노소 모두 ChatGPT를 매일같이 사용하는 요즘 같은 시대에는 데이터센터에 기하급수적으로 많은 데이터가 전송되고 저장된다. 그 말인즉슨, 이 프로세스가 가능하게 하려면 많은 서버와 GPU를 담아야 한 다는 것.


약 폭 50cm x 깊이 100cm x 높이 200cm 남짓한 서버랙이 GPU를 안고, 뒤로는 얽히고설킨 케이블을 주렁주렁 달고서 연이어 서 있다. 뿐만인가, 365일 24시간 늘 가동되어야 하는 특성 때문에 과열을 방지하기 위해 각종 냉각시스템도 지나가고 있다. 그리고 엄청난 전력을 끌어오고 호환시키기 위해 데이터센터 외벽 밖으로는 각종 제너레이터와 전력설비들이 상시 돌아가고 있다. 안팎으로 어마무시하게 크고 비싼 장비들을 안고 있는 건물이기 때문에 넓은 땅은 필수적으로 필요한 요소다.


전력.

데이터센터를 떠올리면 가장 먼저 생각나는 건 '전기'다. 실제로 실무에서도 전력은 데이터센터의 모든 의사결정에 영향을 미치는 핵심요소다. 이유는 단순하다. 데이터센터가 사용해야 하는 전력의 규모가 크기 때문이다.


하이퍼스케일 데이터센터의 전력 규모는 보통 50MW, 100MW 단위로 설계된다. 감이 잘 안 온다면 이렇게 생각해 보면 쉽다.


일반 가정 1 가구 소비전력: 약 1~2kW

데이터센터 소비전력: 약 50MW = 2~5만 가구가 동시에 쓰는 전력과 엇비슷


즉, 데이터센터 한 동이 한 동네 전체가 쓰는 전력을 끌어다 쓰는 수준이다. 그래서 데이터센터 입지는 전력망과 전력 인프라가 충분한 지역인지가 가장 중요한 기준이 된다.


냉각시스템.

'냉각'도 데이터센터에서 빠질 수 없는 핵심 요소이다. 냉각은 말 그대로 서버에서 발생하는 열의 온도를 낮추어 배출시키고 비교적 선선한 공기를 서버에 가져다주는 일이다.


데이터센터에는 수백, 수천 개의 서버들이 365일 쉬지 않고 가동된다. 서버가 가동될 때 사용하는 전력은 100% 열을 뿜어낸다. 이 열을 식히지 않으면 서버성능 저하, 장비 고장, 그리고 가장 두려운 '다운타임 (서비스중단)'으로 이어진다. 한 마디로 냉각은 '문제 예방을 위한 보험' 뿐만 아니라, 데이터센터 생존을 위한 필수 요소이다.


AI 시대가 도래하면서 데이터센터에는 고성능 GPU 기반 AI 서버가 줄지어 설치되고 있다. 고성능 서버는 일반 서버와 달리 더 정교하고 복잡한 AI 학습을 가능케 하기 때문에, 더 많은 열을 배출시켜서 냉각시스템의 중요성을 더 부각한다.


일반 GPU 서버 약 1kW vs GPU 기반 AI 서버 약 10kW 이상 소모


전력 소비가 10배 뛰면서 냉각 기술도 나날이 발전한다. 기존에 Air-Cooled Chiller (공랭식)에서 Liquid Cooling (수랭식)으로 빠르게 전환되고 있다. 그리고 GPU 성능 향상에 맞춰 냉각시스템도 새로운 소재와 설계 방식으로 계속 발전 중이다.


땅-전력-냉각이 모여 만들어지는 거대한 '심장'

수많은 케이블을 연결한 서버들, 몇십 열씩 늘어선 서버렉, 안팎에 배치된 각종 전력 설비와 제너레이터, 그리고 서버사이를 끊임없이 오가며 열을 식히는 냉각시스템까지.


이 모든 요소를 갖춘 한 개의 하이퍼스케일 데이터센터는 보통 1만~2만 제곱미터 규모로 지어진다. 그리고 전력 효율을 위해 하나의 부지에 여러 동을 함께 세우는 경우가 많다.


이런 이유로 데이터센터 건설은 종종 '빅테크 3사의 땅따먹기 게임'으로 비유되곤 한다.

작가의 이전글AI 시대의 심장, 데이터센터