반도체, 기억을 지배하는 자가 미래를 지배한다
HBM·첨단 패키징·지정학의 삼중 경계선과 한국의 선
딥러닝의 확장이 가속화되면서 인공지능 시대의 병목은 더 이상 연산력이 아니다. GPU 코어의 수를 늘려도 원하는 성능이 나오지 않는 이유는 기억, 즉 메모리 때문이다. 대형 모델은 더 많은 코어가 아니라 더 가까운 곳에, 더 굵은 대역폭으로, 더 큰 용량의 메모리를 요구한다. 이 요구를 풀어낸 기술이 고대역폭메모리(HBM)이며, 이 영역에서 한국은 세계 가치사슬의 심장부로 자리 잡았다. 메모리는 단순한 보조 수단이 아니라 연산을 가능하게 하는 혈류가 되었고, 이 혈류의 속도를 올리는 일은 인공지능의 한계를 밀어붙이는 행위와 같다.
2025년 9월, SK하이닉스는 차세대 HBM4 개발을 완료하고 양산 준비에 들어갔다고 발표했다. 전 세대 대비 두 배로 넓어진 입출력, 두 배 가까운 대역폭, 40% 이상 개선된 전력 효율은 단순한 사양 개선이 아니다. 이는 메모리 경쟁의 무대가 이제 속도의 문제가 아니라 체계 설계의 문제로 이동했음을 뜻한다. HBM4는 고객 맞춤형 공동 설계가 강화되는 특성을 지닌다. GPU와 메모리가 함께 설계되는 순간, 한 번 선택된 업체를 쉽게 바꾸기 어려운 락인 구조가 형성된다. 한국 기업이 이 구조를 주도하면 단순 공급자가 아니라 플랫폼의 설계자가 될 수 있다.
하지만 기회는 곧 위험의 그림자와 맞닿아 있다. HBM의 진정한 병목은 이제 메모리 자체가 아니라 이를 묶어내는 첨단 패키징에 있다. GPU와 메모리를 실리콘 인터포저로 연결하는 2.5D·3D 패키징은 AI 칩 성능을 결정짓는 관문이 되었다. 현재 글로벌 캐파의 대부분은 TSMC의 CoWoS 공정에 집중되어 있고, 수요 폭증을 따라가기에는 역부족이다. 패키징 슬롯이 없으면 한국이 아무리 좋은 HBM을 만들어도 출하되지 못한다. 삼성은 I-Cube, 인텔은 Foveros로 대안을 제시하며 패키징 시장에 도전하고 있지만, 현실은 여전히 TSMC 의존 구조다. 한국의 메모리 강점이 언제든 패키징 종속으로 희석될 수 있는 이유다.
이 상황에서 고객의 수요는 직선적이 아니라 불연속적으로 폭발한다. 2024~2025년 엔비디아 GPU가 세대 전환을 맞으면서, 실제 필요한 물량은 공급 능력의 두 배에 달했다. 공급 부족은 가격 급등과 멀티벤더 전략을 촉발했고, 기업의 가치와 전략은 메모리 수율 안정성, 패키징 슬롯 확보력, 고객과의 협업 능력에 의해 갈라졌다. 한쪽에서는 미크론이 HBM3E로 빠르게 존재감을 키우고, 다른 쪽에서는 삼성의 신제품 검증 지연이 시장 신뢰를 흔들었다. 기술 경쟁은 이제 메모리 자체의 성능만으로 평가되지 않는다. 품질과 신뢰성, 납기와 협력 체계, 발열과 전력 최적화까지 종합적으로 관리하는 능력이 핵심이다.
여기에 지정학이 더해진다. 미국은 2022년과 2023년에 이어 2025년에도 첨단 컴퓨팅 반도체에 대한 수출 통제를 강화했다. 파운드리와 패키징 단계까지 실사와 규제 준수가 확대되면서, 규제 비용과 리스크는 해마다 높아지고 있다. 반면 미국은 동맹국 기업을 끌어들이기 위해 보조금과 세제 혜택을 전례 없이 풀고 있다. 삼성의 텍사스 테일러 공장은 수십억 달러 규모의 직접 지원을 확정받으며 대표적 사례가 되었다. 지정학은 기술의 속도와 방향을 결정하는 메타 규칙이 되었고, 한국 기업은 이 복잡한 격자 속에서 전략을 세워야 한다.
이제 문제제기는 분명하다. 한국은 단순히 메모리 제국의 영광에 머무를 것인가, 아니면 설계 권력을 쥐는 플랫폼 국가로 도약할 것인가. 그 길은 몇 가지로 나뉜다. 첫째, HBM4의 성능과 품질을 플랫폼화하는 것이다. 고객 맞춤형 공동 설계를 표준화하고, 생산 초기 수율을 높이며, 발열·전력 최적화를 철저히 관리해야 한다. 둘째, 첨단 패키징의 자립도를 높이는 것이다. I-Cube와 X-Cube, 국내 OSAT와 장비·소재 생태계를 묶어 로직–메모리–인터포저 공동개발 체계를 상시화해야 한다. 셋째, 아키텍처의 주도권을 노려야 한다. PIM과 CXL 메모리 풀링 같은 메모리 중심 컴퓨팅 패러다임을 고객과 함께 설계하면, 메모리 공급자가 시스템 설계자로 격상될 수 있다. 넷째, 공장 뒤의 공장까지 준비해야 한다. 패키징 라인의 증설은 전력과 용수, 송전망, 냉각 인프라와 불가분이다. 전력 계약과 그리드 연동, 마이크로그리드, 환경 인프라를 묶어야 납기와 안정성을 확보할 수 있다. 다섯째, 정책의 속도와 일관성이 관건이다. 수출통제 준수, 세제 지원, 인허가 패스트트랙, 보조금 제도를 함께 설계해 기업이 규제와 지원의 이중 비용을 흡수할 수 있게 해야 한다.
HBM은 좁은 문이지만, 그 문은 인공지능 시대의 방향을 가르는 관문이다. 한국은 이 문을 열어젖힐 자격이 있다. 그러나 메모리만으로는 충분하지 않다. 메모리를 넘어 패키징과 시스템, 나아가 아키텍처의 규칙을 설계하는 나라가 되어야 한다. 그때 한국은 단순히 빠른 속도를 구현하는 기술자가 아니라, 속도와 표준을 동시에 설계하는 조타수가 될 수 있다.
그렇다면 HBM 다음은 어떻게 준비해야 할까? 인공지능의 확장은 끝없이 메모리를 압박한다. HBM3E가 이제 막 시장에서 자리잡았지만, 이미 다음 세대는 눈앞에 다가와 있다. SK하이닉스와 삼성, 미크론은 HBM4의 샘플을 고객사에 공급하며 양산을 준비하고 있다. 이들은 더 넓은 입출력 채널, 더 높은 적층, 더 정교한 TSV 구조를 통해 대역폭을 두 배 가까이 늘리려 한다. 동시에 발열과 전력 소모를 낮추는 것이 관건이다. 데이터센터는 이미 전력의 한계에 직면해 있기 때문에, 단순한 속도 향상만으로는 시장의 요구를 충족할 수 없다. 고성능과 저전력을 동시에 달성하는 것, 그것이 HBM4와 이후 세대의 출발점이다.
HBM의 진화는 단순한 칩 설계의 문제가 아니다. GPU나 AI 전용 가속기와 함께 패키징되는 과정에서 성능이 결정되기 때문이다. 지금까지는 TSMC의 CoWoS가 병목이었다. 패키징 슬롯이 부족하면, 한국이 아무리 우수한 HBM을 생산해도 공급할 수 없다. 그렇기 때문에 삼성은 I-Cube, SK하이닉스는 X-Cube와 같은 자체 패키징 기술을 발전시키려 하고 있다. 첨단 패키징은 메모리를 ‘부품’에서 ‘시스템의 일부’로 승격시키는 문턱이다. 패키징이 뒷받침되지 않으면 HBM의 세대교체는 속도전에서 멈춰버린다.
HBM 다음을 준비하는 또 하나의 흐름은 아키텍처 차원에서 나타난다. 메모리를 단순 저장소가 아니라 연산에 참여시키려는 시도, 즉 PIM(Processing-in-Memory)은 이미 연구실과 일부 상용화 파일럿 단계에 들어갔다. 데이터 이동을 줄여 전력과 시간을 절감하는 방식이다. 또 하나는 CXL 기반 메모리 풀링이다. CPU, GPU, NPU가 각각의 메모리를 독립적으로 쓰던 시대에서 벗어나, 하나의 거대한 풀을 공유해 필요할 때 가져다 쓰는 구조로 진화하려는 것이다. 이는 메모리의 효율성을 극대화하고, 자원의 낭비를 줄이는 방향으로 나아간다. 결국 HBM의 끝에는 메모리 자체가 아니라 메모리 활용 방식의 혁신이 기다리고 있다.
여기서 중요한 것은 HBM의 한계를 넘어선 새로운 소재와 폼팩터의 탐색이다. TSV 직경을 줄이고 금속 배선의 저항을 낮추기 위해 새로운 금속과 절연 소재가 실험되고 있다. 일부 기업은 웨이퍼가 아니라 패널 레벨에서 메모리를 적층하는 방식도 검토한다. 기존 실리콘 공정의 한계를 넘어서는 새로운 접근이 필요하다는 의미다. 적층을 무한정 늘릴 수 없는 상황에서, 메모리를 배열하는 방식 자체를 혁신하지 않으면 미래 수요를 감당하기 어렵다.
한국은 이 전환점에서 다시 시험대 위에 서 있다. SK하이닉스는 HBM3E의 선두를 유지하며 HBM4로 가속하고 있고, 삼성은 패키징과 아키텍처의 주도권을 노린다. 두 회사 모두 “HBM을 잘 만드는 나라”에 머무를 것인가, 아니면 “HBM 이후를 설계하는 나라”가 될 것인가라는 질문을 안고 있다. 단순히 더 빠른 칩을 만드는 것이 아니라, 시스템과 패키징, 전력과 아키텍처까지 아우르는 플랫폼 공급자로 변모해야 한다.
포스트-HBM 시대의 전쟁은 결국 메모리를 둘러싼 속도의 전쟁에서 설계의 전쟁으로 이동한다. 누가 더 많은 층을 쌓느냐가 아니라, 누가 더 잘 설계해 고객을 붙잡고, 누가 더 빨리 패키징과 전력 병목을 해소하며, 누가 더 먼저 새로운 아키텍처를 정의하느냐가 관건이다. 한국이 이 게임에서 승리한다면, 메모리는 단순한 부품이 아니라 미래 인공지능 시스템의 심장을 설계하는 무기가 될 것이다.
앞으로의 질문은 단순하다. 한국은 계속 HBM을 만들며 수요에 대응하는 제조 강국으로 남을 것인가, 아니면 포스트-HBM 시대를 설계하며 표준을 만드는 아키텍트로 도약할 것인가. 답은 아직 쓰이지 않았다. 하지만 한국이 가장 먼저 이 시험대에 오른 것만은 분명하다.
다음 화에서는 이 메모리의 속도를 결정하는 또 다른 축, 즉 전력과 그리드라는 보이지 않는 인프라가 어떻게 반도체 산업과 AI 데이터센터의 한계를 규정하는지를 정치경제의 언어로 탐구할 것이다.
