모두가 AI를 말할 때, 엔지니어는 HBM을 본다

- 보이지 않는 조각 위에 세워진 미래 -

나는 국내 반도체 연구소 기업체에 입사했다.

그리고 줄곧 식각(Etch)을 해왔다.

식각은 말 그대로 깎아 남기는 일이다.
보이지 않는 회로를 위해
필요한 것만 남기고 나머지를 지워내는 조각.

눈에는 잘 보이지 않지만,
우리가 쓰는 모든 기기의 핵심은
이 ‘보이지 않는 조각’ 위에 서 있다.

아이에게 설명하자면, 이렇다.
아주 작고 복잡한 도시를 짓는 일 중 필요한 일
길을 내고, 엘리베이터를 세우고, 건물을 올린다.

다만 이 도시는 피자 한판 크기의 작은 땅(300mm 웨이퍼) 위에 세워지고,
층간 높이는 머리카락 굵기(μm 단위) 수준이다.
식각 엔지니어는 그 위에서
건물을 깎고 다듬는 정밀 조각사다.

1️⃣ 왜 HBM인가 — ‘평면’에서 ‘입체’로 - 메모리의 공간을 바꾸다

요즘 세상은 AI 이야기로 가득하다.
하지만 내 눈에 먼저 들어온 건 HBM(High Bandwidth Memory)이다.

AI가 두뇌라면,
HBM은 그 두뇌를 이루는 뇌세포(Neuron) 다.

예전의 DRAM은 납작한 단층집이었다면,
HBM은 그 집들을 층층이 쌓아 올린 큐빅형 고층 빌딩에 가깝다.

층과 층이 가까워지고,
오갈 수 있는 길이 압도적으로 많아지면
데이터는 훨씬 빠르게 흐른다.
AI가 ‘생각’을 더 잘하게 되는 이유다.

(HBM 적층 구조 단면 - 층층이 쌓인 DRAM 다이 위에 로직 다이가 놓이고, TSV와 마이크로 범프가 각 층을 연결한다.)

2️⃣ TSV — 데이터를 오르내리게 하는 엘리베이터

HBM의 TSV(Through-Silicon Via)
말 그대로 실리콘을 수직으로 뚫는 통로다.

도시로 치면 엘리베이터와 같다.
엘리베이터가 많고 막히지 않으면,
사람(데이터)은 빠르게 오르내린다.

이 통로를 만드는 과정에서
식각은 더욱 정밀해진다.
벽이 들뜨지 않게, 바닥이 거칠지 않게,
머리카락보다 얇은 두께(μm)를 균일하게 유지해야 한다.

(TSV 엘리베이터 비유 일러스트 - 노란 기둥이 층을 잇는 비아(Via). 데이터가 이 길을 따라 수직으로 흐른다.)

3️⃣ Dicing — 완성된 ‘피자’를 조각내는 공정

웨이퍼 한 장 위에는
수백 개의 칩이 동시에 지어진다.

이제 그걸 조각내야 한다.
이 과정을 다이싱(Dicing)이라고 부른다.

말 그대로, 피자를 조각내듯 나눈다.
각 조각은 모양은 같지만,
서버 속에서 각자의 역할을 수행한다.

우리는 칼 대신 레이저와 플라즈마를 쓴다.
레이저는 빛의 열로 재료를 녹이고,
플라즈마는 가스로 이루어진 보이지 않는 칼날로 자른다.

조각면이 매끈할수록,
기판에 붙을 때 균열이나 파티클이 줄어든다.
이 정교한 ‘피자 조각 내기’가 끝나야
비로소 AI 서버 속의 개별 두뇌에 필요한

작은 단위의 접합용 셀이 완성된다.

(다이싱 모식도 - 웨이퍼를 안전거리(스트리트)를 따라 잘라내는 공정.)

4️⃣ 정열의 예술, 어드밴스드 패키징

HBM은 여러 개의 메모리 칩을 한 층씩 쌓아서

정확히 맞추고 단단히 붙이는 기술의 결정체다.

한 층이라도 삐뚤어지면,

마치 블록 탑이 기울듯이 신호가 불안정해진다.

눈에는 보이지 않지만,

현장은 늘 정렬(Alignment) 과의 싸움이다.

이 과정이 바로 후공정(Advanced Packaging)의 핵심이다.

칩을 쌓고, 붙이고, 열과 압력을 제어하며

플라즈마로 표면을 다듬는다.

엔지니어의 일은 결국,
보이지 않는 오차를 보이는 질서로 바꾸는 일이다.

(열과 압력, 그리고 플라즈마로 완성되는 정밀한 칩 적층 공정. HBM 후공정을 예술적으로 표현한 개념도.”)

5️⃣ AI는 왜 점점 ‘사람’을 닮는가

이렇게 길을 만들고, 조각을 내고, 메모리 탑을 쌓고

서로 신경망처럼 연결을 하면
AI는 스스로 더 똑똑해진다.

누가 시킨 것도 아닌데,
이제는 학습하고, 판단하고,
때로는 거짓말도 한다.

처음엔 단순한 계산기 같던 존재가,
이젠 사람의 말에 반응하고, 감정을 흉내 낸다.

솔직히 말해, 그게 조금 무섭다.
우리는 원리를 완벽히 이해하지 못해도
작동하는 뇌 구조를 계속 만들어내고 있다.

인터넷 혁명보다 훨씬 빠르게,
AI의 파고가 우리의 시간을 앞질러 온다.

(AI 데이터센터 이미지 - 수천 개의 칩이 신호를 주고받는 거대한 신경망.)

6️⃣ 내가 보는 ‘보이지 않는 세계’

엔지니어의 하루는 대단하지 않다.
패턴을 깎고, 거칠기를 줄이고,
오차를 다독인다.

하지만 그 작은 손놀림이
AI라는 새로운 생명체의 신경망을 만든다.

(Chip 정밀 이미지 - 한 장의 웨이퍼 안에 수백 개의 작은 도시가 깃들어 있다.)

나는 오늘도 조용히,
보이지 않는 세계를 깎으며
미래의 형태를 조금씩 다듬는다.

모두가 AI를 말할 때,
내 눈에는 여전히 HBM이 먼저 보인다.
“그 빛나는 탑과 엘리베이터,
그리고 끝없이 흐르는 데이터의 사람들.”

— JP 정표 | Etch the Life. 빛과 공정의 기록.