낭만 반도체
DRAM은 컴퓨터 시스템에서 주기억장치의 역할을 수행하기 위해 설계되었다. 프로세서가 데이터를 처리하는 속도와 하드 디스크 같은 보조기억장치가 데이터를 전송하는 속도 사이의 거대한 격차를 메우는 것이 핵심 목적이다. 프로세서가 직접 보조기억장치에서 데이터를 가져오는 경우에, 병목 현상이 발생하여, 시스템 전체 성능이 저하된다. 그래서 프로세서는 당장 실행해야 할 프로그램과 데이터를 일시적으로 DRAM에 올려두어 빠르게 접근할 수 있도록 한다.
DRAM은 전원이 꺼지면 데이터가 사라지는 휘발성 메모리다. 그럼에도 불구하고, DRAM이 널리 사용되는 이유는 구조가 단순하여 대용량화에 유리하기 때문이다. DRAM은 하나의 트랜지스터와 하나의 커패시터로 구성되어, 고집적도를 실현할 수 있다. 다만, DRAM에 저장된 데이터는 시간이 지나면 자연스럽게 방전되므로, 주기적으로 전하를 보충해 주는 리프레시를 반드시 수행해야만 한다.
우리의 기억 중에서 지식적인 것은 DRAM과 유사하여, 주기적으로 리프레시를 해주지 않으면, 우리의 머리는 금방 하얗게 된다. 분명히 교과서에는 밑줄이 쳐져 있지만, 언제나 처음 보는 것 같다. 반면에 우리가 즐거웠던 기억이나 억울했던 기억은 결코, 사라지지 않는다. 특히 억울한 기억은 절대로 잊히지 않는다. 우리가 치매를 앓더라도, 어릴 적에 즐거웠던 추억은 남는다. 아마도 지식적인 기억 메커니즘과 감정적인 기억 메커니즘은 명확하게 구별되지 않을까?
한편, 프로세서 제조사들은 DRAM을 표준화하여, 아무 업체로부터 DRAM을 구매하더라도 호환성을 확보할 수 있었다. 그래서 프로세서 제조사들은 성능과 가격을 비교해 가장 유리한 DRAM을 선택할 수 있었고, 이는 자연스러운 기술 발전으로 이어졌다. 1970년대 DRAM을 세계 최초로 발명하고 시장의 90%를 점유했던 기업은 인텔이었다. 1980년대 들어 일본 기업들이 무섭게 치고 올라오며 상황이 바뀌었다.
일본 기업들은 정부의 지원을 등에 업고 거대한 자본을 투입해 생산 시설을 늘렸다. DRAM은 규격이 표준화되었고, 누가 더 싸고 수율 좋게 대량으로 생산할 수 있는가가 핵심이었다. 즉, DRAM은 자본 집약적인 산업이 되었다. 프로세서 제조사들은 치킨 게임에 돌입한 DRAM보다는 모방이 어렵고 독점적 지위를 누릴 수 있는 CPU에 집중하게 되었다.
그렇다면 어떻게 HBM은 이러한 포지셔닝을 뒤집었을까? 가장 중요한 요인은 DRAM은 누가 만들어도 상관없는 제품이었지만, HBM은 GPU와 물리적으로 가깝게 배치되어, 설계 단계부터 프로세서 제조사와 함께 머리를 공동으로 설계를 해야만 한다. 즉, DRAM이 규격화된 범용품이라면, HBM은 고객 맞춤형 전략 부품으로 격상되었다.
이러한 상황을 메모리의 역습이라고 불러도 될까? 과거 CPU가 두뇌로서 모든 권력을 쥐고, 메모리를 단순한 부품으로 취급하던 시대에서, 이제는 메모리가 시스템의 성능을 결정짓는 주연의 위치에 올라섰다. 특히, GPU라는 천재 수학자 책상 앞에 배치된 HBM은 거대하게 펼쳐진 화이트보드 역할을 충실히 수행하고 있다.
예전에는 CPU가 계산을 하다가 데이터를 적으려면, 복도 끝까지 달려가서 화이트보드에 계산 내용을 적고 돌아와야 했다. 물리적으로 거리가 멀어, 데이터가 전송되는데 시간이 지연됐다. 또한 복도가 좁아 한 번에 가져올 수 있는 데이터의 양이 제한됐다.
HBM은 GPU와 같은 패키지 안에 담겨, 바로 옆에 붙어 있다. 손만 뻗으면 닿는 거리라서 데이터를 쓰고 읽는 속도가 압도적이다. 화이트보드가 단순히 클 뿐만 아니라, 수천 개의 분필이 동시에 써 내려가는 구조다. GPU라는 천재 수학자가 아무리 빠른 속도로 계산 결과를 쏟아내더라도, HBM이라는 화이트보드는 그 속도를 모두 발맞출 수 있는 폭을 가졌다.
GPU 제조사들이 메모리를 범용적이라며 저평가했던 지점에서는 얼마나 미세화할 수 있느냐에 집중했다면, HBM은 어떻게 쌓고, 어떻게 연결하느냐에 따라 초고난도 기술 집약적인 영역으로 바꿔놓았다. 예전에는 CPU라는 왕을 모시는 신하였다면, 미래에는 스스로 생각까지 하는 강력한 핵심 참모의 위치까지 도달하길 기대한다.