우리는 아침에 눈을 뜨자마자 스마트폰을 확인하고, 컴퓨터로 일을 하고, 밤에는 영상이나 음악을 즐긴다. 하루 종일 수많은 전자기기와 함께 살아가고 있지만, 그 안에서 가장 묵묵히 일하는 핵심 부품이 무엇인지 떠올리는 사람은 많지 않다. 그 조용한 주인공이 바로 메모리다.
많은 사람들이 CPU나 GPU는 들어봤지만, 지금의 디지털 사회는 ‘연산의 시대’를 넘어 메모리의 시대로 이동하고 있다. 인공지능이 등장하고 데이터가 폭발적으로 늘어나면서, 컴퓨터에서 가장 중요한 역할은 점점 데이터를 얼마나 빠르게 저장하고 꺼내느냐로 바뀌고 있기 때문이다.
이 글에서는 메모리가 무엇인지부터 시작해, DRAM과 NAND, 그리고 AI 시대의 핵심인 HBM을 거쳐 앞으로 등장할 HBF까지의 흐름을 쉽게 살펴보려 한다.
먼저, 메모리는 무엇일까. 가장 간단하게 말하면 데이터를 기억하는 장치다. 컴퓨터를 사람에 비유하면 이해가 쉬워진다. CPU는 생각하는 뇌이고, 저장장치는 오래된 기억을 보관하는 창고라면, 메모리는 지금 당장 일을 하기 위해 펼쳐 놓는 작업 공간이다.
우리가 계산을 하거나 글을 쓸 때 필요한 정보를 머릿속에 잠시 떠올리듯, 컴퓨터도 일을 할 때 필요한 데이터를 메모리에 올려놓고 처리한다. 그래서 메모리는 넓고 빠를수록 컴퓨터는 더 많은 일을 동시에 처리할 수 있다.
이 메모리에도 여러 종류가 있다. 우리가 흔히 ‘램(RAM)’이라고 부르는 것은 DRAM이다. 전원이 켜져 있는 동안 빠르게 데이터를 읽고 쓰며 프로그램을 실행하는 데 사용된다. 하지만 전원을 끄면 내용이 사라진다. 그래서 DRAM은 책상 위 작업 공간에 비유된다.
반면 SSD나 USB에 사용되는 NAND 플래시는 전원을 꺼도 데이터를 보관할 수 있다. 속도는 조금 느리지만 용량이 크고 오래 저장할 수 있어 서랍이나 창고에 가깝다.
그런데 인공지능과 그래픽 기술이 발전하면서 새로운 문제가 등장했다. GPU는 엄청난 속도로 계산을 하는데, 메모리가 데이터를 충분히 빠르게 공급하지 못하는 병목 현상이 생긴 것이다. 이를 해결하기 위해 등장한 것이 HBM(고대역폭 메모리)이다. HBM은 메모리를 수직으로 쌓아 올린 3차원 구조를 사용해 GPU 바로 옆에서 데이터를 공급한다. 덕분에 AI 학습과 같은 대규모 계산이 가능해졌고, 오늘날 AI 시대의 핵심 기술 중 하나가 되었다.
이처럼 메모리가 중요해진 이유는 단순하다. 현대 사회는 그 어느 때보다 데이터가 폭발적으로 증가하고 있기 때문이다. 스마트폰 사진, 스트리밍 영상, 클라우드 서비스, 자율주행, 인공지능까지 모든 기술이 엄청난 양의 데이터를 필요로 한다.
이제 컴퓨터 성능을 결정하는 것은 단순한 계산 속도가 아니라, 데이터를 얼마나 빠르게 이동시키고 저장할 수 있느냐가 되었다. 그래서 반도체 산업에서는 ‘이제 병목은 CPU가 아니라 메모리’라는 말이 나오고 있다.
하지만 기술의 발전은 멈추지 않는다. AI 모델은 계속 커지고 있고, 필요한 데이터의 양도 기하급수적으로 늘어나고 있다. HBM은 매우 빠르지만 가격이 비싸고 용량을 크게 늘리기 어렵다는 한계가 있다. 반대로 NAND는 용량이 크지만 속도가 느리다. 이 두 기술 사이의 빈 공간을 채우기 위해 등장한 개념이 바로 HBF(High Bandwidth Flash)다.
이름 그대로, HBM의 빠른 속도와 NAND의 큰 용량 사이를 연결하는 새로운 메모리 계층이다.
앞으로의 컴퓨터와 AI 시스템은 인간의 기억 구조와 비슷한 형태로 발전할 가능성이 크다. 가장 빠른 계산을 위한 HBM이 있고, 그 바로 옆에서 대용량 데이터를 빠르게 제공하는 HBF가 있으며, 장기 저장을 담당하는 SSD가 뒤를 받치는 구조다.
이런 구조가 완성되면 AI는 더 큰 모델을 더 빠르고 효율적으로 운영할 수 있고, 데이터센터의 전력 소비도 줄어들며, 결국 AI 기술의 비용까지 낮아질 수 있다.
컴퓨터 기술의 역사는 CPU에서 GPU로, 그리고 이제 메모리 중심으로 이동하고 있다. DRAM이 개인용 컴퓨터 시대를 열었다면, HBM은 AI 시대를 가능하게 했다. 그리고 이제 HBF는 초거대 인공지능 시대를 준비하고 있다.
우리는 반도체를 흔히 보이지 않는 기술이라고 말한다. 하지만 그 보이지 않는 메모리 속에서 미래의 인공지능과 디지털 사회가 조용히 자라고 있다. 지금 우리는 메모리의 끝자락에 서 있는 것이 아니라, 어쩌면 새로운 시작점에 서 있는지도 모른다.