어려운 요즘 AI용어 진짜 쉽게 알려드림

”CPU, GPU, NPU"가 뭐야?

by 에디터 햇살

굿모닝 마이 브랜드! 어렵고 딱딱한 경제 이야기를, 중학생도 쉽게 이해할 수 있도록 풀어드립니다.

굿마브 뉴스레터 구독하기-> https://gmmbrand.stibee.com


”아니 CPU도 모르겠는데 GPU는 또 뭐고, 그리고 NPU는 또 뭐야...?”


AI하면 엔비디아 유명하잖아. 주식도 많이 오르고. 그래서 투자하려고 좀 봤는데, 아니 AI용어가 왜 이렇게 어려운 거야? 한 번에 세 가지 용어를 주입하려니까 머리가 터질 것 같…..


은 사람을 위해서, 이 세 가지 용어를 밑에 쉽게 정리해봤어!


CPU는 만능 전문가 (본명: 중앙처리장치)


CPU를 한마디로 말하면 “만능 전문가” 같은 친구야. 설계도만 주면 글쓰기, 계산, 자료 정리, 인터넷 검색 등 어떤 일이든 척척 해내지. 정확하고 똑똑하게 일을 차근차근 해결하는 게 장점이야. 교수님 입장에선 믿고 맡길 수 있는 다재다능한 조수 같은 거야.


그런데 말이야, 이 CPU 친구에게도 한계가 있어. 어느 날 교수님이 “학생들 시험지 1,000장 좀 채점해 줘!” 하고 부탁을 한 거야. 그러면 CPU는 이걸 혼자서 차근차근 1장씩 넘기면서 채점해야 해. 이렇게 반복하니까 아무리 똑똑해도 시간이 너무 오래 걸리는 거지.


그래서 CPU가 고민하다가 “이건 도저히 나 혼자서는 못하겠다” 싶어서 친구한테 연락을 해. 그 친구가 바로 GPU야.


GPU는 반복 작업 전문가(본명: 그래픽처리장치)


GPU는 CPU랑 성격이 완전히 달라. GPU는 “반복 작업 전문가” 같은 친구야. 똑같은 일을 수천 번 반복해야 할 때 진짜 강력해. 시험지 1,000장 채점 예시를 다시 들어볼게. GPU는 마치 공장에 있는 자동화 기계처럼 시험지 1,000장을 쫙 깔아 놓고 동시에 한꺼번에 채점해 버려. 결과가 순식간에 나오는 거지.


GPU는 “많은 작업을 동시에 처리” 하는 데 특화돼 있어. 한두 가지 복잡한 문제를 해결하는 건 CPU가 더 잘하지만, 같은 계산을 수천 번 반복해야 하는 일은 GPU가 훨씬 유리해.


예를 들어 이미지 처리를 생각해 보자. 사진 한 장은 사실 수백만 개의 아주 작은 색깔 점(픽셀) 으로 되어 있어. 사진을 바꾸려면 이 모든 픽셀을 처리해야 해. CPU는 픽셀을 하나하나 순서대로 처리하지만, GPU는 모든 픽셀을 동시에 계산할 수 있어. 엄청 빠른 거지. 마치 공장에서 수백만 개 부품을 한꺼번에 가공하는 것처럼, 사진 전체를 엄청 빠르게 처리할 수 있는 거야.


❓근데 GPU로는 어려운 과제: 얼굴 구별하기


그런데 교수님이 또 다른 과제를 줘.


“학생 얼굴 사진 1,000장 보고 누가 누군지 다 맞혀 봐!”


“예? 교수님 뭐… 뭐라구요?” CPU와 GPU는 당황하기 시작해. 이건 난이도가 다르거든. 이 과제는 단순히 채점만 하는 게 아니라, 얼굴을 보고 누가 누구인지 구분해야 하는 거야. CPU가 할 수는 있어. 정말 똑똑하니까. 근데 한 장 한 장 꼼꼼히 보고 비교하니까 너무 느린거지.


GPU는 사진을 한 번에 수백 장 처리할 수는 있지만, “이 학생이 김민지야?”, “저 학생은 이철수야?” 같은 판단을 잘 못해. 그래서 이때 또 다른 친구 NPU를 불러.


NPU는 AI(인공지능) 작업만 진짜 잘하는 전문가 대학원생 (본명: 신경망처리장치)


NPU는 CPU나 GPU가 잘 못하는 “사진이나 소리의 의미를 이해하고 판단하는 일”을 정말 잘해. 단순히 계산만 하는 게 아니라, 사진을 보면 “이건 김민지 학생, 저건 이철수 학생”처럼 누가 누군지 똑똑하게 맞춰 줘.


또 예를 들면,

강아지랑 고양이 사진을 보여주면 “이건 강아지, 저건 고양이”라고 구별해 줘

사람 목소리를 들으면 “지금 뭐라고 말했는지” 글자로 바꿔 줘

외국어 문장을 보면 자연스럽게 우리말로 번역해 줘

네가 좋아할 만한 영상을 “이거 어때?” 하고 추천해 줘


이런 건 원래 사람이 머리로 생각해서 보고, 듣고, 판단해야 하는 일이잖아? NPU는 이런 “사람처럼 ‘생각’하고 ‘판단’해야 하는 복잡한 일”을 진짜 빠르고 효율적으로 해내는 전문가야. CPU도 이런 걸 할 수는 있지만 훨씬 느리고 오래 걸려. 그리고 NPU는 이런 AI 작업만 잘하도록 특별히 만들어져 있지.


❓아니 그러면 NPU 하나 있으면 GPU, CPU 필요 없는 거 아냐?


노노! NPU 하나만으로는 컴퓨터가 제대로 돌아가지 않아. NPU는 AI(인공지능) 작업만 진짜 잘하는 전문가야. 그래서 컴퓨터나 스마트폰에서 해야 하는 모든 일을 다 할 수는 없어.


CPU는 컴퓨터의 “두뇌” 같은 존재라서 문서 작성, 인터넷, 앱 실행, 파일 관리 같은 거의 모든 기본적인 일을 처리해. 그니까 CPU가 없으면 컴퓨터가 아예 안 돌아가.


GPU는 게임 그래픽, 영상 편집, 대량 계산처럼 “똑같은 일을 수백~수천 번 동시에 해야 할 때” 엄청 빠르게 처리해 주는 역할이야.


NPU는 얼굴 인식, 음성 인식, 번역 같은 “AI가 필요한 일”만 빠르고 효율적으로 해. 그러니까 NPU 하나만 있다고 해서 컴퓨터나 스마트폰이 제대로 돌아가는 게 아닌거지.


CPU, GPU, NPU는 각자 잘하는 일이 다 달라서 팀플레이를 해야 해. 그래야 컴퓨터나 스마트폰이 똑똑하게 잘 움직일 수 있는 거지.


그래서 각자 역할 정리를 예시로 들어보면..


CPU는 전체를 관리하는 역할

GPU는 그래픽·영상 등 반복 작업을 빠르게 처리하는 역할

NPU는 얼굴 인식·음성 인식·번역 등 AI가 필요한 일을 똑똑하게 처리하는 역할

이렇게 각자 잘하는 역할을 맡아야 효율적으로 일을 처리할 수 있는 거야


스킵해도 괜찮긴 하지만 알면 더 좋은 내용

1.CPU는 여러 코어(쉽게 말해 직원 수, 4코어 CPU는 4가지 일을 동시에 가능)가 있어서 여러 작업을 동시에 잘 처리하긴 해. 근데 GPU처럼 수천 개 코어로 똑같은 계산을 한 번에 돌리는 건 구조적으로 좀 어려워.


2.GPU는 딥러닝(컴퓨터가 뇌를 흉내 내서 스스로 배우는 기술) 같은 AI 연산에 진짜 많이 쓰여. 다만 AI가 실제로 “판단”하거나 “의미를 해석”하는 단계는 NPU가 더 잘 처리해.


3.NPU는 모든 기기에 다 들어가는 건 아니야. 주로 스마트폰, IoT 기기, 일부 PC나 서버에서 AI 작업을 빨리 돌리려고 쓰이는 거야. 왜냐면 NPU 비싸거든.


4.GPU는 원래 그래픽이나 영상 처리용이지만, 요즘엔 대규모 병렬 계산(수많은 작업을 동시에 처리해서 빠르게 결과 내는 방법), 특히 AI 학습 쪽에서도 엄청 많이 쓰이고 있어.


*썸네일 사진 출처: 생성형 AI

keyword