GPU와 AI 반도체
칩(CHIP) 개념 알아보기 2편
왜 연산능력(computing power)가 중요한가?
최근 Chat-GPT가 연일 화제이다. Open AI가 쏘아올린 공은 어디로 향하는가? GPT-4까지 발표되면서 초거대 AI 모델과 생성형 AI에 대한 관심이 크게 증가하였다. GPT-3은 파라미터 수만 1750억개에 달하고, 대규모 연산이 필요하기 때문에, 빠르게 연산을 처리할 수 있는 연산능력이 중요하다.
모빌리티의 경우에도 자율주행을 위해서는 빠른 연산력이 중요하다. 자율주행차량이 운행할 경우 영상과 같은 비디오와 라이다, 레이더 등 센서 데이터를 처리하게 되는데, 이때 빠른 연산을 통해 실시간에 최대한 가까운 연산력을 갖춰야 차량 주행 안전을 보장할 수 있기 때문이다.
테슬라의 경우 AI 반도체인 도조칩(Dojo-chip)을 자체 개발하여 빠른 연산을 통해 AI 모델을 활용한 FSD(Full self-driving) 기능을 강화하기 위한 노력을 기울이고 있다. 이외에도 GPU 대표업체인 엔비디아는 GPGPU(General-Purpose computing on Graphics Processing Units)라는 GPU의 확장모델을 개발하여 모빌리티 등 AI 분야에서 광범위하게 활용할 수 있는 기술생태계를 구축해나가고 있다.
GPU란 무엇인가?
엔비디아가 주도하고 있는 GPU(Graphic Processing Unit)는 본래 그래픽카드로 컴퓨터 게임을 작동하는데 있어 비디오 그래픽 픽셀의 색상과 해상도를 빠르게 계산하여 화면을 전환하기 위한 용도로 개발되었다. 비디오 화면을 구현하기 위해서는 픽셀 단위로 그래픽 색상을 촘촘히 구현하여 현실에 최대한 가까운 해상도를 구현하게 된다. 이 때, 빠른 연산을 위해서는 CPU(Central Processing Unit)와 같은 방식으로는 연산에 한계가 있다. 이를 위해 CPU는 하나의 코어를 활용하여 CPU가 중앙에서 고도의 중요한 프로그램의 단일 연산을 하는 것과 달리, GPU는 여러개의 코어를 활용하여, 간단한 연산 체계만을 위해 고안되어 병렬로 동시에 여러 연산을 동시에 수행할 수 있는 장점을 가진다.
아울러 디지털 기술이 발전하면서 영화와 애니메이션 등 콘텐츠 분야에서도 디즈니를 비롯한 다양한 업체에서 3D 모델링을 통한 CG 기술의 확대로 디지털 그래픽을 새롭게 구현할 수 있는데까지 활용되고 있다. 엔비디아는 옴니버스(omniverse) 플랫폼을 통해 3D 시각화 작업을 위한 전용 서비스를 개발하여 메타버스와 AR/VR 기술의 생태계를 빠르게 확장하고 있다.
또한, GPGPU를 통해 컴퓨터 그래픽을 위한 계산만을 담당하던 GPU에서 벗어나서 CPU가 맡았던 응용 프로그램(어플리케이션)의 작동을 위한 연산에도 활용할 수 있는 범용 모델이 고안되었다. 특히, 엔비디아는 CUDA(Compute Unified Device Architecture)라는 기술을 개발하여 GPGPU 시장까지 장악하고 있는 상황이다.
왜 AI 반도체인가?
그렇다면 GPU가 있는 상황에서 왜 AI 반도체가 필요한가? AI 반도체가 가지는 장점은 무엇인가? AI 반도체는 GPU 보다 더 특정 목적에 집중한 연산을 위해 고안된 반도체이다. 아울러 AI 반도체는 높은 전력효율을 통해 전력 소비량을 절감할 수 있다는 장점도 가지고 있다.
예를 들어, 금융 분야에 특화된 AI 반도체는 주식과 지수 등 금융상품 거래만에 특화된 AI 반도체로 빠르게 연산하여 자동거래(로보어드바이저) 기능을 활용할 수 있다. 이 경우 GPU에 비해 단순한 연산이지만 특정 거래 기능만을 활성화하여 빠르게 연산할 수 있는 장점을 가진다. 다만, GPU가 엔비디아를 통해 많은 개발자들이 쉽게 접근 가능한 아키텍처 및 프로그래밍 기능을 갖춘 것과 달리, AI 반도체는 특정 목적에 맞는 연산을 위한 별도의 프로그래밍 접근이 필요하다는 단점도 있다.
향후 AI 반도체는 반도체 전체 시장의 1/3을 차지할 것으로 전망되기도 하다. 이렇게 AI 반도체가 주목 받는 이유는 이제 반도체 기술이 고도화되면서, 서비스를 하는데 있어 사용자 경험 수준을 높이기 위해서는 보다 빠른 연산력이 필요하기 때문이다. 특히, AI 반도체를 활용해서 기업에서 원하는 기술을 위해 집중할 수 있는 장점이 있다.
