NVIDIA, AI 시대의 ‘엔진’
인공지능(AI)의 혁신은 사용자가 사용하는 챗봇이나 서비스에서만 이루어지지 않습니다. 이 서비스를 가능하게 하는 막대한 연산을 담당하는 ‘엔진’이 존재하지요. 이번에는 그 엔진을 만든 회사, 엔비디아(NVIDIA)의 이야기를 나누어보겠습니다.
1. 지금, 엔비디아가 잘하고 있는 일
엔비디아는 지금 AI 인프라의 사실상(de facto) 표준입니다. 지금의 AI를 가능케 한 유일한 업체입니다. 대형 언어 모델(LLM), 자율주행, 로보틱스, 생성형 AI까지, 오늘날 우리가 접하는 대부분의 AI는 엔비디아의 GPU(Graphics Processing Unit) 위에서 작동하고 있습니다.
AI 모델을 학습시키려면 수조 개의 연산을 반복해야 합니다. 이를 빠르게 처리하기 위해서는 일반 CPU보다 병렬 연산에 특화된 GPU가 필요합니다. 엔비디아는 이 기술적 흐름을 누구보다 먼저 읽고, GPU를 단순한 그래픽 칩이 아닌 AI 연산의 핵심 엔진으로 재정의했습니다.
덕분에 지금의 AI 붐에서 엔비디아는 하드웨어 기업이면서도 ‘AI 혁신의 중심’으로 평가받고 있습니다. 2024년 기준으로 엔비디아의 시가총액은 애플, 마이크로소프트와 함께 세계 3대 기업 안에 들 정도입니다.
* Meet Tesla T4, NVIDIA’s Fastest Data Centre Inferencing Platform. https://analyticsindiamag.com/ai-news-updates/tesla-t4-nvidia-gpu/
2. 엔비디아의 간단한 역사
엔비디아는 1993년, 젠슨 황(Jensen Huang)과 두 명의 공동창업자가 '컴퓨터 그래픽을 더 현실적으로 표현하자'는 목표로 시작했습니다. 초기에는 비디오 게임용 그래픽 카드 회사였습니다.
1999년, 엔비디아는 세계 최초의 GPU ‘GeForce 256’을 발표하며 그래픽 시장에서 독보적인 위치를 차지했습니다. 그런데 이 GPU는 예상치 못한 방식으로 쓰이기 시작했습니다. 게임뿐 아니라 과학 계산, 데이터 분석, 인공지능 학습 등 ‘대량의 병렬 연산’이 필요한 영역에서도 GPU가 탁월하다는 사실이 밝혀진 것입니다.
3. AI 성공의 배경: 전략적 선택과 결과
엔비디아의 AI 성공은 단 한 번의 ‘운’이 아닌, 여러 차례의 전략적 선택이 만든 결과입니다.
1) CUDA의 도입 (2006)
엔비디아는 GPU를 AI나 과학 계산에도 쓸 수 있도록, ‘CUDA(CUDA Unified Device Architecture)’라는 프로그래밍 플랫폼을 공개했습니다. 이는 개발자들이 GPU를 일반 연산용으로 쉽게 활용할 수 있게 만들어, AI 연구자들이 엔비디아 생태계로 모여들게 했습니다.
2) AI 연구자와의 협업
엔비디아는 구글, 오픈AI, 메타, 테슬라 등 주요 AI 기업과 긴밀하게 협력하며 AI 학습용 칩, 전용 서버, 클라우드 플랫폼을 함께 개발했습니다. 대표적으로 2020년대 들어서는 ‘H100 GPU’가 대형 언어모델 학습의 표준이 되었습니다.
3) 하드웨어를 넘어 ‘플랫폼 기업’으로의 전환
엔비디아는 단순히 칩을 파는 회사가 아닙니다. AI 학습용 소프트웨어(SDK), 가상 시뮬레이션 플랫폼(Omniverse), AI 서버 운영 시스템(NVIDIA DGX Cloud) 등을 함께 제공합니다. 이로써 ‘AI를 쓰려면 자연스럽게 엔비디아 생태계에 들어와야 하는 구조’를 만든 것이지요.
이 일련의 선택들이 엔비디아를 ‘AI 혁신의 인프라 설계자’로 자리매김하게 했습니다.
4. 앞으로의 기대: 인프라 투자와 전략적 협업
엔비디아는 이제 AI 생태계의 기반 설계자이자 조력자로서 더 큰 역할을 맡게 될 것입니다.
전 세계 데이터센터 기업들은 엔비디아의 GPU로 시스템을 재편하고 있고, 각국 정부와 기업들도 AI 연산 인프라 투자를 확대하고 있습니다. 젠슨 황 CEO는 이를 'AI 공장(AI Factory)의 시대'라 부릅니다. AI 모델을 학습시키는 컴퓨팅 자원이 새로운 산업의 ‘전기’가 된다는 뜻입니다.
앞으로 엔비디아는 글로벌 클라우드 기업과의 협업(Google Cloud, AWS, Microsoft Azure), 반도체 제조 파트너(TSMC)와의 동맹, AI 스타트업에 대한 인프라 지원 및 투자 확대를 통해 AI 산업의 인프라 생태계를 완성해 나갈 것으로 보입니다.
AI 시대의 경쟁력은 모델에 대한 아이디어, 많은 양의 데이터, 그리고 이것을 가능케 하는 연산 자원이 함께 갖춰져야 합니다. 엔비디아는 그 세 가지 중 ‘연산력’이라는 기반을 가장 먼저, 그리고 가장 완벽하게 준비한 회사입니다.
참고
1) Graphics processing unit. https://en.wikipedia.org/wiki/Graphics_processing_unit
2) GeForce 256. https://en.wikipedia.org/wiki/GeForce_256
3) Parallel computing. https://en.wikipedia.org/wiki/Parallel_computing
4) CUDA. https://en.wikipedia.org/wiki/CUDA
5) Nvidia Tesla. https://en.wikipedia.org/wiki/Nvidia_Tesla
6) Nvidia CEO: We're An AI Factory Company Now. https://www.pcmag.com/news/nvidia-ceo-were-an-ai-factory-company-now