엔비디아(NVIDIA)와 젠슨황의 역사 이야기#3
마지막
엔비디아의 역사이야기 마지막 편입니다.
아래 글들에 연재입니다.
https://brunch.co.kr/@gmsuhodaddy/55
https://brunch.co.kr/@gmsuhodaddy/56
그리고 별도 글을 통해 말씀드리겠지만,
재테크 콘텐츠는 브런치에서 중단하려 합니다.
이곳에서는 제가 살아가는 생각을 정리하는 에세이 글들만 적는 것이 낫겠다는 생각이 들었습니다.
자세한 내용은 별도 글을 통해 하기로 하고,
그럼 엔비디아의 마지막 역사이야기로 가보겠습니다
지난번 이 차트에 이어서
오늘은 여기서 네모 친 부분부터 시작입니다. 근데 오른쪽 각도 뭐죠...???
오른쪽으로 가서 조금 연장해볼까요...??
살걸.....
도대체 무슨 일이 있었길래 저렇게 로켓을 쏠 수 있었을까요?
그럼 다시 이 시기로 돌아와서 시작해 보겠습니다.
1. 비트코인과 엔비디아
비트코인은 2009년 사토시 나카모토가 처음 만들어냈습니다. 첫 채굴을 통해 50 BTC를 얻었다고 하는데, 지금 하나에 1.6억 정도 하니까........
2011년부터는 암호화폐 채굴로 인해 GPU 수요가 실제로 있었다고 합니다. 비트코인 채굴에는 PoW(Prrof of Work)라는 방식이 사용되는데요. 이 방식은 trial and error 방식으로 문제를 푸는 것이기 때문에 GPU를 사용하면 훨씬 효율 높게 채굴할 수 있었습니다. GPU는 수천 개의 코어를 이용해 단순 연산을 동시에 수행할 수 있어서 이 구조에 잘 맞았기 때문입니다.
2017년을 기억하시나요? 택시를 타면 기사님이 이더리움 사라고 하셨던 시기입니다. 이때는 엔비디아칩이 프리미엄이 붙어서 판매되기 시작했습니다. 없어서 구할 수 조차 없었죠.
이 차트는 BTC 차트인데요. 2017년 코인 불장때 엄청난 상승을 하고 코인 빙하기를 맞이한 것을 볼 수 있습니다. 2018년. 일명 박상기의 난이라고 하죠.
박상기님엔비디아 주가 역시 비트코인 불장과 궤를 같이했습니다. 코인이 급등하면 GPU 판매량도 뛰고, 반대로 급락하면 채굴업자들이 중고 GPU를 덤핑해 시장에 쏟아내는 일이 반복됐습니다. 엔비디아는 채굴 전용 GPU까지 출시하고 TSMC에 생산을 맡겼지만, 이 변동성은 회사 입장에서는 상당히 부담스러운 상황이었습니다.
비트코인 채굴장아래는 이 시기의 엔비디아의 분기별 매출인데요. 매출이 반짝 올랐던 시기가 있죠?
단위 (B $)젠슨황은 코인시장의 변동성을 회사에서 감내하기에는 어려웠기 때문에 다른 먹거리를 찾아야 하는 상황이었습니다. 가뜩이나 변동성이 심한 비트코인이 오르고 내림에 따라 매출이 따라가면 안되었기 때문이죠.
2. 딥러닝의 시작
젠슨황이 암호화폐보다 눈 여겨본건 딥러닝 시장이었습니다.
(아무래도 코인 시장의 변동성이 회사의 매출에 연동되는 것은 부담스러웠겠죠.)
2012년 미국에서 열린 ImageNet 대회는 딥러닝 혁신의 출발점이었습니다. 수많은 컴퓨터 알고리즘이 이미지를 분류하는 대회였는데, 토론토 대학의 SuperVision 팀이 만든 AlexNet이 무려 83.6% 정확도로 압승을 거뒀습니다(전년도 75% 대비 큰 도약이었죠). 이 팀의 일원이었던 일리야 수츠케버(Ilya Sutskever)는 훗날 OpenAI의 CTO가 되어 챗GPT 개발을 이끈 인물이기도 합니다. 우리는 샘 알트만이 더 익숙하긴 하지만요.
샘 알트만을 오픈AI에서 축출하려 했다고 합니다. 그 이후 사임....AlexNet의 성공 비결은 단순했습니다. 기존 방식처럼 사람이 특징을 뽑아내지 않고, 수천만 장의 이미지를 GTX 580 두 장으로 직접 학습시킨 것입니다. 이처럼 대량 데이터를 처리할 수 있었던 것은 GPU 하드웨어와 CUDA 생태계 덕분이었죠.
이 사건 이후 딥러닝 업계에는 자금과 인재가 쏟아져 들어왔습니다. 연구자와 기업들은 앞다투어 엔비디아 GPU를 찾았고, 구글과 페이스북은 피드 최적화·검색·추천 시스템에 딥러닝을 적용했습니다. 유튜브는 추천 알고리즘 덕분에 사용자를 플랫폼에 오래 머물게 했고, 인스타그램 역시 같은 방식으로 성공을 거두었습니다.
GPU는 더 이상 게임 그래픽을 위한 장치가 아니라, AI 발전을 가능케 하는 핵심 자원으로 자리 잡아 갔습니다.
3. 굳히기에 들어가는 엔비디아
2013년, 엔비디아는 Tesla K40을 출시했습니다. 이 제품은 딥러닝 계산에 최적화된 성능을 제공하며, GPU가 과학 연구와 AI 산업의 필수 인프라임을 각인시킨 결정적 계기가 되었습니다.
2017년에는 또 한 번의 혁신이 이어집니다. 딥러닝 계산을 가속화하기 위해 특별히 설계된 텐서 코어(Tensor Core)를 포함한 볼타(Volta) 아키텍처가 개발된 것입니다. 같은 해 5월, 엔비디아는 이를 탑재한 Tesla V100을 발표하며 업계를 놀라게 했습니다.
엔비디아는 NVDLA(NVIDIA Deep Learning Accelerator) 아키텍처를 오픈소스로 공개했습니다. 이는 딥러닝 전용 하드웨어 생태계에서 사실상의 표준이 되기를 바라는 전략적 선택이었습니다.
4. 챗GPT의 등장
2022년 11월 30일, AI 혁명이 본격적으로 시작되었습니다.
ChatGPT가 공개되면서 전 세계 기업들은 “이 흐름에서 도태되면 생존할 수 없다”는 위기감을 느끼게 됩니다. 각 기업은 자체 모델 개발과 서비스 제공을 위해 데이터센터에 GPU 서버를 설치하기 시작했고, 곧 GPU는 인공지능 시대의 핵심 인프라로 자리 잡았습니다.
특히 클라우드 빅테크 기업들은 거대한 데이터센터를 짓고, 고성능 GPU 서버를 고객에게 임대하는 방식으로 새로운 비즈니스를 확장했습니다. 문제는 이 서버들이 거의 예외 없이 엔비디아 GPU 기반이었다는 점입니다. GPU 수요가 폭발하면서 생산능력조차 부족해지는 상황이 벌어졌습니다.
네이버 본사에 있는 데이터 센터 모형이렇게 생긴 데이터 센터에의 흰색 부분에
이런 박스 안에 GPU가 가득 차게 되는 것이죠.
오픈AI, 마이크로소프트, 메타, 아마존, 구글, 애플 등 빅테크 모두가 GPU를 필요로 하며 엔비디아 제품에 의존했습니다. 참고로 ChatGPT를 학습시킨 모델 역시 엔비디아의 V100 GPU였는데요. 이 결과 엔비디아의 데이터센터 사업부 매출은 폭발적으로 성장했습니다.
2022년 4분기: 약 5조 원
2024년 1분기: 약 30조 원
이러한 성장세 속에서 엔비디아는 2023년 5월 30일, 마침내 시가총액 1조 달러 기업 반열에 오르게 됩니다. 이는 단순히 “ChatGPT 수혜주”가 아니라, 엔비디아가 오랜 시간 AI 시대를 대비하며 준비해온 결과였습니다.
5. 100원 팔면 70원 남는 장사
데이터센터용 GPU는 한 대를 팔면 무려 70%의 마진을 남길 정도로 수익성이 높습니다. 이런 이유로 경쟁자들도 앞다투어 AI 가속기 시장에 뛰어들고 있습니다.
인텔은 Gaudi 3 AI 가속기를 내놓았고, AMD는 MI 시리즈를 통해 시장을 공략하고 있습니다. AMD는 특히 엔비디아의 CUDA 생태계를 빼앗기 위해 ROCm을 구축하며, 심지어 CUDA 코드를 변환해 실행할 수 있는 툴까지 제공하고 있습니다.
이뿐만이 아닙니다. 구글, AWS 같은 클라우드 빅테크 기업들 역시 자체 AI 반도체를 개발 중입니다. 오픈AI는 CUDA 의존도를 낮추기 위해 Triton을 발표했는데, 이는 AMD와 메타의 GPU에서도 작동하도록 설계되었습니다. 문제는 이들이 모두 엔비디아의 주요 고객이기도 하다는 점입니다. 마치 애플이 인텔 CPU를 버리고 자체 M 시리즈 칩으로 전환한 것처럼, 언젠가는 고객이 곧 경쟁자가 될 수 있는 리스크가 존재합니다.
현재 엔비디아는 AI 가속기 시장 점유율의 90% 이상을 차지하고 있습니다. 젠슨 황은 앞으로 10년 내 시장 규모가 20배 성장할 것으로 전망하며, 그 가운데 60% 이상을 유지하겠다는 목표를 밝히고 있습니다. 자신감의 배경은 바로 높은 진입장벽입니다. CUDA 생태계는 단순한 개발도구를 넘어, 이미 수많은 연구자와 기업이 쌓아온 최적화 라이브러리와 AI 자산을 포함합니다. 경쟁사들이 번역 툴을 제공하지만 여전히 오류가 많아, CUDA의 안정성과 완성도를 따라가기 어렵습니다.
6. 엔비디아의 또다른 경쟁우위 : 수천 개의 GPU를 하나의 컴퓨터로
요즘의 컴퓨팅 자원은 단일 칩으로는 감당할 수 없습니다. 거대한 LLM(대규모 언어 모델)을 학습하려면 여러 대의 서버가 초고속 네트워크로 연결되어, 마치 하나의 거대한 칩처럼 동작해야 합니다.
따라서 단순 성능뿐 아니라 연결 기술과 네트워크 기술이 핵심 경쟁 요소로 떠올랐습니다. 이 분야에서도 엔비디아는 강력한 우위를 점하고 있습니다. NVLink와 NVSwitch 기술을 함께 사용하면 최대 256개의 H100 GPU를 연결할 수 있습니다. 엔비디아의 AI 서버에는 GPU가 8개까지 탑재되며, 데이터센터에는 이러한 서버가 수만 대씩 설치됩니다.
하지만 NVLink만으로는 한계가 있습니다. 여기서 필요한 것이 바로 InfiniBand 네트워크입니다. 원래는 일반 인터넷에는 지나치게 고성능이라 잘 쓰이지 않았지만, 데이터센터 서버 간 초고속 연결에는 최적의 기술이었습니다. 이 기술을 독점적으로 보유하던 회사가 바로 멜라녹스(Mellanox)였고, 엔비디아는 이를 2019년에 인수했습니다. 덕분에 지금은 수천 개의 GPU를 하나의 거대한 슈퍼컴퓨터처럼 묶을 수 있게 된 것입니다.
우위를 가지고 있는 또 한가지. 반도체 업계는 철저한 분업 체계로 움직입니다. 엔비디아는 칩을 직접 설계하지만, 생산은 TSMC에 위탁하고, 고대역폭 메모리(HBM)는 SK하이닉스와 삼성전자 등으로부터 공급받습니다. 문제는 수요가 몰릴 때 누구에게 먼저 물량을 배정할 것인가 하는 점입니다. TSMC가 새로운 생산 라인을 열거나, 하이닉스가 HBM 생산을 확대한다면, 업계에서 가장 중요한 고객인 엔비디아가 우선권을 가질 가능성이 높습니다. 이런 점에서 공급망 역시 엔비디아의 강력한 경쟁 우위 요소입니다.
7. 텍스트를 넘어
아직 우리는 ChatGPT 시대에 살고 있습니다. 대부분의 AI 활용은 텍스트 기반으로 이루어집니다. 사용자는 질문을 글로 입력하고, AI는 텍스트 형태로 답변을 내놓습니다. 지금의 AI가 학습한 데이터 역시 웹 문서, 책, 기사 등 텍스트 기반 지식이 중심입니다.
하지만 다음 단계를 분명하게 상상할 수 있습니다. 앞으로 AI가 글을 넘어서 이미지와 영상을 학습하고, 이를 아웃풋으로 제공하는 세상이 오겠죠. 이미 이러한 조짐이 나타나고 있습니다.
그런데 텍스트의 경우에는 용량이 KB~MB 수준으로 비교적 가볍지만, 이미지는 훨씬 크고, 학습해야 할 패턴도 더 복잡합니다. 영상의 경우 프레임 수 × 이미지 크기 × 시간 축까지 고려해야 하므로 차원이 다른 데이터량을 요구합니다.
즉, AI가 영상 시대에 본격적으로 진입한다는 것은 연산량·저장 용량·네트워크 처리 속도가 기하급수적으로 커져야 한다는 뜻입니다. GPU 시장이 지금보다 몇 배, 몇십 배로 확대될 수밖에 없는 이유입니다.
8. 마치며
지금까지 엔비디아의 역사를 살펴보았습니다.
겉으로 보기에는 단순히 AI로 성공한 기업처럼 보이지만, 실제로는 여러 차례 파산 위기를 겪은 파란만장한 일대기를 가진 회사임을 알 수 있었습니다. 그리고 그 위기마다 젠슨 황은 정말 놀라운 결단력과 집념으로 회사를 이끌어냈습니다. 언젠가 자신이 그리는 세상이 올 것이라 믿고, 오랜 시간 한 가지에 집중해온 끝에 마침내 시대가 도래하자 폭발적인 성장을 이룬 것이죠. 개인적으로 공부하며 느낀 점이 많았습니다.
AI는 앞으로도 기하급수적으로 발전하며 우리의 일상과 산업 전반을 바꿔놓을 것입니다. 텍스트에서 이미지, 더 나아가 영상과 실시간 상호작용으로 확장되는 이 흐름은 연산량과 데이터 처리량의 폭발적 증가를 불러오겠죠. 그리고 이 거대한 변화의 중심에는 여전히 엔비디아의 칩이 자리할 가능성이 높습니다.
