스티븐 위트, <생각하는 기계>를 읽고
스티븐 위트의 <생각하는 기계>라는 책을 읽었다. 지금 지구에서 가장 핫한 기업인 엔비디아를 창업한 젠슨 황의 일대기를 그린 책이다. 나에게 이 책은 무협 소설처럼 느껴졌다. 가난한 동양인 이민자가 미국에 와서 온갖 역경을 다 이겨내고는 마침내 천하제일칩(!)을 만들어낸 이야기로 보였기 때문이다 - 지은이가 그런 의도를 가지고 있었는지는 모르겠다. 그래서인지 책을 아주 재미있게 읽었다. 다음 내용이 궁금해서 틈날 때마다 펼치게 되는 책은 오랜만이었다. 뿐만 아니라 유익하기도 했다. 겉핥기 수준이나마 반도체 산업, AI 산업의 변천사도 함께 읽을 수 있었기 때문이다. 특히나 AI 산업이 어떤 과정을 거쳐 지금처럼 호황에 이르렀는지 알고 싶은 사람이 이 책을 읽으면 많은 도움이 될 것 같다.
엔비디아의 GPU는 이제 AI 학습과 추론에 없어서는 안 될 도구로 여겨진다. 반도체만이 아니라 쿠다(CUDA)라는 개발 플랫폼 또한 경쟁사들이 엔비디아를 따라잡을 수 없게 하는 경제적 해자를 만들고 있다. 구글, AMD 같은 회사들이 반도체 칩을 만들고 개발 도구들을 내놓고 있지만 엔비디아의 아성을 무너뜨리지는 못 하고 있다. 경쟁사들은 아직 쿠다에 견줄 만한 개발 플랫폼을 못 만들고 있기 때문이다. 그 덕분에 엔비디아의 주가는 하늘 높은 줄 모르고 높아지고 있다. 엔비디아는 직원들의 업무 만족도가 매우 높은 회사라고 하는데, 아마도 직원들이 받은 스톡옵션의 가치가 많이 높아진 것도 중요한 이유일 것 같다.
하지만 엔비디아가 처음부터 이렇게 잘 나갔던 회사는 아니었다. 엔비디아는 원래 그래픽 카드를 만들던 회사였다. 아무래도 그래픽 카드는 게임 산업과 떼려야 뗄 수 없기 때문에, 초창기 엔비디아는 게임 산업의 흐름을 따라 잘 되었다가 기울었다가 했다. 심지어 닷컴 버블이 끝날 때 즈음에는 엔비디아도 경영 악화 때문에 직원들의 월급을 밀린 적도 있다고 한다. 책에는 이렇게 힘들었던 시기의 이야기가 자세히는 나오지 않는다. 대신 젠슨 황이 기술에 대한 실력과 확신을 가지고 있었던 덕분에 뚝심을 가지고 그 힘든 시절을 버텨냈다고 한다. 하지만 그것도 말이 쉽지 그 시절을 직접 겪은 사람들로서는 하루하루 얼마나 불안했을지 상상하기 어렵지 않다.
젠슨 황은 커리어 초반부터 이미 뛰어난 반도체 설계자였다고 한다. 그가 일을 시작하던 때만 해도 반도체 회로도를 사람이 직접 손으로 그려야 했다. 그는 지금까지도 손으로 회로도나 개념도를 그릴 수 있다고 할 정도로 꼼꼼하고 정교하다. 그런 이런 탄탄한 기본기 위에, 지금 하는 일의 다음-다다음-다음다음 단계까지 논리적으로 차곡차곡 쌓아나가면서 준비하는 성격이다. 그 과정에서 일의 우선순위, 예상되는 걸림돌 같은 것들도 철저히 분석한다. 이러한 그의 성격은 지금 엔비디아가 제품 개발 계획을 세우는 데에 가장 중요한 원동력이 되고 있다. 물론 젠슨 황의 속도에 맞춰 함께 일을 하는 사람들도 보통은 아닐 것 같다.
책에서는 이런 젠슨 황의 면모를 일론 마스크와 비교한다.
일론 머스크는 환상에서 출발해 현실로 되돌아오며 비전을 그렸고, 젠슨 황은 현실에서 출발해 미래를 만들어나갔다.
(스티븐 위트, <엔비디아 젠슨 황, 생각하는 기계>, 14장 중에서)
기술의 미래가 어떻게 펼쳐질지에 대한 황의 비전은 구체적이지 않았다. 어떤 기술 사업가들은 명확한 비전을 품고 있었다. 예컨대 일론 머스크는 자신이 화성 표면에 서 있는 모습을 상상하며 출발했고, 거기에 도달하기 위해 필요한 기술을 역으로 개발해 나갔다. 젠슨은 정반대 방식으로 접근했다. 그는 눈앞에 놓인 회로로 무엇을 할 수 있는지 파악한 후 예상할 수 있는 한계까지 전망을 확장해 나갔다. 그리고 그 지점에 도달한 뒤에야 비로소 한 걸음 더 내디뎌 불확실한 직관의 영역으로 나아갔다.
(스티븐 위트, <엔비디아 젠슨 황, 생각하는 기계>, 11장 중에서)
두 사람은 이처럼 생각하는 방식이 정 반대이다. 그럼에도 두 사람에게는 공통점이 몇 가지 있는 것 같다. 자신이 생각하는 바를 끝까지 밀어붙였다는 것, 그리고 결과를 만들어냄으로써 자신의 생각이 맞다는 것을 세상에 증명하고 있다는 것이다. 마치 정파의 최고수와 사파의 최고수가 결국 정상에서 만나는 것을 보는 것 같다.
잘 알려져 있는 것처럼 엔베디아가 지금의 성공 궤도에 오른 것은 GPU의 병렬 컴퓨팅 - 신경망 알고리즘 개발 - AI 학습과 추론을 위한 데이터 센터 확장으로 이어진다. 그런데 젠슨 황은 AI 연구에 GPU와 쿠다가 딱 맞는 제품이라는 것을 뒤늦게 알았다. 오히려 나중에 어떻게 쓰일지는 모르겠지만 일단 만들어보자는 식으로 쿠다연구에 힘을 쏟고 있었다. 하지만 그는 필요할 때 운명을 거는 도박을 할 줄 아는 사람이다. 딱 일주일 정도 혼자 스터디를 한 끝에 그는 AI에 회사의 미래를 걸기로 마음먹었다. 어느 금요일 저녁에 전 직원들에게 '우리는 더 이상 그래픽 회사가 아니다'라고 메일을 보냈고, 그다음 주 월요일에 엔비디아는 AI 회사가 되어 있었다. 엔비디아의 진짜 전성기는 이렇게 시작되었다.
하지만 엔비디아의 전성기도 언젠가는 끝날 것이라 이야기하는 사람들이 많다. 젠슨 황도 어느새 60살이 넘었다. 그가 키를 잡고 엔비디아를 직접 운전할 날도 얼마 남지 않았다. 그런 점에서 엔비디아의 미래는 젠슨 황이 엔비디아에 심어놓은 DNA(조직 문화를 넘어 조직의 유전자가 되어버린)가 어떻게 발현될지에 달려 있을 것 같다. 젠슨 황은 그것을 '광속(빛의 속도)'이라고 부른다. 그것은 단순히 일을 빠르게 한다는 뜻은 아니다. 모든 조건이 완벽할 때 가장 빠르게 일을 끝낼 수 있는 이상적인 시간을 먼저 계산한다. 그다음에 현실적인 조건들을 하나하나 반영해서 실제로 가장 빠르게 일을 마칠 수 있는 일정을 계산한다.
엔비디아는 '광속'을 바탕으로 6개월 단위로 신기술과 신제품을 발표하고 있다. 이 전통 아닌 전통은 엔비디아 초창기부터 지금까지 거의 30여 년 가까이 이어져 오고 있다. 엔비디아 직원들은 이제 이 속도에 익숙해진 것으로 보인다. 게다가 젠슨 황은 직원들을 심하게 질책(때때로 인신공격까지) 할지언정 직원을 쉽게 해고하지는 않는다고 한다. 그러다 보니 엔비디아 직원 한 명 한 명에게는 조직의 노하우와 DNA가 깊게 새겨져 있다고 한다. 그리고 엔비디아의 직원들은 자신들이 여전히 최선을 다해 달려가고 있기 때문에 다른 회사에 따라 잡히지 않을 자신감까지 가지고 일을 한다고 했다. 그 DNA와 속도가 유지된다면 엔비디아의 전성기는 더욱 길어질 수도 있을 것 같다.
그렇다면 엔비디아는 '광속'으로 어디를 향해 나아가려고 할까. 최근의 GTC에서 젠슨 황은 이제 AI의 추론 속도는 문제가 아니라고 했다. 지금의 GPU기반 하드웨어를 기반으로 한 LLM의 성능은 충분하다는 것이다. 그는 앞으로 AI가 하나의 에이전트로서 스스로 생각하고 행동하도록 하는 것, 그를 위해 AI를 계속해서 사후-훈련(post-training)시키는 것, 이 모든 것을 감당할 만한 전력 인프라를 만드는 것이 중요하다고 했다. 그를 위해 엔비디아는 AI 팩토리를 만들어서 어마어마한 컴퓨팅 인프라를 제공할 계획이라고 한다. 우리 시대의 천하제일인은 이렇게 계속 성장하고 발전하고 있다.