TPU와 GPU 비교분석(2)

TPU와 GPU의 시장확장 주요요인 비교와 엔비디아&구글의 주가전망

* 아래 글은 주식투자 권유나 투자자문 목적의 내용이 아닌 지식공유 목적의 내용입니다.

먼저 지난 글을 통해 정리해본 TPU와 GPU의 장단점을 다시 돌아보자.

[TPU의 장단점]

[GPU의 장단점]

이어서 이번 글에서는 향후 시장을 확장해나가기 위한 주요 요인別로 TPU와 GPU의 특징을 비교해보자. TPU와 GPU 모두 AI 프로젝트에 자주 사용되지만, 아래 표와 같이 주요 요인别로 차별적인 특징을 가짐에 따라 설계와 이상적인 사용 사례는 서로 다르다고 할 수 있다.

다시 한번 세부적으로 설명을 하자면,

<성능>

- TPU는 행렬 곱셈에 의존하는 딥 러닝 워크로드에서 GPU보다 성능이 뛰어난 경우가 많다. 따라서, 이러한 작업에 특화된 하드웨어를 통해 더욱 효율적인 처리가 가능하다.

- GPU는 다양한 모델을 실행하거나 텐서 기반이 아닌 연산을 수행할 때 강력한 성능을 제공한다.

<확장성>

- TPU는 관리형 AI 서비스를 사용하여 Google Cloud 환경 내에서 효과적으로 확장될 수 있다.

- GPU는 온프레미스 클러스터, 퍼블릭 클라우드 플랫폼, 에지 기기 등 여러 환경에서 확장할 수 있으며, 이 기능은 배포 유연성을 높여준다.

<가용성>

- TPU는 현재 Google Cloud를 통해서만 제공된다. 이러한 제한으로 인해 Google 생태계에 참여하지 않는 조직은 액세스를 할 수 없다.

- GPU는 NVIDIA, AMD, Intel과 같은 공급업체에서 제공되며, 모든 주요 클라우드 공급업체와 지역 하드웨어 공급업체에서 지원하고 있다.

<소프트웨어>

- TPU는 주로 TensorFlow를 지원하므로 다른 프레임워크가 필요한 프로젝트에서는 사용이 제한된다.

- GPU는 TensorFlow, PyTorch, 맞춤형 CUDA 기반 애플리케이션을 포함한 AI 도구 및 라이브러리와 광범위한 호환성을 제공된다.

<하드웨어>

- TPU는 고정함수 ASIC 설계를 사용하여 특정 작업에 더 나은 전력 효율을 제공한다. 그러나 이 특징은 유연성이 떨어진다는 단점이 있다.

- GPU는 프로그래밍 가능한 아키텍처를 사용하여 AI 내부 및 외부에서 더욱 광범위한 알고리즘과 사용 사례를 지원한다.

<인공지능>

- TPU는 TensorFlow 기반 AI 모델에 빠르고 에너지 효율적인 학습 및 추론을 제공한다.

- GPU는 실시간 추론, 대규모 학습, 다중 모달 학습 시스템을 포함한 광범위한 AI 워크로드를 지원한다.

<가격>

- TPU는 Google Cloud에서만 제공하는 독점 서비스로, 사용자는 Google의 가격 정책을 따른다. 하지만 특정 워크로드에 대한 효율성 덕분에 특히 아키텍처에 적합한 대규모 작업의 경우 총 프로젝트 비용을 낮출 수 있다.

- GPU는 더 많은 제어 기능과 유연성을 제공하며, 다양한 클라우드 제공업체에서 대여하거나 자체 하드웨어로 구매할 수 있으므로 가격 스페트럼이 넓다.

TPU vs. GPU의 용도별 선택

<TPU 선택>

- 프로젝트가 TensorFlow만 사용하고 Google Cloud에서 실행되는 경우.

- AI 워크로드에서 전력 효율성과 고성능이 중요한 경우.

- Google 인프라 및 도구를 사용하여 대규모 모델을 학습하는 경우.

<GPU 선택>

- 모델에 PyTorch가 필요하거나 로컬 배포 기능이 필요한 경우.

- 유연성, 접근성, 그리고 광범위한 소프트웨어 생태계가 더 중요한 경우.

- AI, 렌더링, 시뮬레이션을 포함한 혼합 워크로드를 실행하는 경우.

지난 글과 이번 글을 통해서 알아봤듯이 TPU와 GPU는 비교적 명확한 차이점을 가지고 있다. 따라서, 향후 TPU가 GPU를 대체한다는 논리는 매우 과장된 내용이라고 할 수 있다. AI의 궁극적 목적지인 피지컬 AI와 AGI를 향해 가는 과정에서 TPU와 GPU는 앞으로 더욱 빠르고 더욱 크게 성장할 것이다. 사실 범용성의 측면에서는 GPU의 진출영역이 더 많고 더 넓다고 할 수 있다.

그러나, 단기적인 주식시장은 본질적인 내용과 진실보다는 갑자기 등장한 어벤져스급 내러티브에 따라 움직이게 된다. 따라서, 단기적으로는 엔비디아를 비롯한 오픈AI 진영의 주식들(마이크로소프트, 오라클, 코어위브, AMD 등)의 주가는 조정을 받을 수 있고, 구글이 그들에게서 빠져나온 그 자금을 빨아들일 수 있다. 무엇보다도 시장이 그동안 구글을 과소평가해왔기에 이번 충격은 더욱 크다고 할 수 있다. 마침 이 시기에 워렌 버핏의 버크셔 해서웨이가 구글을 매수하여 "미국 역사상 최고의 투자대가 인생의 마지막 배팅"이라는 극적인 묘사까지 더해지면서 구글은 현재 미국 주식시장의 원탑 스타가 되었다(워렌 버핏이 구글을 선택한 배경을 워렌 버핏이 애플을 투자했을 때와 비교한 글도 준비하고자 한다). 조미료 격으로 영화 빅쇼트 스토리의 실제 인물인 마이클 버리가 엔비디아에 대해서 연일 공매도 코멘트를 내놓으면서 구글과 엔비디아의 추수감사절은 완전히 다른 분위기가 되어버렸다.

국내외 뉴스나 증권사 리포트를 보면 모두 구글이 AI미래를 완전히 정복하고 오픈AI진영은 자금조달과 시장확장에 실패하고 순환출자와 부채에 숨이 막혀 무너질 것처럼 묘사하고 있는 곳이 많다. 그럴 가능성이 "0"은 절대 아닐 것이다. 이 세상에 100과 0은 없다. 항상 그 사이의 어딘가에 있게 된다. 특히 IT 섹터의 기업투자에 있어서는 더더욱 보장된 미래는 없다. 물론 구글은 오랫동안 구글의 저력을 입증해왔고, 앞으로도 분명한 자신만의 영역을 만들어갈 위대한 기업이므로 우선순위로 투자를 해야 하는 기업임은 분명하다. 그러나, 구글이 다 해먹을 것이라는 전제로 오픈AI는 망할 것이라고 믿고 구글에 몰빵을 하는 투자를 해서는 안된다. 기술은 투자와 마찬가지로 복리효과가 매우 강한 영역이다. 오픈AI진영의 기업들 역시 수십년간 미국을 중심으로 전 세계에서 최고의 기업으로 인정받아온 기업들이다. 그들이 그동안 쌓아온 기술과 시장의 복리효과도 엄청나다는 것을 알아야 한다. 시간이 걸릴 수는 있겠지만 분명히 세상을 놀라게 할 기술과 제품을 선보일 것이다.

크게는 AI산업, 그중에서도 미국에 대한 투자를 결정하였는데 아직 최고의 기업을 선택하지 못하였을 때는 미국 빅테크를 중심으로 투자를 잘해온 ETF들에 투자한 후, 시장의 양상을 살펴가면서 ETF에 이미 투자한 자금을 거의 확실한 주도주가 된 종목으로 단계적으로 옮기는 투자방법을 고려해볼 수 있다. 만약 이미 엔비디아를 비롯 잘 알려진 빅테크 기업들에 투자가 되어있으나, 구글은 전혀 포지션이 없다면 조금씩 자금을 이동해보는 투자방법도 가능하다.

지금은 우리가 함부로 미래의 그림을 그려서는 안된다. 그러나 꾸준하게 시장의 발전방향을 모니터링하고 관련 지식을 공부해나가야 한다. 그래야만 중요한 순간마다 주가의 상승 또는 하락과 상관없이 스스로가 할 수 있는 최대한 객관적이면서도 이상적인 의사결정을 할 수 있기 때문이다.