세상 참 빠르게 변한다

구글과 엔비디아의 주도권 경쟁

엔비디아, 삼성, 현대의 수장들이 삼성동의 어느 치킨집에 들러 '우리 깐부 맞다'며 서로 의기투합했던 모습이 떠오른다. 돈이 있어도 쉽게 구할 수 없다는 엔비디아의 GPU(Graphics Processing Unit)를 우리나라에도 공급하겠다고 했었는데 게임 그래픽을 위해 만들어졌다는 칩이 딥러닝 모델을 학습시키기에 최적이라고 하니 인공지능 시대에 가장 굵직한 브랜드가 된 것도 어쩌면 테크놀로지 진화에 따른 시대적 필연 같다. 'AI = GPU'라는 공식도 당연한 듯 굳어졌다. 데이터와 인력 그리고 GPU는 인공지능 개발에 있어 필수요소가 아닌가. 물론 테크놀로지는 같은 자리에 오래 머물지 않는다. 지금의 생성형 AI도 머지않아 피지컬 AI와 에이젠틱 AI로 넘어갈 테니까. 그렇다면 GPU 이후의 넥스트 버전도 나타나게 되지 않을까? 범용성과 유연성, 정교함과 효율성까지 내세우는 새로운 기준이 필요해질 것이다. (연산 등이) 빠른 것도 중요한데 더 적은 전력으로, 보다 낮은 비용으로 거대한 스케일의 모델을 굴릴 수 있어야 한다. 그 지점에서 우리는 NPU와 TPU까지 그 존재감을 경험하게 될 것이다.

GPU는 원래 게임 그래픽을 빠르게 처리하기 위해 만들어진 칩이지만 범용성과 유연성이 높아 대규모 연산과 딥러닝에도 널리 쓰이고 있다. 반면 TPU(Tensor Processing Unit)는 처음부터 딥러닝을 목적으로 설계된 칩으로, 텐서(Tensor) 기반의 행렬 연산을 폭발적인 속도로 처리하는 최적화된 구조가 특징이다. 물론 각각 장단점은 있다. 여러 작업을 두루 잘 처리하는 GPU와 특정 연산에서 압도적인 효율을 보여주는 TPU는 사용 환경에 따라 성능 차이가 드러난다. TPU의 강점을 보면 불필요한 기능을 최소화하고 필요한 연산에만 구조를 집중시킨 덕에 특정한 딥러닝 워크로드에서는 GPU보다 빠르고 전력 효율도 높은 편이다. 이러한 특성은 거대한 언어 모델을 학습하는 데 특히 유리하다. NPU(Neural Processing Unit)는 스마트폰이나 엣지 디바이스에서 인공지능을 실행할 때 전력을 극단적으로 아끼면서도 충분한 성능을 내도록 설계된 또 다른 축이다. 인공지능이 클라우드에서 벗어나 일상의 디바이스 속으로 스며드는 지금에서는 GPU와 TPU 그리고 NPU가 서로를 완전히 대체하는 관계가 아닌 각자의 역할에 따라 조합과 분업을 이루는 생태계로 재편되고 있다고 보면 될 것 같다.

※ GPU, TPU, NPU에 대해서 설명한 제미나이의 답변을 요약하면 아래와 같다. 비유를 보면 은근 찰떡인 것 같은 느낌.

GPU, TPU, NPU에 대해서 설명한 제미나이의 답변 요약

여기서 흥미로운 흐름 중 하나는 메타가 구글의 TPU를 대규모로 가져다 쓴다는 소식이다. 인공지능 인프라의 90% 이상 엔비디아의 GPU에 의존하고 있던 빅테크가 더 효율적인 계산을 위해 취사선택에 들어간다는 것이다. 훈련 비용은 물론이고 인프라나 전력 비용이 폭증하는 시대 속에서 TPU의 등장은 단순한 테크놀로지를 도입하는 것이 아니라 비용 구조와 경쟁력을 재편하는 셈이다.

"최신 모델을 TPU만으로 학습했습니다(우리는 엔비디아 GPU에 의존하지 않고도 최고의 AI를 만들 수 있다는 홍보용 메시지일 가능성)"라고 말하는 구글과 "GPU는 모든 인공지능 모델을 돌릴 수 있는 유일한 플랫폼(TPU는 구글 클라우드에서만 접근 가능하고 구글의 특정 프레임워크에 최적화 되었지만 우리의 GPU는 클라우드, 온프레미스 서버, 자율주행이나 로봇 같은 엣지 디바이스까지 모든 곳에서 사용 가능하다는 범용성 부각 차원)"이라고 하는 엔비디아의 코멘트는 AI 컴퓨팅 시장의 주도권을 둘러싼 경쟁이기도 하지만 시장의 흐름은 이미 다양화와 분산, 효율성을 향하고 있다. 이제는 한 가지 정답이 아니라 여러 해답이 공존하는 인공지능 시대를 살고 있다는 것이다. 그러고 보면 세상은 참 빠르게 변하고 있다. 어제까지는 분명히 스탠다드였는데 어느덧 올드한 방식이 되고 오늘의 혁신은 내일 당연한 기능이 되어버린다. 내일은 또 어떤 뉴스가 나올지 벌써부터 궁금해진다.