AI칩 전쟁
AI칩의 종류
대표적인 반도체인 CPU와 GPU는 모두 데이터를 읽어 계산을 하고 답을 도출해낸다. 하지만 그 방식에 있어서는 매우 큰 차이가 있다. CPU는 다양한 연산을 수행하기 위해 복잡하고 큰 코어를 몇 개 정도 갖고 있고, 따라서 다양한 종류의 작업을 모두 수행 가능하지만 부족한 코어 수로 인해 한 번에 많은 작업을 수행하는 것에는 한계가 있다.
이에 반해 GPU는 단순한 수학적 연산을 반복하기 위해 이에 특화된 작은 코어를 수백 개 갖고 있고, 따라서 복잡한 연산을 수행하는 것에는 한계가 있지만, 많은 연산을 신속하고 효율적으로 수행 가능하다. AI는 주로 수많은 데이터를 학습한 후, 주어진 정보 안에서 특정 행동을 하거나 결과를 도출해야 하기 때문에 많은 정보를 빠른 시간 안에 학습하는 능력이 중요하다. 즉, AI의 연산 과정을 CPU를 이용해서 실행하게 되면 뉴런에 연결된 각 입력값과 가중치를 순차적으로 곱해서 결과값을 저장하고 모든 곱셈이 끝나면 저장된 값들을 모두 불러와서 최종적으로 합산을 하지만, GPU를 이용해서 처리한다면 모든 입력값과 가중치 곱셈 연산을 동시에 수행하는 것이 가능하다. 엔비디아는 이러한 이유로 AI에 적합한 GPU를 보다 발전시켜 AI칩을 생산하였고, 시장의 절대 강자가 되었다.
하지만 현존하는 AI칩이 GPU만 있는 건 아니다. AI칩은 AI의 학습(Training) 단계와 추론(Inference) 단계에 활용된다. 이에 따라 AI칩 역시 학습용과 추론용으로 구분할 수 있다. 학습용은 매개변수를 많이 넣을수록 효율적이기 때문에 병렬연산에 강점이 있는 GPU가 가장 많이 활용되며, 특정 목적을 위해 설계된 직접회로 즉, 주문형 반도체라고 볼 수 있는 ASIC(Application- Specific Integrated Circuit) 칩도 활용 가능하다. 추론용은 가정치와 편향을 통해 예측 값을 도출하는 것이 주된 임무이기 때문에 GPU, FPGA(Field-Programmable Gate Array), ASIC가 활용된다. 학습용 AI칩은 인터넷 기술을 활용해 확장 가능하고 탄력적인 IT 기능 서비스를 제공하는 컴퓨팅 유형인 ‘클라우드 컴퓨팅’에서 중요하게 활용되며 추론용 AI칩은 컴퓨팅 성능을 데이터가 생성되는 위치에 물리적으로 더 가깝게 이동하는 방식인 엣지 컴퓨팅에서 중요하게 활용된다. 학습용과 추론용 AI칩 모두 GPU가 범용적으로 활용될 수 있기 때문에 아직까지는 엔비디아가 시장에서 강자로 군림하고 있다.
AI칩 전쟁
글로벌 시장조사기업 브레이니인사이트에 따르면 전 세계 AI 칩 시장은 2032년까지 3,827억 달러 규모로 성장할 것이라고 전망된다. 현재 AI칩 시장의 가장 강력한 플레이어는 엔비디아다. 게임용 그래픽 처리 장치(GPU) 시장에서 업게 선두 위치를 지키던 엔비디아는 AI에 대한 세간의 관심이 높아지고, 엔비디아의 GPU가 인공지능 학습 및 운용에 가장 적합한 반도체로 지목됨과 더불어 엔비디아의 GPU만을 통해 활용할 수 있는 소프트웨어 ‘CUDA’의 높은 범용성이 주목받으면서 새로운 전성기를 맞이하였다. 엔비디아의 데이터센터 부문은 2022년 1분기에 게이밍 부문의 실적을 추월하였고, 2023년 3분기에는 실적이 4배 상승하여 현재 완전한 주력 사업 부문으로 자리잡았다. 현재 엔비디아는 전세계 AI칩 시장에서 80%의 점유율을 차지하고 있으며, 특히 데이터센터용 GPU 시장에서 98%의 매출 점유율을 차지하며 시장의 압도적인 강자로 군림하고 있다.
엔비디아가 시장의 독점 공급자가 되자 엔비디아의 AI칩에 대한 품귀현상이 발생하였다. 엔비디아의 최고성능 AI칩인 ‘H100’은 개당 가격이 3만달러까지 치솟았고 주문 이후 40주 이상을 기다려야 하는 상황이 되었다. 이는 곧 AI 기술과 AI를 활용한 서비스 개발 없이는 생존 경쟁에서 뒤쳐질 수밖에 없는 소비 기업들 입장에서 엔비디아의 교섭력이 너무 높다는 우려로 이어졌다.
이에 따라 최근 다양한 빅테크 기업들은 엔비디아의 교섭력을 견제하고, 고전력을 요하는 GPU의 특성 탓에 지속적으로 높아지는 데이터센터 유지비용을 절감하기 위해 AI칩을 자체 개발하여 출시하고 있다. 구글, 인텔, IBM, 아마존, 마이크로소프트, 메타, 애플 등의 빅테크 기업은 각각 ASIC 방식을 활용한 AI칩을 자체 개발하여 시장에 출시하는 한편, 오픈 AI는 자체 AI칩 설계 및 생산을 위해 마이크로소프트와 애플의 시가총액을 합친 것보다 많은 액수인 7조 달러 규모의 투자 유치에 나섰다. 향후 AI 기술을 활용한 서비스가 고도화될 전망에 따라 AI칩에 대한 경쟁도 앞으로 보다 치열해질 것으로 전망된다.
마치며….
진화 생물학적 관점에서 생물은 생존에 필요한 역량을 다양화하여 진화하기도 하고, 최소한으로 필요한 역량만을 특화하여 효율화하는 방향으로 진화하는 등의 다양한 양상을 보였다. 이는 비즈니스에서도 마찬가지로 발생하는 현상이다. 특정 기업은 넓은 커버리지를 기반으로 생존하는 한편, 또 다른 쪽에선 니치 마켓을 공략하여 생존 및 성장하기도 하고, 때로는 니치 마켓으로 시작한 기업이 수직적 통합과 다각화를 통해 넓은 커버리지를 커버하도록 진화하기도 한다. 현재 반도체 AI 시장에서 시장의 주도권은 다양한 역량을 골고루 발휘할 수 있는 GPU가 지배적인 영향력을 행사하고 있으나, 점차 필요한 기능만 최소한으로 확보하여 효율화하는 ASIC의 영향력이 확장되는 양상을 보이고 있다. 향후 기술과 기능의 발전이 지속된다면 어떤 생존/진화 방식을 선택한 반도체와 기업이 시장의 주도권을 확보할지 주목해보자.
참고자료 출처
https://www.lgcns.com/blog/it-trend/53385/
https://www.aitimes.com/news/articleView.html?idxno=144224
https://www.etoday.co.kr/news/view/2342832
https://www.donga.com/news/Economy/article/all/20240410/124417622/1
https://m.ddaily.co.kr/page/view/2024050214431574032
https://www.etnews.com/20240202000165
https://magazine.hankyung.com/business/article/202311209120b
작성자: ITS 25기 이강훈
