엔비디아 생태게에 딥시크가 안착하다.
엔비디아 (NASDAQ:NVDA)은 목요일(현지시각) 중국의 인공지능(AI) 모델인 딥시크 R1이 자사의 엔터프라이즈 소프트웨어 플랫폼에서 프리뷰 형태로 제공되며, 개발자들이 곧 애플리케이션 프로그래밍 인터페이스(API)에 접근할 수 있을 것이라고 발표했다.
엔비디아는 성명을 통해 딥시크 R1이 자사 웹사이트에서 엔비디아 추론 마이크로서비스(NIM) 프리뷰로 제공된다고 밝혔다. NIM은 개발자들이 원격 엔비디아 하드웨어를 활용하면서도 개인 시스템에서 AI 프로그램을 배포하고 사용할 수 있도록 지원하는 서비스이다.
엔비디아는 "딥시크-R1 NIM 마이크로서비스는 단일 NVIDIA HGX H200 시스템에서 최대 초당 3,872개의 토큰을 처리할 수 있다"고 설명했다. 엔비디아는 딥시크에 대한 API 지원이 “곧 제공될 예정”이며, 다운로드 가능한 NIM 서비스 형태로 출시될 것이라고 덧붙였다.
지난 한 주 동안 딥시크는 R1 모델이 더 오래된 하드웨어와 적은 예산으로도 OpenAI의 Chat-GPT 같은 대형 경쟁 모델과 대등하거나 일부 경우 이를 능가하는 성능을 보일 수 있다는 평가를 받으며 빠르게 주목받았다.
이 중국의 딥시크의 출시로 인해 엔비디아의 시장 가치가 급락했으며, 이번 주에만 약 6,000억 달러 규모의 시가총액이 증발했다. 저렴한 GPU로 업계 최상위 성능을 보여준 딥시크로 인해 투자자들은 AI 인프라에 대한 급격한 투자가 여전히 필요한지에 대해 의문을 제기했던 것이다.
미래는 확언하거나 예지할 수 없지만, 엔비디아의 생태계 내에서 딥시크가 있기 때문에 엔비디아의 영향력은 변함없을 것으로 보인다.