AI시장 LLM에서 추론으로 급격히 변화중
AI시장은 LLM에서 추론 시장으로 급격히 변화하고 있다. 이런 상황에서 수익을 창출하기 좋은 회사는 어디며, AI하드웨어에서 어떤 변화가 일어날까? 향후 어떤게 투자 전략을 바꿔야하나?
맞아요! 2025년 AI 시장은 훈련(training)에서 추론(inference)으로 급격히 이동 중이에요. 훈련 비용이 급감하고(오픈소스 모델 덕분), 실제 AI 사용(실시간 챗봇, 에이전트, 자율주행 등)이 폭발적으로 늘면서 추론 시장이 2025년 처음으로 훈련 매출을 넘어섰고, 2030년까지 250~350억 달러 규모로 성장할 전망입니다(CAGR 1719%).
추론은 비용 효율성과 속도가 핵심이라, 저전력·고속 추론 특화 회사가 강세예요. 아래 표로 주요 수혜주 정리했어요(2025년 말 기준 성과 반영).
NVIDIA가 Groq 흡수로 가장 큰 수혜자예요. 경쟁자 제거 + 기술 보강으로 추론 시장도 장악할 가능성 높아졌습니다.
AI 하드웨어 변화
추론 시대엔 **효율성(전력·비용·속도)**이 핵심이라 하드웨어가 크게 변해요:
커스텀 ASIC/LPU 상승: GPU(범용)는 훈련에 강하지만 추론엔 과도(전력 낭비). ASIC(Amazon Trainium, Google TPU, Groq LPU)은 특정 워크로드에 최적화돼 10~50배 효율적. 이제 NVIDIA도 Groq LPU 통합으로 하이브리드 전략.
에지/분산 추론 증가: 클라우드 중심 → 엣지(스마트폰, 자율차)로 이동. 저전력 NPU(Qualcomm 등) 수요 폭발.
전력·지속 가능성 강조: 데이터센터 전력 수요 3배 증가 예상. 에너지 효율 칩(Intel Gaudi, AMD)이 부상.
상품화(commoditization): 추론 비용 10배 하락 중. 오픈소스 모델 + 효율 칩으로 마진 압박, 하지만 볼륨 폭발.
결과적으로 NVIDIA 독점 약화 가능성 있지만, Groq 딜로 오히려 강화됐어요.
투자 전략 변화 추천
추론 시대로 넘어가면서 전략도 바꿔야 해요:
NVIDIA 중심 → 다각화: 여전히 리더지만, AMD/Intel(추론 효율), hyperscaler(MSFT, AMZN, GOOGL)로 분산. 순수 추론 플레이(Groq는 이제 NVIDIA 산하).
인프라 → 애플리케이션/에이전트: 훈련 하드웨어 과열 → 실시간 AI 에이전트(인컴 생성) 회사로 이동. 예: MSFT Copilot, Salesforce Agentforce 등.
효율·에너지 테마: 전력 비용이 병목. 저전력 칩/엣지 AI 관련(ARM, Qualcomm) 주목.
장기 보유 + 변동성 대비: 추론 시장 볼륨 폭발이지만 비용 하락으로 마진 압박. 전체 포트폴리오 20~30% AI 비중, 가치주/국제 분산 병행.
위험 관리: 규제(반독점), 전력 부족, 오픈소스 commoditization 주의.
2025년은 "AI 활용 시대" 시작점이에요. NVIDIA/MSFT 같은 풀스택 플레이어가 안전하고, AMD 같은 undervalued가 upside 클 수 있어요.