‘한국형 LLM’의 착각
AI 대격변 시대, 한국 스타트업이 살아남는 방법
‘Unprecedented' 전례없는 속도
지금의 인공지능(AI) 시대를 가장 정확하게 표현하는 단어일 것이다.
실리콘밸리의 전설적인 투자자이자 인터넷 트렌드 리포트로 명성을 떨친 메리 미커(Mary Meeker)가 이끄는 BOND는 최근 방대한 데이터를 담은 「2025 AI 트렌드」 보고서를 발표했다. (*BOND는 메타, 우버, 스포티파이, 캔바 등 시대를 바꾼 기업들의 성장을 도운 글로벌 기술 VC로, 한국 스타트업 '오늘의집(버킷플레이스)'에도 투자한 이력이 있다.)
이들이 내놓은 이번 보고서는 AI가 인터넷 혁명보다 훨씬 빠르고 거대하게 세상을 바꾸고 있음을 명백히 보여준다. 이 거대한 변화 속에서, 한국 AI 스타트업은 어떤 기회를 포착하고 어떤 전략을 세워야 할까?
추론비용 붕괴와 오픈소스의 부상
AI 기술의 가장 극적인 변화는 ‘추론(inference) 비용’의 붕괴에서 시작된다. 모델을 활용하는 데 드는 비용은 지난 2년간 99.7%나 하락했다. 이제 개발자들은 거의 공짜에 가깝게 강력한 AI를 실험하고 제품화할 수 있다. 그 결과 NVIDIA 개발자 생태계는 7년 만에 6배 성장해 600만 명을 넘어섰고, 구글 Gemini 활용 개발자 수는 1년 만에 5배 증가해 700만 명에 달한다.
이 흐름은 오픈소스 AI 모델의 폭발적 성장으로 이어지고 있다. 마크 저커버그는 “2025년은 오픈소스가 개발자들이 가장 많이 사용하는 모델이 되는 해”라 전망했고, 실제로 허깅페이스(Hugging Face)에 등록된 모델 수는 불과 2년 만에 33배 급증했다.
따라서 정부는 개발자 중심의 ‘AI 놀이터’를 조성해야 한다. 고성능 GPU 접근성을 높이기 위한 클라우드 크레딧 지원, 국내 AI 모델 오픈소스 공개 장려, 커뮤니티 프로젝트 직접 지원이 필요하다. 비용 효율적 혁신이 샘솟는 환경을 만들어야 한다.
천문학적 비용과 영리한 베팅
AI의 무한한 가능성 이면에는 막대한 비용이 존재한다. 최신 AI 모델 훈련에는 수억 달러에서 수십억 달러가 소요되며, 2025년에는 100억 달러(약 13조 원) 규모의 훈련 프로젝트도 등장할 수 있다는 전망이 나온다. 마이크로소프트와 아마존 같은 빅테크조차 막대한 자본 지출로 인해 현금흐름 마진이 줄어드는 현상이 나타난다.
따라서 한국은 조 단위의 자본과 데이터를 앞세운 미국·중국식 ‘거대 모델 경쟁’을 따라가는 대신, 특정 산업과 데이터에 특화된 ‘영리한 베팅’에 집중해야 한다.
‘AI 엔진’이 아닌 ‘AI 자동차’에 집중해야
보고서에 따르면 “거대 LLM 하나로 모든 문제를 푸는 접근 방식에 의문이 제기되고 있으며, 특정 사용 사례에 맞는 더 작고 저렴한 모델이 부상하고 있다”고 강조한다.
한국의 길은 바로 여기에 있다. 우리는 세계 최고의 범용 엔진을 만들 필요는 없다. 대신 메타의 Llama 같은 오픈소스 모델을 엔진으로 삼고, 이를 산업 현장에 맞게 정교하게 튜닝하여 완성차를 만들어야 한다.
한국은 반도체, 제조, 의료, 콘텐츠 등 세계 최고 수준의 산업 데이터를 보유하고 있으며, 이 데이터야말로 한국 AI의 진정한 무기가 될 수 있다.
전문 기업들이 독점적 산업 데이터를 기반으로 AI를 빠르게 흡수해 거대 플랫폼 기업과 차별화하는 방식이 한국이 갈 길이다.
‘한국형 LLM 개발’에서 ‘AI 애플리케이션 강국’으로
이제 정부와 민간이 힘을 모아야 한다. 한국형 LLM이라는 모호한 구호 대신 산업별 최고 성능 AI 솔루션 개발을 지원해야 한다.
산업 데이터 활용 촉진: 의료·법률·금융·제조 분야 데이터 규제 완화 및 데이터 공유 플랫폼 구축
오픈소스 기반 Fine-tuning R&D 투자 확대: 글로벌 오픈소스 LLM을 국내 산업 데이터로 미세조정해 특정 분야에서 세계 최고 성능을 내는 SLM 개발
Applicator 육성: AI를 독창적으로 ‘만드는’ 기업뿐 아니라, AI를 가장 잘 ‘적용하는’ 기업을 발굴하고 성공 모델로 제시
‘AI 네이티브’ 시장의 선점
전세계 약 26억 명은 아직 인터넷에 연결되어 있지 않았으며, 스타링크 같은 저비용 위성 인터넷이 이들을 온라인 세상으로 끌어들이고 있다. 이들의 첫 경험은 웹 브라우저나 검색창이 아니라 곧바로 AI와 대화하는 방식이 될 것임은 누구나 예측 가능하다.
이는 기존 플랫폼 강자를 우회할 수 있는 거대한 기회다.
앱 소유자가 아니라 사용자 인터페이스를 장악하는 기업이 미래 시장의 승자가 될 것이다. 한국 스타트업은 저자원 언어를 포함한 다국어 AI 에이전트, 현지 문화 맥락을 이해하는 AI 모델을 개발해 ‘AI 네이티브’ 시장을 선도해야 한다. 이는 단순한 기술 수출을 넘어 새로운 글로벌 표준을 만드는 기회다.
미국과 중국 사이, 그 어디쯤에 있는 우리의 길
AI 경쟁은 ‘우주 경쟁(space race)’에 비유될 만큼 치열하다. 중국은 이미 DeepSeek나 Kimi 같은 토종 플랫폼을 내세워 수천만 사용자를 확보했고, 사회적 수용도에서도 미국을 앞선다. 한국은 미국과 중국 사이에서 종속되지 않으면서도 독자적 AI 역량을 확보해야 한다. 동시에 반도체·로봇·헬스케어 등 강점 분야를 기반으로 전략적 동맹을 강화하는 길을 모색해야 한다.
BOND 보고서는 “역사적으로 낙관론에 베팅하는 것이 가장 좋은 선택 중 하나였다”고 말한다.
AI 시대의 격변은 위기이자 동시에 기회다. 한국 AI 스타트업이 이 기회를 놓치지 않으려면 추상적 구호가 아닌 구체적 행동이 필요하다. 개발자가 뛰놀 수 있는 놀이터를 만들고, 한국이 가장 잘하는 분야에 영리하게 베팅하며, 26억 명의 새로운 시장을 향해 과감히 나아가야 한다.
AI라는 ‘병 속의 지니’는 이미 세상 밖으로 나왔다.
이제 문제는 누가 먼저 그 힘을 다루느냐에 달려 있다.
[ References ]
BOND. (2025). Trends - Artificial Intelligence. BOND Capital.
Startup Genome. (2025). Global Startup Ecosystem Report 2025. https://startupgenome.com/report/gser2025
The Last Golden Hour for Korean Startups
“Unprecedented.” Few words capture the essence of this AI era more precisely.
Mary Meeker — the legendary Silicon Valley investor behind the iconic Internet Trend Reports — and her firm BOND recently released the 2025 AI Trends report. (BOND, which has backed Meta, Uber, Spotify, and Canva, also invested in Korea’s home-design platform Bucketplace.) The report makes one point unmistakably clear: AI is reshaping the world at a pace and scale that far exceeds the Internet revolution.
The question for Korea is simple but profound: in this seismic shift, what must Korean AI startups prepare for?
The Collapse of Inference Costs and the Rise of Open Source
The most dramatic change begins with the collapse of inference costs. In just two years, the cost of using AI models has plummeted by 99.7%. Developers can now experiment and productize powerful AI at near-zero marginal cost. NVIDIA’s developer ecosystem has grown sixfold in seven years, surpassing six million developers. Google’s Gemini has seen its developer base grow fivefold in a single year, reaching seven million.
This has fueled an explosion in open-source AI. Mark Zuckerberg predicts that by 2025, open-source models will be the most widely used by developers. The evidence is already here: models hosted on Hugging Face have multiplied 33 times in two years.
Korea must respond by creating an “AI playground” for developers. Government should dramatically expand access to GPU credits, incentivize the release of high-quality domestic AI models as open source, and directly fund community projects. This is the most cost-efficient way to ignite innovation.
Astronomical Costs and the Case for Smarter Bets
Yet behind the dazzling potential lies staggering cost. Training frontier models now requires hundreds of millions, even billions of dollars. By 2025, we may see training runs exceeding $10 billion. Even Big Tech giants like Microsoft and Amazon are seeing their cash-flow margins compressed by extraordinary AI-related CapEx.
For Korea, the implication is stark: competing head-to-head in the trillion-dollar “foundation model” race of the U.S. and China is neither realistic nor rational. The smarter strategy is to place targeted bets — to focus on specialized domains where Korea’s comparative advantage lies.
Build the Car, Not the Engine
As the BOND report notes, the “one-model-fits-all” paradigm of large language models (LLMs) is giving way to smaller, cheaper, fine-tuned models tailored to specific use cases. This is where Korea must excel.
We do not need to build the world’s most powerful engine. We need to build the best cars. Open-source engines like Meta’s Llama already exist. Korea’s opportunity is to tune those engines with world-class precision, leveraging industrial know-how and proprietary datasets.
Korea holds unmatched strengths in semiconductors, manufacturing, healthcare, and cultural content. These industrial datasets are the true competitive weapons. Firms that integrate exclusive data with AI will outpace generic platforms and carve defensible advantages.
From “Korean LLM” to “AI Application Powerhouse”
The policy focus must shift. Instead of vague ambitions for a “Korean LLM,” Korea needs a national agenda for industry-grade AI applications.
Unlock industrial data: Ease regulatory barriers in healthcare, law, finance, and manufacturing; build shared data infrastructure.
Invest in fine-tuning, not reinvention: Fund R&D to fine-tune global open-source models into world-leading specialized small language models (SLMs).
Reward applicators: Recognize not only firms that build AI, but those that apply it most effectively across industries.
Here, the Global Startup Ecosystem Report 2025 (GSER) offers a timely warning. Over 90% of venture funding for AI-native startups in 2023–24 flowed to the U.S. and China. Silicon Valley alone captured 63%. Unless governments reallocate at least 25% of AI budgets to nurture local AI-native startups, long-term job creation and competitiveness will evaporate.
For Korea, this means redirecting resources away from infrastructure-only projects toward entrepreneurial policies that empower startups — the true engines of employment and growth.
The AI-Native Market: 2.6 Billion New Entrants
Roughly 2.6 billion people remain offline. Low-cost satellite internet services like Starlink are about to bring them online. But their first digital experience will not be a browser or a search box. It will be an AI conversation.
This is a profound inflection point. The winners of this next wave will not be those who own the app, but those who control the interface. Korean startups should move quickly to build multilingual, culturally aware AI agents, particularly for low-resource languages. This is not mere technology export. It is the chance to shape the next global standard.
Between the U.S. and China: Korea’s Strategic Position
AI competition today resembles a space race. China’s homegrown platforms like DeepSeek and Kimi already command tens of millions of users domestically, and public acceptance of AI there is far higher than in the U.S. Korea cannot afford to be a passive bystander between two giants.
The path forward is dual: independence and alignment. Korea must secure sovereign AI capabilities in critical sectors-semiconductors, robotics, healthcare-while forming selective strategic alliances with the U.S. and other innovation leaders.
The Genie Is Out
BOND reminds us that “history’s best bets were often on optimism.” GSER warns that ecosystems that delay their AI-native transition risk losing ecosystem value within five years.
For Korea’s AI startups, the choice is urgent. Create playgrounds for developers. Place smarter bets on specialized strengths. Lead in the AI-native markets of tomorrow.
The genie is already out of the bottle.
The question now is not if, but who will master it first.
