LLM은 더 작고 똑똑해질 것입니다
솔트룩스 이경일 대표
LLM 개발의 문턱이 낮아지고 있습니다
솔트룩스 이경일 대표님은 조용하지만 단단한 어조로 말했다. 이 말은 단순한 낙관이 아니라, 지난 몇 년간 AI 기술 진화의 구조적 변화를 꿰뚫는 통찰이었다. 과거 LLM은 오직 초거대 자본과 데이터 인프라를 갖춘 소수 글로벌 기업만이 도전할 수 있는 영역이었다.
이 대표님은 최근 2년간 LLM 진화의 세 가지 흐름을 짚어주었다. 첫째, 모델 규모를 확장하여 성능을 끌어올린 'Scale' 전략, 둘째, 외부 지식을 모델과 연결하는 'RAG(Retrieval-Augmented Generation)', 셋째, 프라이빗 클라우드나 온디바이스 환경으로의 배포를 통한 데이터 보호와 접근성 강화이다. 이 모든 흐름은 LLM의 실용성을 높였지만, 비용과 리소스의 문턱은 여전히 높았다.
하지만 흐름은 변했다. DeepSeek의 등장 이후, 우리는 거대한 모델을 무조건 키우지 않고도 효율성과 성능을 모두 잡을 수 있다는 가능성을 보게 되었다. DeepSeek는 M.O.E(Mixture of Experts) 구조를 통해, 모든 뉴런을 활성화하지 않고 필요한 전문가 집합만 선택적으로 호출하는 방식을 택했다.
M.O.E는 단순한 연산 최적화를 넘어, LLM 개발의 비용 구조를 근본적으로 변화시켰다. 선택적 활성화는 연산량을 줄이고 에너지 소모를 최소화했으며, 파라미터 수 대비 실제 운용 효율을 극대화했다. 이는 초거대 GPU 팜 없이도 경쟁력 있는 LLM을 구축할 수 있다는 길을 열었다.
DeepSeek가 남긴 것은 단순한 기술 혁신이 아니라, '구조를 설계하면 크기를 뛰어넘을 수 있다'는 확신이었다. 우리는 비로소 거대한 성채를 올려다보던 입장에서, 스스로 길을 내기 시작했다. 작지만 똑똑한 설계가 초거대 자본에 맞설 수 있다는 믿음은 AI 개발 패러다임을 바꿨다.
앞으로 LLM 진화는 네 가지 기술적 축을 중심으로 진행된다. M.O.E를 통한 선택적 연산 최적화, Distillation을 통한 대형 모델 지식의 경량화, Quantization을 통한 정밀도 최적화 및 디바이스 확장성 확보, Reinforcement Learning을 통한 사용자 경험 기반 성능 개선이 그 핵심이다.
특히 Distillation은 모델 압축 이상의 의미를 가진다. 이는 대규모 모델이 학습한 고차원적 지식을 소형 모델에 이전함으로써, 폐쇄망이나 모바일 환경에서도 LLM의 활용 가능성을 현실화하는 기술이다. Quantization 역시 단순한 정밀도 축소가 아니라, 필요한 수준에서 연산 리소스를 최적화하는 설계 철학을 반영한다.
2025년, 한국은 이 새로운 흐름에 응답했다. LG의 EXAONE 2.0, 네이버 클라우드의 HyperCLOVA Seed가 잇달아 공개되면서, 한국도 자체 LLM 생태계 구축을 본격화했다. 물론 아직 글로벌 최상위 모델들과의 격차는 존재하지만, 방향을 바꾼 것 자체가 중요한 변화이다.
한국형 LLM은 모델 성능뿐 아니라 생태계 설계 측면에서도 과제를 안고 있다. 자체 학습 데이터셋 품질 확보, 초거대 GPU 인프라 확충, 고효율 학습 알고리즘 개발이 여전히 해결해야 할 과제이다. 그러나 독립적 LLM 구축을 향한 첫걸음은 이미 내디뎌졌다.
이 흐름은 소버린 AI로 자연스럽게 연결된다. 데이터 주권, 기술 자립, 보안 독립은 이제 선택이 아니라 필수 조건이 되었다. LLM은 단순한 서비스 기술을 넘어, 국가의 경제 주권과 문화적 자존을 지키는 핵심 인프라로 자리 잡고 있다.
개인 사용자 입장에서는 이러한 변화가 당장은 피부로 와닿지 않을 수 있다. 우리는 여전히 ChatGPT나 Gemini를 이용해 빠르고 편리하게 질문하고 답변을 얻는다. 일상에서 기술을 소비하는 데 있어, 품질과 편리함은 강력한 무기다.
그러나 기업은 다른 선택을 강요받고 있다. 고객 데이터, 의료 기록, 금융 거래 내역 등 민감 정보를 다루는 기업은 외부 대형 모델에 의존할 수 없다. 보안과 통제권 확보는 생존의 문제이며, 자체 LLM 구축은 필수가 되어가고 있다.
특히 금융, 의료, 공공 부문은 이미 폐쇄망 환경과 프라이빗 클라우드 수요가 급증하고 있다. 이들은 완벽하지 않더라도, 자체 운용 가능한 AI를 필요로 한다. 초기의 불완전함은 시간이 지나며 기술적 완성도로 이어질 것이다.
DeepSeek가 우리에게 남긴 가장 큰 유산은, 기술이 아니라 상상력과 믿음이다. 기술은 언젠가 복제되지만, 믿음에서 비롯된 상상력은 시대를 바꾼다. 가장 빠른 자가 이기는 것이 아니라, 가장 오래 믿고 걸어가는 자가 미래를 만든다.
우리는 다시 질문해야 한다. AI는 얼마나 똑똑한가를 넘어, 우리는 어떤 AI를 선택할 것인가. 우리는 어떤 질문을 던질 준비가 되어 있는가. 그리고 우리는 어떤 미래를 스스로 설계할 용기를 가졌는가.
한국에도 자체 LLM 시대가 오고 있다. 그것은 거대한 소음 속이 아니라, 조용한 믿음과 작은 발걸음으로 다가오고 있다. 그리고 그 발걸음은, 기술을 넘어 인간의 가능성과 존엄을 이어주는 다리가 될 것이다.
