한국은 ‘범용 모델 이해 + 버티컬 AI 적용’으로 인재를 키워야 한다
AGI(범용 인공지능)로 향하는 길에는 두 개의 기술적 장벽이 있습니다.
첫째, 작업 특화 취약성(Task-Specific Brittleness). 특정 과제에선 금메달을 따지만, 맥락이 조금만 바뀌면 평범 이하가 되는 모델입니다. 수영선수가 트랙에 올라가면 순위가 바뀌는 것과 같습니다.
둘째, 파괴적 망각(Catastrophic Forgetting). 새로운 걸 배울수록 예전에 배운 것을 지우는 신경망의 속성입니다. 우리는 새 언어를 배워도 모국어를 잊지 않지만, 오늘의 AI는 그 경지에 아직 없습니다.
이 두 벽은 “더 큰 모델을 만들자”로만 풀 수 없습니다. 어디에서, 무엇을, 어떻게 쓰느냐가 승부처입니다.
LLM 파운데이션 모델 경쟁은 미·중이 자본과 데이터에서 앞서 있는 게 현실입니다. 그럼에도 한국이 독자 생태계를 가져가야 하는 이유는 분명합니다.
언어·문화 편향: 한국어·한국 맥락을 깊게 이해하는 모델은 국내 데이터 자산과 결합할 때 비로소 탄생합니다.
주권적 AI: 국방·공공·금융처럼 보안과 투명성이 핵심인 영역에선 외산 블랙박스에만 의존할 수 없습니다.
즉, 파운데이션 모델은 ‘소수 정예의 중장기 투자’로, 현장 문제 해결은 ‘넓고 두터운 응용 인력’으로 나눠 키워야 합니다.
현장 생산성은 개인 PC의 에이전트 AI에서 곧바로 나옵니다. MCP(Model Context Protocol)로 파일·DB·업무도구에 안전하게 접속한 에이전트는 “말을 알아듣는 자동화”를 제공합니다. ‘도구에 강한 AI’가 지식노동의 기본기가 됩니다.
산업으로 확장하면 답은 더 명확합니다. 버티컬 AI입니다. 의료·제조·금융·법무 등은 공개 웹 텍스트로는 도달할 수 없는 규제·보안·도메인 문맥을 요구합니다.
실제로 RAG가 높은 채택률을 보이는 반면 파인튜닝은 제한적인 건, 즉시성·비용 대비 효과가 RAG에 있다는 방증입니다. 여기에 에이전틱 아키텍처가 붙으면, AI는 ‘대답하는 시스템’을 넘어 ‘일을 처리하는 시스템’으로 진화합니다.
범용 LLM의 구조적 한계: 산업별 고유 문맥·약어·규제는 범용 말뭉치로 커버되지 않습니다.
RAG의 현실과 빈틈: 외부 지식 연결만으론 보안·책임추적·버전관리의 요구를 끝까지 만족시키기 어렵습니다. 처음부터 규제와 품질 기준을 모델 설계에 녹인 버티컬 AI가 필요한 이유입니다.
도메인 성과의 명증: 대규모 임상기록으로 훈련된 의료 LLM이 한국 의사 국가고시에서 높은 점수를 기록한 사례처럼, 도메인 최적화는 곧 실적입니다. 공급망·품질·리스크처럼 복잡한 시퀀스도 특화 모델은 정밀하게 다룹니다.
제가 권하는 현실적 구조는 단순합니다.
기본 엔진은 HyperCLOVA X, Llama 같은 범용 모델을 씁니다.
현장 맞춤은 LoRA 같은 가벼운 어댑터를 끼워서 업종·부서별로 튜닝합니다.
운영은 하나의 엔진 위에 여러 어댑터를 병렬로 돌려, 고객마다 “말투와 습관”만 바꿉니다.
LoRA는 일종의 8MB짜리 성격 팩입니다. 큰 모델을 다시 가르칠 필요 없이, 팩만 갈아끼우면 비용·시간을 크게 줄이고 바로 현장 언어로 바뀝니다. 새 데이터나 환경이 생기면 어댑터만 업데이트하면 됩니다.
한국 기업은 이를 통해
특정 산업의 규제·리스크 기준을 내재화하고,
시장 이벤트를 실시간 업데이트,
내부 지식자산과 워크플로를 신뢰 가능한 형식으로 접목해야 합니다.
“데이터가 중요하다”는 말은 충분치 않습니다.
중요한 건 어떤 데이터가 가치를 만들고, 그 가치를 어떻게 모델에 전달할지 아는 능력입니다.
의료에선 ‘진단 결정을 가르는 패턴’을, 제조에선 ‘공정 이상을 예지하는 신호’를, 금융에선 ‘사기 패턴의 숨은 상관’을
발견·표준화·피드백 루프로 이어 붙일 줄 아는 인력이 필요합니다. 이건 범용 모델만으론 못합니다. 현장 문맥을 이해하는 버티컬 감각이 핵심 역량입니다.
파운데이션 트랙(소수 정예) : 알고리즘·분산학습·안전성·거버넌스에 집중 투자. 국가·대형사·학계의 삼각 협력.
버티컬 트랙(대다수 실전형) : 의료·제조·금융·법무·공공 등 도메인×AI 융합 커리큘럼. RAG 설계, 품질·보안 프롬나이저, 평가·관제(MLOps/LLMOps)까지 ‘끝단 적용’ 중심.
에이전트 트랙(개인 생산성 기본기) : MCP 기반 툴연결·자동화·프롬프트 엔지니어링·워크플로 디자인을 표준 역량화. 모든 지식노동자가 ‘AI 작업자’가 되도록.
한국의 승부는 원리 이해 + 현장 적용입니다. 거대한 모델을 ‘처음부터 끝까지’ 만드는 나라보다, 현장 문제를 가장 빨리·가장 정확히 푸는 나라가 이깁니다.
K-컬처, 제조, 의료, 금융은 이미 우리의 주특기입니다. 여기에 버티컬 AI라는 가속기를 달면, 한국은 “작게 만들어 크게 이기는” 전략으로 글로벌 무대의 판을 바꿀 수 있습니다.
큰 모델이 답이 아니라, 현장에서 통하는 모델이 답입니다.
지금 필요한 건 ‘AI를 잘 쓰는 법을 아는 사람’—그들을 체계적으로, 대량으로 길러내는 일입니다.