한국 공공의 AI 전환 추진

요즘 한국의 공공 부문을 보면, 동시에 서로 다른 세 개의 AI 전환이 겹쳐 흐르고 있다는 생각이 든다. 국가 차원에서는 한국형 파운데이션 모델을 구축하며 글로벌 AI 경쟁의 중심으로 들어가고 있고, 지방정부는 온프레미스(폐쇄형) GPT와 중형 언어모델을 도입해 행정환경을 바꿔가고 있다. 한편 현장에서는 오래전부터 구축되어 온 머신러닝·딥러닝 기반의 다양한 실용적 AI 시스템이 조용히 성과를 내고 있다. 모두 같은 “AI”라는 이름을 쓰지만, 작동 원리와 지향점은 서로 다르다. 이 글에서는 이 세 흐름을 하나의 맥락으로 묶어, AI 시대 공공의 역할이 어떻게 재정의되고 있는지 살펴보고자 한다.

지금 정부가 추진하는 한국형 파운데이션 모델은 단순히 기술 개발 프로젝트가 아니다. 이재명 정부는 이를 “국가 생존 전략”, “주권적 AI”라는 언어로 설명한다. 공공과 민간이 함께 참여하는 다섯 개의 파운데이션 모델 팀이 구성되었고, 2027년까지 글로벌 모델 대비 95% 수준의 성능을 목표로 삼고 있다. 이는 행정·산업·교육·보건·국방 등 국가 시스템 전반에 AI 기반의 언어 인터페이스를 깔겠다는 야심이 담긴 선언이다.

이 흐름을 가속한 사람 중 하나가 엔비디아의 젠슨 황이다. 그는 2025년 한국 방문 당시 “260,000개의 최신 Blackwell GPU”를 한국에 공급하겠다고 밝혔다. 추정 가치만 14조 원 규모이며, 이 중 약 5만 개는 국가 AI 컴퓨팅센터와 공공 파운데이션 모델로 들어간다.

삼성·SK·네이버·현대차는 이 GPU를 기반으로 산업별 버티컬 AI를 구축하게 되고, 정부는 공공 컴퓨팅 백본을 만들기 위해 민관 합동 태스크포스를 운영 중이다. 국가가 기본 인프라를 설계하고, 민간이 그 위에 응용 생태계를 올리는 형태다.

샘 알트만 역시 한국을 “AI에 가장 적합한 실험장”으로 평가했다. 그는 한국을 방문해 이재명 대통령과 회동하며 포항·전남 지역에 대규모 데이터센터 구상을 언급했고, 한국을 미국 다음으로 ChatGPT 유료 사용자가 많은 시장이자 글로벌 전략의 핵심 국가라고 규정했다. 로이터는 알트만의 발언을 인용해 “한국은 미국 다음으로 중요한 AI 파트너 국가”라고 평가했다. 젠슨 황은 한국을 엔비디아 네트워크의 핵심 허브라고 말했고, 한국이 영국·EU보다 더 많은 GPU 물량을 확보했다는 사실이 알려지며 언론도 “한국이 AI 인프라 경쟁의 상위 레벨에 진입했다”라고 분석했다.

그러나 이런 칭찬과 기대는 동시에 새로운 의존 구조와 지정학적 리스크를 의미하기도 한다. 미국 정부의 GPU 규제 변경만으로도 한국의 AI 전략은 크게 흔들릴 수 있다. AI 시대의 공공은 이제 기술 정책을 넘어서 공급망, 외교, 안보까지 함께 고려해야 하는 플레이어가 되고 있다.

한편 지방정부의 움직임은 훨씬 실용적이고 빠르다. 서울시는 행정 문서 자동화 시스템과 민원 AI 응답 시스템을 구축하고 있고, 경기도는 전 행정 영역에 생성형 AI 플랫폼을 도입하겠다고 선언했다. 광주광역시는 행정지침과 법령을 학습한 자체 LLM(대규모언어모델) 기반의 민원 챗봇·콜봇을 24시간 운영할 계획을 세웠다. 이들 대부분은 GPT-5급 초거대 모델이 아니라 중형 온프레미스 모델이다. 내부망에서 안전하게 구동되며 개인정보·기록관리법 등 규제 환경에 맞추기 위한 선택이다.

또한 파운데이션 모델이 등장하기 훨씬 전부터 공공 분야의 AI 혁신은 이미 진행되고 있었다. 병해충 예측, 홍수·산불 위험 탐지, 교통 최적화, 복지 부정수급 탐지, 수질·대기 분석, 스마트 농업 시스템 등은 모두 ML(머신러닝)·DL (딥러닝) 기반의 버티컬 AI들이다. 즉, 현장의 AI는 이미 현실이었고, 파운데이션 모델은 이 각각의 시스템을 “하나의 언어 창구”로 통합할 수 있게 해주는 새로운 가능성을 열어주고 있을 뿐이다.

그렇다면 AI 시대의 공공은 어떤 역할을 해야 할까. 첫째, 국가 파운데이션 모델과 공공 컴퓨팅 인프라를 책임지는 기반 설계자다. 이것은 기술 주권의 문제이자 공공 데이터의 주도권을 지키는 문제다. 둘째, 지방정부와 공공기관이 온프레미스 GPT와 버티컬 AI를 구축하도록 지원하는 오케스트레이터다. 공통 플랫폼과 데이터 표준을 제공하고, 각 기관이 손쉽게 자신만의 모델을 조립할 수 있는 환경을 만드는 역할이다. 셋째, AI 행정 시대에 필요한 규제, 데이터 거버넌스, 노동 구조를 재설계하는 룰 메이커다. 공무원의 역할은 문서 생산자가 아니라 정책 판단자·현장 관리자·조정자로 이동해야 하며, AI 등록제와 같은 투명성 제도 또한 공공이 만들어야 한다.

결국 한국의 공공은 세 가지 현실 사이에서 균형을 잡아야 한다. 국가의 거대한 파운데이션 모델 전략, 지자체의 실용적 AI 혁신, 그리고 글로벌 AI 기업들의 러브콜. 이 세 흐름이 서로 충돌하지 않고, 오히려 서로를 강화하도록 설계하는 것이 AI 시대 공공의 마스터플랜이다.

초거대 모델에 모든 것을 몰아주면 중앙집권적 IT 사업으로 회귀할 위험이 있고, 각 기관이 따로 움직이면 데이터와 모델의 섬이 다시 등장할 수 있다. 글로벌 기술 의존이 지나치면 공급망 리스크는 커지고 국내 생태계는 단순 하청 구조로 머물 수 있다. 따라서 국가 파운데이션 모델은 ‘기반’, 지자체 AI는 ‘현장’, 글로벌 동맹은 ‘촉매’라는 위치에 정확히 놓아야 한다.

AI 시대의 공공은 더 이상 뒤늦게 규제만 만드는 조연이 아니다. 국가 시스템 전체의 판을 다시 짜는 설계자다. 그리고 한국은 지금 그 역할을 가장 선명하게 실험해 볼 수 있는 나라다.