AI 시대의 새로운 표준, '온디바이스 AI'의 미래

AI 시대의 새로운 표준, '온디바이스 AI'의 미래

글로벌연합대학교 인공지능융합연구소장

버지니아대학교 이현우 교수

최근 열린 'AI&빅데이터쇼'는 인공지능(AI)의 혁신을 가속화하고 있는 온디바이스(On-Device) AI 기술이 본격적인 상용화 단계로 진입했음을 명확하게 보여주었다. 특히 페르소나AI, 이스트소프트, 마음AI와 같은 기업들이 선보인 다양한 제품들은 더 이상 먼 미래의 기술이 아니라 우리의 일상 속에서 실질적인 역할을 수행하고 있음을 강조하고 있다.

온디바이스 AI는 클라우드에 의존하지 않고 기기 자체에서 데이터 처리와 분석, 판단까지 수행하는 기술이다. 인터넷 연결이 필수적이었던 기존 AI와 달리, 이 기술은 실시간 대응성과 보안성을 크게 강화하여 특히 공공 서비스와 보안 분야에서 큰 관심을 받고 있다.

페르소나AI가 TG삼보와 협력하여 출시한 온디바이스 AI 탑재 노트북 'A600'은 이러한 흐름의 대표적인 사례이다. 48억 개의 매개변수를 지닌 소형언어모델(sLM)을 내장하여, 별도의 네트워크 연결 없이도 문서의 요약, 번역, 문서 생성은 물론 이미지와 최대 3초 길이의 동영상 생성 기능까지 제공한다. 특히 이 제품은 '스테이블 디퓨전'을 기반으로 한 페르소나AI의 독자적인 모델을 활용함으로써 높은 성능과 안정성을 보장한다.

이러한 온디바이스 AI 제품의 등장은 특히 공공 조달 시장과 기업 환경에서 데이터 보안과 즉각적 대응 능력이 필수적인 상황에서 더 큰 잠재력을 발휘할 것으로 예상된다. 기존 클라우드 기반의 AI 솔루션보다 보안성과 신속한 응답이 중요한 공공기관 및 민감한 데이터를 다루는 분야에서 큰 호응을 얻고 있다.

이스트소프트 또한 온디바이스 AI 기술을 활용한 AI 디지털휴먼 기반 키오스크와 AI 튜터를 소개하며 교육과 고객 응대 분야에서의 혁신 가능성을 보여줬다. 이 키오스크는 인터넷 연결 없이도 실시간 다국어 안내를 제공하며, 특히 전자칠판과 결합된 AI 튜터 시스템은 학생들의 질문에 실시간으로 대응하는 인터랙티브한 학습 환경을 제공한다. 해외 교육 박람회에서도 뜨거운 관심을 받은 이 시스템은 앞으로 글로벌 교육 환경에 혁신적인 변화를 가져올 것으로 보인다.

한편, 마음AI가 선보인 자율주행 AI 로봇 '소라(SORA)'는 현장 경비와 같은 보안 분야에 최적화된 기능을 제공한다. 온디바이스 AI를 통해 실시간 환경 인지와 판단을 수행하며, 별도의 인터넷 연결 없이 자체적으로 복잡한 임무를 수행할 수 있다. 로봇 '소라'는 마음AI의 파운데이션 모델인 '수다(SUDA)'가 탑재되어 있어 자연어 처리와 환경 인지, 자율 주행 성능에서 뛰어난 역량을 보여주고 있다.

이러한 흐름은 결국 데이터 주권과 보안 이슈가 갈수록 중요해지는 현대 사회에서 온디바이스 AI가 새로운 표준으로 자리 잡고 있음을 의미한다. 기존 클라우드 기반의 한계를 뛰어넘어 보다 민첩하고 안전한 방식으로 AI를 활용할 수 있는 기반을 마련하고 있는 것이다.

AI가 더 이상 클라우드 서버라는 물리적 경계 안에서만 존재하지 않고, 개인과 조직의 손안에서 스스로 판단하고 대응할 수 있는 시대가 열린 것이다. '온디바이스 AI'의 등장은 앞으로의 디지털 환경에서 인공지능 기술이 우리의 삶을 얼마나 더 빠르고 안전하게 변화시킬 수 있는지를 명확히 보여준다. 이번 전시회를 통해 우리는 이미 현실화된 미래를 목격하고 있으며, 앞으로 더욱 많은 분야에서 이러한 기술이 활용될 것으로 기대된다.