brunch

You can make anything
by writing

C.S.Lewis

by Mobiinside Apr 18. 2024

온디바이스 AI시대

얼마 전 삼성전자가 온디바이스 인공지능(AI)의 첫걸음으로 갤럭시24울트라 모델을 출시하면서 ‘실시간 동시통역 통화’ 기술을 선보였다. 그동안 제품 기능 강화에 초점을 맞췄던 애플의 전략과는 달리, 판매에 영향을 줄 수 있는 획기적인 기술을 탑재한 것이다.

이로서 삼성전자는 ‘실시간 통역 통화(AI Live Translate Call)’ 기술을 시작으로 온디바이스 기반의 ‘갤럭시 AI’ 시대를 열게 되었다. 동시통역 기능을 탑재한 이 모델은 상대방이 삼성전자 스마트폰을 사용하지 않거나 별도의 앱을 설치하지 않아도, 사용자가 갤럭시 AI를 탑재한 폰으로 평소처럼 이야기하면 실시간으로 상대방의 언어를 통역, 전달한다.

여기서 말하는 온디바이스 기반의 갤럭시 AI 기술이란 과연 무엇일까?

어떻게 인터넷 연결 없이 실시간 AI 번역이 이루어질까?

이 기능은 기기 내에서 작동하는 생성적 AI(generative AI)를 사용하여, 사용자가 작성하거나 말하는 내용을 실시간으로 번역해 줌으로써 사용자는 인터넷에 연결 되어 있지 않아도 대화나 메시지를 다른 언어로 번역할 수 있는 것이다.

이제 이 온디바이스AI 기술은 사용자가 언어 장벽을 허물고 전 세계 어디에서나 쉽게 의사소통할 수 있도록 도와주게 되었다. 특히 해외여행이나 외국과의 비즈니스 미팅 또는 다국어를 사용하는 환경에서 이 기능은 매우 유용하게 사용될 듯한데 바로 이 기술이 주로 기기 내부에서 실행되는 AI(인공 지능)를 사용하여 이루어 진다는 것이 특징이다.

그래서, 이 기술의 몇 가지 중요한 요소를 보니…

우선, 온디바이스 AI(On-device AI): 통번역 작업이 기기 내부에서 직접 처리되므로 인터넷 연결이 필요치 않은 이유는 AI 모델이 스마트폰 같은 기기에 직접 내장 되어 있기 때문이다. 그리고 생성적 AI(Generative AI): 는 입력된 데이터(예:텍스트 또는 음성)를 기반으로 새로운 내용을 생성할 수 있는데, 갤럭시 S24 시리즈의 경우, 사용자가 말하거나 작성한 내용을 다른 언어로 실시간으로 번역할 수 있는 생성적 AI를 사용하게 된다.

다음으로 고급 NLP(자연어 처리): 는 실시간 번역 기능의 고급 NLP 기술을 활용하여 말이나 텍스트를 신속하고 정확하게 다른 언어로 번역한다. 이 과정에서 기기는 문맥, 의미, 문법 등을 고려하여 자연스러운 번역 결과를 제공하게 된다. 또한 최적화된 AI 모델: 기기 내 번역을 위해서는 AI 모델이 기기의 처리 능력과 저장 공간에 맞게 최적화되어야 하는데, 갤럭시 24시리즈가 빠른 처리 속도와 높은 번역 정확도를 달성할 수 있도록 최적화 된 모델이다. 앞으로 이 기술은 사용자가 언제 어디서나 신속하고 효율적인 언어 번역 서비스를 이용할 수 있도록 해주며, 인터넷 접속이 제한적이거나 없는 상황에서도 통신이 가능하게 된다.

AI Live Translate Call(실시간 통역 통화)’ 기능 ; 삼성전자

여기서 잠깐, 독자들을 위해서 한가지 짚어볼 것은, 바로 “온디멘드(On-demand)” AI와 “온디바이스(On-device)” AI에 대한 것으로, 미리 알아두는 것이 헷갈림을 줄여줄 것 같다.

우선, 온디멘드 AI (On-demand AI): 는 클라우드 기반의 인공지능 서비스이다.

이 서비스는 인터넷을 통해 데이터를 클라우드 서버로 전송하고, 서버에서 데이터를 처리한 후 결과를 사용자에게 다시 전송하게 되는데. 대량의 데이터 처리와 복잡한 계산이 필요할 때 유리하며, 서버의 연산 능력을 활용할 수 있다.

구글 어시스턴트나 아마존 알렉사와 같은 음성 인식 서비스가 온디멘드 AI에 속한다. 이에 반해 온디바이스 AI (On-device AI): 는 사용자의 장치 내부에서 직접 실행되는 인공지능 기술이다. 갤럭시 24시리즈가 바로 온디바이스AI 기술을 탑재 한 것인데, 이 기술은 데이터를 장치 밖으로 전송하지 않고 장치 자체에서 모든 처리를 수행하게 된다. 이로 인해 데이터의 프라이버시 보호가 강화되고, 인터넷 연결이 불안정하거나 인터넷이 없는 환경에서도 AI 기능을 사용할 수 있는 장점이 있다.

예를 들어, 스마트폰의 카메라 앱에서 사진을 자동으로 개선하거나, 기기가 음성을 인식하여 곧바로 통번역이 가능한 기능이 온디바이스 AI에 해당한다. 결과적으로, 온디멘드 AI는 클라우드 기반으로 동작하여 강력한 처리 능력을 제공하는 반면, 온디바이스 AI는 장치 내부에서 동작하여 프라이버시 보호와 오프라인 접근성을 강화한 것이다. 그러므로 장단점에 따라 어떤 서비스를 택할지는 소비자의 몫이다.

다만 온디멘드AI 서비스는 이미 여러 앱에서 사용 중인, 반면 각종 해킹이나 범죄등에 개인정보가 악용되는 단점을 보인 시점에 개인의 프라이버시가 강조되는 온디바이스AI 분야는 이를 계기로 더 성장할 걸로 판단된다.

그렇다면, 온디바이스 AI 의 세계시장 규모는 어느 정도 인가?

온디바이스 AI(특히 모바일 AI) 시장의 세계적 규모는 지속적으로 성장하고 있다. 2022년에 모바일 AI 시장 규모는 약 14.3억 달러였으며, 2032년까지는 연평균 성장률(CAGR) 25.5%로 성장하여 약 271.7억 달러에 이를 것으로 예상(Global Market Insights Inc.) 된다.

또한, 엣지 AI(=온디바이스AI) 시장은 2023년에 약 1,748.3억 달러의 시장 가치를 가지며, 2030년까지는 6,647.8억 달러로 성장할 것으로 예측되며, 이는 연평균 21.0%의 성장률을 의미(Grand View Research) 한 다. 이러한 성장은 스마트폰 사용의 증가, AR 및 VR 기술의 발전, 그리고 다양한 산업에서의 AI 기술의 적용 확대 등 여러 요인에 의해 주도되고 있다.

특히, 모바일 AI의 경우 스마트폰, 카메라, 드론, 자동차, 로보틱스, AR/VR 등 다양한 분야에서의 활용이 증가하고 있는 추세다. 또한, 통신망을 5G로 전환하면서 IT 및 통신부문에서 엣지 AI의 사용이 증가하고 있다.

2022년~2032년까지 모바일 AI와 엣지 AI(=온디바이스AI) 시장의 예상 규모

그렇다면, 이러한 성장세가 보이는 시장에는 당연히 글로벌 IT기업들이 앞다투어 참여할 텐데, 그중에서도 온디바이스 AI(On-device AI) 기술을 개발하고 있는 해외 기업들은 주로 기술, 반도체, 소프트웨어 및 통신 분야에서 활동하고 있다.

Apple Inc. (미국): 의 경우, iPhone과 iPad에서 사용되는 고성능 신경 엔진을 포함한 자체 개발 AI 칩을 제작하고 있는데, 이 칩은 기기 내에서 머신 러닝과 AI 관련 작업을 처리하는 데 사용된다. 그리고 Google LLC (미국): 은 Tensor 프로세서와 같은 자체 개발 AI 칩을 통해 스마트폰 및 기타 기기에서 온디바이스 AI 기능을 강화하고 있다. Google Assistant와 같은 서비스는 온디바이스 AI를 활용하여 음성 인식 및 처리 기능을 제공하게 된다.

Qualcomm Inc. (미국): 은 스마트폰 및 기타 모바일 기기에 사용되는 Snapdragon 프로세서에 AI 기능을 통합하고 있으며, 이를 통해 기기 내에서 고급 AI 처리가 가능토록 준비하고 있다.

이 외에도 그래픽 반도체로 유명한 NVIDIA Corporation (미국): 는 엣지 컴퓨팅 및 온디바이스 AI를 위한 고성능 GPU 및 AI 플랫폼을 개발하였고, 이는 자율주 행 차량, 로봇 공학, 의료 기기 등 다양한 응용 분야에서 사용되고 있으며, Samsung Electronics Co., Ltd. (한국): 은 자체 개발 Exynos 프로세서를 통해 온디바이스 AI 기능을 제공하고, 이를 통해 스마트폰 및 기타 연결된 기기에서 더 나은 사용자 경험을 제공한다. 이러한 기업들은 AI 기술을 기기 내부에서 실행할 수 있도록 하여 처리 속도를 개선하고, 사용자 데이터의 프라이버시를 강화하며, 인터넷 연결에 대한 의존도를 줄이는 방향으로 혁신을 지속하고 있다.

특히 온디바이스AI는 클라우드 컴퓨팅, 유틸리티 및 서비스, 전송 및 물류, 디지털 콘텐츠 등에도 활용하게 될 텐데, 각 영역에서의 적용 방법은 다양할 것이다.

클라우드 컴퓨팅: 온디바이스 AI는 클라우드 컴퓨팅 환경에서 데이터 처리와 분석을 지역적으로 수행함으로써 대역폭 사용을 줄이고 지연 시간을 최소화할 수 있으며, 또한, 유틸리티 및 서비스: 스마트 홈 기기에서 온디바이스 AI를 사용하여 에너지 소비를 최적화하고, 비용을 절감하며, 사용자 경험을 향상시킬 수 있다.

전송 및 물류: 자율 주행 차량에서 온디바이스 AI를 사용하여 실시간으로 주변 환경을 분석하고, 안전한 주행 경로를 결정할 수도 있을것이고, 디지털 콘텐츠: 온디바이스 AI는 사용자의 선호도와 행동을 분석하여 개인화된 콘텐츠 추천을 제공하여 게임 및 엔터테인먼트 분야에서 사용자 상호작용을 분석하고 게임 경험을 개인화하는데 온디바이스 AI를 활용할 수 있다.

이처럼 여러 분야에서 온디바이스 AI의 적용은 데이터 처리의 효율성을 높이고, 반응 시간을 단축하게 될 것이다. 개인화 및 사용자 경험을 개선하는 데 중요한 역할을 할 온디바이스 AI 구조는 아래 그림과 같다.

온디바이스 AI의 구조를 보여주는 스키마틱 다이어그램

위에서 설명한 이 온디바이스AI기술은 앞으로 우리의 모바일 환경에서 대단히 중요한 역할을 할 걸로 보이는데, 이 기술은 우리 일상생활에 다양하게 서비스 상품으로 나타나게 되어 우리의 생활을 편리하게 해줄 것이다. 이러한 온디바이스AI 기술을 기반으로 한 소비자 서비스 상품을 개발한다면, 사용자의 일상생활과 밀접하게 연관된 다양한 분야에서 혁신을 가져올 수 있을 것이다.

몇 가지 예시를 들어보면…

개인화된 헬스케어 및 웰니스 추적기: 사용자의 건강 데이터를 기반으로 개인 맞춤형 운동 및 식단 계획을 제공하는 웨어러블 기기나 앱. 심장 박동, 수면 패턴, 활동 수준 등을 모니터링하여 건강 상태를 실시간으로 분석하고 조언을 제공할 수 있을 테고,

개인화된 헬스케어 및 웰니스 추적기의 컨셉 이미지

스마트 홈 자동화 컨셉 이미지

스마트 홈 자동화: 온디바이스 AI를 활용하여 스마트 홈 장치들을 제어하는 시스템. 사용자의 생활 패턴을 학습하여 조명, 난방, 에어컨, 보안 시스템 등을 자동으로 조절할 수 있다.

인터랙티브한 교육 플랫폼: 학습자의 진도와 선호도에 맞춰 교육 콘텐츠를 개인화하는 AI 기반 교육 애플리케이션. 사용자의 학습 스타일과 속도를 파악하여 맞 춤형 교육 경험을 제공할 수 있으며,

인터랙티브한 교육 플랫폼 컨셉 이미지

실시간 번역기의 컨셉이미지

실시간 번역기: 온디바이스 AI를 이용한 언어 번역 애플리케이션은 인터넷 연결 없이도 사용할 수 있으며, 해외여행이나 다국적 회의에서 실시간 통역 기능을 제공할 수 있다. 다음으로는 개인 보안 및 감시 시스템: 온디바이스 AI를 사용하여 개인의 스마트폰이나 홈 카메라가 얼굴 인식, 움직임 감지, 비정상 행동 감지등의 보안 기능을 수행할 수 있으며, 개인 맞춤형 쇼핑 어시스턴트: 사용자의 쇼핑 습관과 선호도를 학습하여 개인화된 쇼핑 추천을 제공하는 AI 기반 쇼핑 어시스턴트. 온라인 쇼핑에서 사용자 경험을 향상시키고, 사용자에게 맞는 제품을 추천해 줄 수 있다.

개인 맞춤형 쇼핑 어시스턴트 컨셉

스마트 교통 및 네비게이션 시스템 컨셉

이 외에도 스마트 교통 및 네비게이션 시스템: 사용자의 위치 및 이동 패턴 데이터를 분석하여 최적의 경로를 제공하고, 교통 상황을 실시간으로 업데이트하는 네비게이션 시스템으로도 활용이 가능하다.

특히, 앞서 언급된 디지털 콘텐츠 분야에서도 온디바이스 AI기술은 상당한 도움이 될 것으로 보이는데, 최근에 전 세계적으로 각광을 받고 있는 KPOP의 경우에 단순히 음악을 알리는 용도인 유튜브와 같은 뮤직비디오가 아닌 본격적인 음악 작업이나 개인의 취향 등에도 본 기술 적용이 가능하다.

개인화 된 음악 추천: 사용자의 청취 기록과 선호도를 분석하여 개인화된 K-pop 음악 추천을 제공하는 서비스를 개발할 수 있다. 사용자가 자주 듣는 장르, 아티스트, 노래 스타일을 기반으로 새로운 음악을 추천하여 사용자 경험을 개인화 할 수 있을텐데, 사용자 행동 분석, 컨텍스트 인식 추천, 감정 기반 추천. 사용자 피드백 학습, 음악 속성 분석 등이 가능할 것이다.

또한, 뮤직 비디오 인터랙티브 경험: 온디바이스 AI를 활용하여 사용자가 뮤직비디오나 가상 콘서트의 내용에 실시간으로 상호작용할 수 있는 플랫폼을 개발할 수 있다. 예를 들어, 사용자의 선택에 따라 비디오의 스토리나 시각적 요소가 변화하는 인터랙티브 콘텐츠를 제공할 수 있다는 말이다.

그리고 가상 아이돌 생성 및 관리: AI 기술을 이용하여 가상 K-pop 아이돌을 생성하고, 이들의 음악, 춤, 스타일을 사용자의 피드백에 따라 진화시킬 수 있으며, 팬들에게도 새로운 형태의 참여 경험을 제공할 수도 있다.

마지막으로 음악 학습 및 교육 도구: 온디바이스 AI를 사용하여 K-pop 노래와 춤을 배우는 데 도움이 되는 앱이나 소프트웨어를 개발할 수 있으며, 이를 통해 사용자는 자신의 속도에 맞춰 노래 가사를 학습하고, 춤 동작을 연습할 수 있게 될 것이다. 이처럼 온디바이스 AI 기술은 K-pop 분야에서 팬 경험을 혁신하고, 새로운 형태의 엔터테인먼트를 창출하며, 아티스트와 팬들 사이의 상호작용을 강화하는 데 기여할 수 있는 디지털 콘텐츠의 범용적 활용 역시도 가능한 온디바이스 AI기술을 제대로 이해하고 접근해야 한다는 것은 너무나도 당연할 것이다.

이처럼 온디바이스 AI의 본격적인 일상 생활 적용은 프라이버시와 보안 강화, 낮은 지연 시간, 연결성 요구 감소, 에너지 효율성, 개인화 된 경험, 빠른 데이터 처리와 분석, 비용 절감 등의 여러 이점들로 인해 많은 산업 분야에서 주목받고 있으며, 향후 기술 발전과 함께 더욱 폭넓게 활용될 것으로 기대된다. 온디바이스 AI 기술을 활용하는 기업들이나 마케터들에게는 또 하나의 준비해야 할 과제들이 생긴 것이다.

따라서 최신 기술 습득: 온디바이스 AI와 같은 혁신적인 기술을 받아들이고 적극적으로 습득하여 기업이나 개인의 경쟁력을 강화해야 하고, 고객 중심 접근: 으로 고객의 니즈와 선호도를 파악하고, 이를 바탕으로 온디바이스 AI를 활용하여 개인화 된 서비스를 제공할 수 있도록 준비해야 하며, AI의 메인이 되는 데이터 주도 전략: 온디바이스 AI는 데이터를 기반으로 작동하기 때문에, 데이터 수집 및 분석에 중점을 두는 전략을 수립하고 실행해야 할 것이다.

그리고 개인에게 가장 중요한 윤리적 고려: 사용자의 개인정보 보호 및 데이터 사용에 대한 윤리적 고려에 대한 철저한 보완이 무엇보다 중요할 것이다. 물론 이러한 과정에는 온디바이스 AI를 사용시 투명하고 책임감 있는 운영이 이루어져야 한다.

지속적인 혁신과 개선: 기술의 발전에 대한 지속적인 관심을 유지하고, 온디바이스 AI를 사용하여 제공되는 서비스나 제품을 지속적으로 혁신하고 개선함과 동시에 시장 조사와 경쟁 분석: 온디바이스 AI를 활용한 서비스나 제품이 시장에 어떻게 위치하는지를 파악하고, 경쟁사의 움직임을 주시하여 적절한 전략을 수립하고, 교육 및 훈련: 온디바이스 AI 기술을 충분히 이해하고 활용하기 위해 직원들의 교육 및 훈련도 필요하다. 어찌보면 늘 새로운 기술을 만나게 되면 교육훈련을 거친다는 단순한 루틴이 아니라 보다 진지한 준비나 교육훈련 자세를 통해 온디바이스 AI 기술을 효과적으로 활용해야만, 기업이나 마케터의 비즈니스 성과를 향상시킬 수 있을 것이다.

다만 일부 인사들이 기술의 진화를 거저 개발하는 과정이라고 한다든지, 동물이 태어나고 자라는 것과 같이 당연하게 생각하는 것은 기술개발에 대한 무지의 소치로 여겨지지만 그들 역시도 이러한 디지털기술이 들어간 스마트폰을 사용하는 유저라는 것을 인정해야 하는 것이 현실이다.

세상의 모든 분야에 유능한 리더는 소수이고 말 많은 유저는 다수이지만 인류는 늘 발전하고 있다.

Gil Park님의 브런치에 게재된 글을 모비인사이드가 한 번 더 소개합니다.

브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari