brunch

You can make anything
by writing

C.S.Lewis

by 박샤넬로 Oct 23. 2024

온(溫)디바이스 AI

차가운 IT생태계의 새로운 바램





한창 취업준비시절 '마이데이터'에 대한 산업에 대해 열심히 탐구한 적이 있었다. 

그 당시 마이데이터와 더불어 함께 들었던 키워드는 바로 '온디바이스'였다. 

많은 개인정보와 개인화된 패턴의 정보(앱, 웹)들을 담고 있는 [ 휴대폰, 노트북, 태블릿  ]이 주인공인 개념이다. 


(마이데이터는 "내 정보의 주인은 나!"라는 개념으로,  흩어져 있는 개인 데이터를 한 곳에 모아 활용하는 것을 말한다) 



< 온디바이스 개념 조금 더 알아보기 >


온디바이스 AI는 On-device AI라고도 불리며, 기기자체에서 AI 처리를 수행하는 방식을 의미한다. 즉, 스마트폰, 노트북, IoT 기기 등과 같은 edge device에 AI 모델을 탑재하여 데이터를 클라우드로 보내지 않고 기기 내에서 직접 처리하는 기술이다.


좀 더 쉽게 설명하면, 마치 우리 뇌가 외부의 도움 없이 스스로 생각하고 판단하는 것처럼, 기기 자체가 AI 기능을 수행하는 것을 말한다. 온디바이스 AI의 핵심은 데이터 처리를 기기 내부에서 수행함으로써 클라우드 기반 AI의 한계점을 극복하는 데 있다.



클라우드에 주도권을 빼앗긴 하드웨어의 새로운 몸부림이라고나 할까? 

사실 한동안 SaaS기반의 클라우드가 IT시장의 전반을 이끌어갔다고 하여도 과언은 아니었다. 

그와 동시에 플랫폼 시장의 가속화는 더욱 강해졌으며 소프트웨어 주도의 시장이 IT업계를 이끌어가고 있었다. 

그렇다면, 하드웨어를 만드는 시장은 정체되고 성장을 멈추고 있었을까? 


물론 아니었다. 부단히 무엇인가를 만들고 시도하였지만 소프트웨어 시장만큼 주목을 받지 못하였다는 것이다. 

그런데, 최근 들어 하드웨어에 AI를 더해보는 재미있는 실험들이 곳곳에서 일어나고 있다, 

그리고 지금은 소프트웨어를 전문으로 만드는 곳과 하드웨어 제품을 전문으로 만드는 곳의 상생의 콜라보가 이어지는 콜라보 작품들이 속속 보이지만, 이 기회를 놓치지 않고 하드웨어사 자체적으로 소프트웨어를 만드는 시도가 포착되기 시작하였다. 


https://www.casenews.co.kr/news/articleView.html?idxno=15874



대표적인 사례는 아무래도 애플일 것이다. 최근 애플은 자체 AI 소프트웨어를 만들고 탑재하여 아이폰 16에 시범 도입하기로 하였다. 이는 사실 별거 아닌 것처럼 볼 수 있지만 앞으로의 AI의 시장 패권이 달라질 수 도 있다고 본다. 




# 국내에서는 노트북을 기반으로 한 온디바이스 AI 시장이 시작될 것이라 본다.



국내에서는 다양한 디바이스로 온디바이스 AI를 탑재한 하드웨어 경쟁시장이 펼쳐질 것으로 보지만, 개인적으로는 국내에서는 노트북 기반 온디바이스 AI 시장이 선점적으로 시작될 것이라고 본다.

단순히 근거 없는 주장이 아닌 다양한 데이터와 흐름에서 포착할 수 있었다, 


과학기술정보통신부와 한국지능정보사회진흥원(NIA)에서 발간하는 "2023 디지털정보격차실태조사"와  정보통신정책연구원(KISDI)의 "2022 한국미디어패널조사"에 의거하면, 노트북을 주로 사용하는 고객 연령과 특징이 아래와 같이 도출하여 정리할 수 있다.


주 사용 연령층:  20대~40대,  특히  대학생  및  직장인  층에서  높은 사용률 높음

특징:  휴대성과  성능을  겸비하여  학업,  업무,  여가  등  다양한 목적으로 활용

추가 정보:  KISDI STAT Report  "태블릿 PC 이용자의 미디어 이용행태 분석" (2023.08.15.)에 따르면,  태블릿 PC  보유율은  2019년  9.5%에서  2022년  22.6%로  꾸준히 증가했으며,  다양한 연령층에서  활용도가 높아지고 있는 것으로 나타났다. 노트북  사용  패턴도  이와 유사한  경향을  보일 것으로  예상된다.

( 물론 절대성이 아닌 환경적 상대성은 있음을 인지해주셨으면 합니다 ) 


현재 대부분의 직장인도 업무를 데스크톱보다는 노트북을 통해 진행하며 대학생들의 과제 수행도 데스크톱 비율보다 노트북이 높다는 체감적인 부분도 무시하지 못할 것이며, 더욱이 더 빠르고 신속한 피드백을 전달할 수 있는 연령층이 밀집된 구간이기도 하기 때문이다. 기업에 입장에서도 데스크톱보다는 노트북으로 콤팩트하고 빠르게 테스팅을 볼 수 있는 부분도 노트북이라고 본다.


https://biz.chosun.com/it-science/ict/2024/06/25/OUF6ISXEZBAUDNX2QFLRP5LYGM/

https://www.hankyung.com/article/202403215300g



< 온디바이스 AI는 업그레이드 중 >


해외 시장조사기관 Gartner에 따르면, 2024년 전 세계 온디바이스 AI 칩셋 시장 규모는 약 59억 달러에 이를 것으로 예상되며, 2027년까지 연평균 26.8% 성장하여 183억 달러 규모에 달할 전망하고 있다. 이러한 성장세는 개인 정보 보호에 대한 관심 증가, 실시간 처리 필요성 증대,  엣지 컴퓨팅 기술 발전과 같은 요인들이 맞물린 결과라 볼 수 있다. 


특히, 온디바이스 AI 노트북은 기존 클라우드 기반 AI 서비스의 한계를 극복하며 사용자들에게 새로운 가치를 제공할 수 있다고 본다. 


즉각적인 응답성:  데이터 처리를 위해 클라우드 서버와 통신할 필요가 없으므로, 지연 시간 없이 실시간으로 AI 기능을 활용할 수 있다. 예를 들어,  AI 기반 이미지 편집 프로그램을 사용할 때, 클라우드 기반 서비스는 이미지 업로드 및 처리에 시간이 소요되는 반면, 온디바이스 AI는 즉각적인 결과를 제공한다.


향상된 개인 정보 보호: 민감한 개인 정보를 기기 외부로 전송하지 않고 로컬에서 처리하기 때문에 데이터 유출 위험을 최소화할 수 있다.  Apple의 Neural Engine2과 같이,  기기 내부에서 데이터 처리를 완료하는  보안 프로세서가 탑재된  온디바이스 AI 노트북은 개인 정보 보호를 중요시하는 사용자들에게 매력적인 선택지가 될 것이다.


오프라인 접근성: 인터넷 연결 없이도 AI 기능을 사용할 수 있어, 언제 어디서나 생산성을 유지할 수 있다.  이는 인터넷 접근성이 제한적인 환경에서 작업하는 사용자, 또는  데이터 요금제에 민감한 사용자들에게  큰 이점을 제공할 것이라 본다.


 # 탄소배출 규제와 같은 환경적 제약과 제지는 더욱 온디바이스 AI 탑재를 가속화할 것이다


전 세계적으로 탄소 배출 감소를 위한 노력이 강화되면서, IT 업계에서도 친환경적인 기술 개발이 중요해지고 있다. 이러한 흐름 속에서 온디바이스 AI 노트북은 탄소 배출 감소에 기여할 수 있는 차별화된 강점을 지니고 있다고 본다. 


1. 에너지 효율성:   

온디바이스 AI 노트북은 데이터 처리를 위해 클라우드 서버와 통신할 필요가 없으므로, 데이터 전송 과정에서 발생하는 에너지 소비를 줄일 수 있다.

클라우드 기반 AI는 대규모 데이터 센터 운영에 따른 막대한 에너지 소비와 탄소 배출을 야기하는 반면, 온디바이스 AI는 기기 자체에서 AI 작업을 처리하여 에너지 효율성을 높이고 탄소 발자국을 줄일 수 있습니다.

특히, 저전력 AI 칩셋과 경량화 알고리즘을 활용하여 에너지 소비를 더욱 최소화할 수 있다.


2. 자원 절약:   

온디바이스 AI 노트북은 클라우드 기반 AI 서비스에 비해  네트워크  및 서버  자원을  덜  사용한다.

이는  전반적인  IT  인프라  구축  및  운영에  필요한  에너지  소비를  줄이고,  탄소  배출량  감소에  기여할  수 있다.


3. 제품 수명 연장:   

온디바이스 AI 노트북은  클라우드  서비스  의존도를  낮춰,  소프트웨어  업데이트  및  하드웨어  교체  주기를  늘릴  수  있다.

이는  전자  폐기물  발생량을  줄이고,  제품  생산  및  폐기에  따른  탄소  배출량을  감소시키는  효과를  가져온다.


4. 친환경 소재 활용:   

온디바이스 AI 노트북  제조  과정에서  재활용  소재  및  친환경  소재  활용을  늘려  탄소  배출량을  더욱  줄일  수  있다.

이는  제품  생산  단계에서부터  환경  부담을  최소화하고,  지속  가능한  제품  개발에  기여할  수  있습니다.


( 참고 논문 )

"Energy and Emissions of Machine Learning on Smartphones vs. the Cloud" (ACM, 2023): 스마트폰에서 머신러닝을 실행하는 것이 클라우드에서 실행하는 것보다 에너지 소비량이 훨씬 적다는 연구 결과입니다.



# 온디바이스 AI, 본격적 시대에 앞선 서비스 기획자의

 자세는?



온디바이스 AI는 우리에게 새로운 가능성을 제시하고 있다. 더욱 개인화되고 지능적인 서비스를 통해 사용자 경험을 혁신할 수 있는 기회라고 본다. 하지만 이 기회를 제대로 살리려면 서비스 기획자가 UX(사용자 경험)에 더욱 집중해야 한다고 생각한다. 특히, 새로운 인터페이스 구동 방식을 고민하고 디지털 약자를 포용하는 노력이 필수라고 본다.


새로운 인터페이스, 새로운 UX


온디바이스 AI는 기존과 다른 인터페이스를 요구합니다. 음성 인식, 제스처, 생체 정보 등 다양한 입력 방식이 등장하면서 사용자와 기기 간 상호 작용 방식이 변화하고 있기 때문이다. 예를 들어, 스마트워치에서 운동량을 측정할 때, 단순히 숫자만 보여주는 것이 아니라 사용자의 심박수, 운동 강도, 칼로리 소모량 등을 종합적으로 분석하여 시각적으로 표현하는 것과 같이 말이다. 이처럼 온디바이스 AI 시대에는 사용자에게 직관적이고 매력적인 경험을 제공할 수 있는 새로운 인터페이스 디자인이 중요하다. 


모두를 위한 UX, 디지털 포용성


온디바이스 AI는 디지털 격차를 해소하고 디지털 약자를 포용할 수 있는 잠재력을 지니고 있다. 시각 장애인에게 음성 안내를 제공하거나, 청각 장애인에게는 자막 또는 수어 번역 기능을 제공하는 등 개인의 특성에 맞춘 서비스를 제공할 수 있다. 또한, 고령층이나 디지털 기기 사용에 익숙하지 않은 사용자를 위해 간편하고 직관적인 인터페이스를 제공해야 한다. 온디바이스 AI 시대의 서비스 기획자는 디지털 포용성을 고려하여 누구나 쉽고 편리하게 서비스를 이용할 수 있도록 노력해야 한다. 


https://www.aitimes.com/news/articleView.html?idxno=159767


UX 강화, 어떤 역량이 필요할까요?


온디바이스 AI 시대에 서비스 기획자가 UX를 강화하기 위해 필요한 역량은 다음과 같다고 볼 수 있다.   


다양한 인터페이스 구현 능력: 음성, 제스처, 생체 정보 등 다양한 입력 방식을 활용하여 사용자와 기기 간 자연스러운 상호 작용을 구현할 수 있어야 한다.

데이터 분석 및 활용 능력: 사용자 데이터를 분석하여 개인에게 최적화된 맞춤형 UX를 제공할 수 있어야 한다.

사용자 중심 사고: 사용자의 요구사항을 정확하게 파악하고, 사용자 관점에서 서비스를 개선할 수 있는 능력이 필요하다.

접근성 전문성:  장애인, 고령층 등 디지털 약자를 위한 서비스 접근성을 높이는 방법을 이해하고 적용할 수 있어야 한다.




끝으로 온디바이스 AI 시대에의 큰 경쟁력과 차별성을 가지려면 단순히 기능적이고 인텔리전스한 퍼포먼스가 아닌 기술적 따뜻함을 가져야 한다고 본다. 특히, 국내 시장에서의 새로운 시장을 개척하려고 한다면 유념해야 할 것이라고 본다. 


AI의 인터페이스와 구조는 전에 없던 새로운 소통의 방식과 생각의 방식을 도출할 것이다. 

그리고 속도 속에 놓치고 간 IT 사각지대의 사람들을 따뜻하게 품지 않는 전략을 취한다면, 

단순히 '신기한 기술'로만 반짝 발생하고 사라질 것이다.


그곳에 따뜻함을 생각하는 작동이 숨어 있을 때, [ 뉴 패러다임 ]이라는 물결로 변환될 것이라고 본다. 



브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari