brunch

You can make anything
by writing

C.S.Lewis

by OOJOO Dec 13. 2023

온디바이스 AI 시대

AI를 탑재한 스마트폰과 전용 AI 디바이스

삼성전자가 내년 출시하는 갤럭시 S24에 통화할 때 실시간 통역해주는 기능인 'AI 라이브 통역 콜'을 탑재한다. 이미 기존에도 통역 앱이 있었지만, 스마트폰 자체에서 제공되는 것은 세계 최초다. 별도의 앱으로 통역을 할 때는 소프트웨어와 클라우드 기반을 통해 AI가 제공하는 것이라 시간차가 날 수 밖에 없어 속도가 느리다는 문제가 생긴다. 하지만, 갤럭시 S24에서 제공되는 통역 기능은 스마트폰 자체 내장된 삼성전자의 생성형 AI인 가우스를 통해서 구현된다. 기존 앱과는 달리 폰 내부의 기능을 통해 구현되어 속도가 빠를 뿐 아니라 폰 내에서 제공되기 때문에 보안에 있어서도 기존 앱과 달리 상대적으로 안전하다. 이처럼 디바이스 자체 내에 AI를 탑재해서 새로운 고객 경험과 더 나은 가치를 만들어내는 것은 온디바이스 AI라고 부른다.

2023년 IT 시장의 한 해는 ChatGPT로 시작해서 생성형 AI로 마무리되었다고 해도 과언이 아닐만큼 AI가 블랙홀처럼 모든 것을 빨아들였다. 2024년에도 생성형 AI와 이를 가능하게 한 LLM 기술은 이어질 것으로 전망된다. 그 과정에서 AI는 우리가 사용하는 대부분의 인터넷 서비스와 소프트웨어에 탑재되어 더 나은 사용자 경험을 제공해가고 있다. 마이크로소프트는 윈도우는 물론 오피스 365 그리고 팀즈, 디자이너 등의 소프트웨어에 코파일럿이라는 기능을 통해 소프트웨어의 사용자 경험을 개선해가고 있다. 어도브 역시 포토샵에 생성형 AI인 파이어 플라이(Firefly)를 통합해 ‘생성 채우기(Generative Fill)’를 적용하고 있다. 그 외에도 슬랙, 노션 등의 업무 협업툴과 메모 서비스에서도 생성형 AI가 적용된지 오래다. 이렇게 AI가 적용된 소프트웨어나 서비스들은 훨씬 사용법이 쉬운데다 성능이 강력하다.

그런데, 이제 그 AI가 하드웨어까지 탑재되고 있다. 삼성전자와 스마트폰 시장의 영원한 경쟁자인 애플은 이미 AI 구동이 가능한 M3 칩셋을 탑재한 맥북 프로와 아이맥을 선보였고, 아이폰16에도 AI를 고려한 새로운 칩셋이 탑재되어 iOS 18에는 생성형 AI 기반으로 모든 앱들과 기본 기능을 개선하는 것을 준비 중에 있다. 물론 오래 전부터 서비스해오던 시리 AI 역시 생성형 AI 챗봇으로 교체를 준비 중에 있다. 스마트 스피커의 대명사 아마존의 알렉사 역시 생성형 AI로 대체를 준비 중에 있어, 향후 아마존에서 나오는 디바이스들 역시 생성형 AI를 기본 탑재할 것으로 전망된다.

특히 샘 알트만이 투자한 휴메인(Human)은 11월9일 Ai Pin이라는 신개념의 새로운 웨어러블 디바이스를 출시했다. 이 기기는 ChatGPT가 탑재되어 음성으로 작동되며 통신 기능이 내장되어 기본적인 통화와 메시지 송수신 등이 가능하다. 화면이 없어 손 안에 들어가는 작은 크기의 기기를 옷 깃에 부착하고, 내장된 카메라와 마이크를 통해서 주변의 정보를 인식한다. 화면은 없지만 작은 프로젝터를 탑재해 손바닥에 텍스트를 비출 수 있어 메일이나 정보를 쉽게 육안으로 확인할 수 있다. 스마트폰보다 더 오래 그리고 자주 필요로 하는 서비스를 두 손을 자유롭게 한 채 호출하고 이용할 수 있다. 생성형 AI 덕분에 사용자의 명령을 정확하게 인지하고, 상황에 필요로 하는 서비스를 즉시 제공해준다. 사진 촬영과 메모, 길찾기과 통역, 정보 검색과 음악 탐색 등을 손가락 터치가 아닌 음성으로 편하게 접근할 수 있다.

이렇게 AI를 기기의 특정 기능 강화나 사용성 개선, 사용자 인터페이스에 적용되는 사례가 늘어가고 있다. 키오스크에도 ChatGPT를 탑재하고, 로봇청소기나 전자레인지 등의 가전기기에도 생성형 AI가 탑재되어 기본적인 사용성을 개선하려는 노력이 대두되기 시작할 것이다. 그 과정에서 인터넷을 통해 AI 기능이 제공되는 클라우드 방식보다 기기 자체 내에 내장된 AI 기반의 온디바이스 AI가 더 각광을 받을 것이다. 속도와 개인정보 보안 면에서 훌륭하기 때문이다. 단, 온디바이스 AI의 구현은 하드웨어 성능이 강력해야 한데다 업데이트, 학습 배포가 어렵기 때문에 기기에서 제공하려는 AI의 용도와 기능, 성능에 따라 적용 방식이 결정되어 갈 것이다. ChatGPT가 출시된지 1년도 안되었지만 세상은 벌써 온디바이스 AI를 고려할만큼 빠른 속도로 변화하고 있다.