AI Cloud를 벗어나 스마트폰 속으로

온디바이스 AI, AI폰

삼성전자가 CES 2024에서 선보인 Neo QLED 8K TV에는 삼성전자의 AI Chipset인 NQ8 AI Gen3 프로세서가 탑재되었고 가우스라는 삼성의 LLM을 기반으로 한 SLM이 탑재되었다. 대부분의 4K로 된 동영상을 8K 고화질로 변환해주기 위해 이런 AI 기술이 탑재된 것이다. 이렇게 디바이스 내에 AI가 탑재된 것을 On-device AI라고 부른다. 삼성전자의 갤럭시 S24 역시 퀄컴의 스냅드래곤8 GEN3과 구글 제미나이 나노가 탑재되어 통화 시 실시간 통역 서비스를 제공해주는 것이다.

Cloud를 통해서 제공되는 거대한 LLM(FM = Foundation Model)은 보안과 개인정보, 속도와 비용 문제를 안고 있다. 카네기멜론 대학교와 허깅페이스라는 AI 스타트업이 공동 연구한 결과에 따르면 이미지 하나를 AI가 생성하는데 스마트폰을 충전하는 것과 동일한 전력량이 소요된다고 밝혔다. 메사추세츠 대학교 연구에 따르면 인공지능 모델 하나를 훈련시키는데 63대의 가솔린 차량을 1년 동안 가동하는데 필요한 에너지가 소비된다고 한다. 그렇게 막대한 비용과 탄소 배출로 인한 지구 환경 오염을 최소화하기 위해서라도 디바이스 내에 AI를 내장시켜 작동하는 것이 더 효율적이다. 물론 개인정보나 기업정보 유출과 기기 안에서 작동되는만큼 속도 문제도 덤으로 해결할 수 있다.

앞으로 스마트폰이나 TV를 넘어 보다 많은 디바이스에 AI가 탑재되어갈 것이다. 대표적인 것이 자동차이며 다음으로 MR 기기이다. 차량은 그 어떤 종류의 하드웨어보다 가격이 비싸고 이미 전기차로 인해 전장화가 되었으며 자율주행 등을 위해 최첨단의 기술들의 집약체이다. 그런만큼 차량 내 AI를 탑재해 보다 안전하고 빠른 AI 기술 구동을 필요로 한다. 자체적인 AI chip과 SLM을 내장해서 다양한 차량 내 AI 서비스 운영의 필요성이 커지고 있다. 또한, 차세대 메타버스 플랫폼을 사용하기 위한 MR 역시나 On-device AI의 대표 기기이다. 메타버스는 PC나 스마트폰보다 사용법이 복잡하고 입체적 서비스를 구동해야 하는만큼 AI Agent와 같은 새로운 인터페이스의 서비스를 필요로 하며 이의 완전한 구동을 위해서는 AI가 필수적이다.

그렇게 AI를 내장하는 기기들이 늘어가면서 우리가 사는 현실계에는 물리적인 실체를 가지고 작동되는 AI가 많아져 갈 것이다. 그것을 Embodied AI라고 부른다. On-device AI가 클라우드에 연결되어 작동되는 것이 아닌 개별 기기에서 AI 모델을 실행하는데 반하여 Embodied AI는 로봇이나 자율주행차와 같은 물리적 실체를 가지고 인간과 상호작용하며 작동되는 AI로서 포괄적 개념이다. AI를 탑재한 기기들에는 카메라와 마이크 그리고 다양한 주변 환경 정보를 인식하는 센서들이 탑재되어 AI가 물리적 환경과 상황에 대해 보다 정밀하게 인지할 수 있도록 도와준다. 그렇게 인식한 정보 기반으로 기기를 자동화해서 작동시켜주고 운용시켜주는 것이 On-device AI의 특징이다.

그런 AI 디바이스들이 늘어나면서 점차 AI는 우리가 사는 세상을 우리보다 더 자세하게 인지하게 될 것이다. 또한, 그렇게 학습한 현실계의 정보를 기반으로 더 할 수 있는 일이 늘어날 것이다. 소위 Embodied AI로 거듭 남으로써 다양한 구조의 로봇으로 재탄생해서 우리와 함께 우리 인간이 사는 지구 위에서 함께 존재하게 될 것이다. 연결된 수많은 Embodied AI는 클라우드에 축적된 방대한 데이터를 공유하며 끊임없이 진화하고 초지능화될 것이다. 이들은 인간과 달리 수명의 제약없이 지속적으로 존재하며, 인류 문명의 발전에 기여할 수 있을 것이다. 전 세계의 On-device AI가 학습한 지식과 경험은 하나의 거대한 AI 집단지성을 형성하여, 인간의 한계를 뛰어넘는 문제 해결 능력을 발휘할 것이다.

그런 AI가 인류에 해가 되지 않도록 적절하게 규제하고 통제하는 강력한 메커니즘을 구축하는 것이 우리 사회와 미래 세대를 위한 중요한 과제가 될 것이다.

=============================

▣ 작가의 전통기업의 DT 성과창출에 대한 Udemy 이러닝

    ➠ https://www.udemy.com/course/dt_jihyunkim 

▣ 챗GPT가 가져올 새로운 비즈니스 기회와 개인 이용팁과 기업의 활용 방안에 대한 강연

   ➠ https://www.udemy.com/course/chatgpt-it-jihyunkim

✔ 프로 일잘러가 되기 위한 시간관리, 스마트워크 팁

   ➡ https://www.udemy.com/course/timemanagement_jihyunkim