스마트폰 AI, 손 안에서 만나는 인공지능
2부 인공지능과 산업구조 변화 6장 AI와 소비자 기술의 결합
스마트폰은 이제 단순한 전화기가 아니다.
은행 업무를 보고 영화를 감상하며 건강을 관리하고 하루에도 수십 번 잠금을 풀고 사진을 찍는다.
그 모든 과정 속에는 인공지능이 이미 스며들어 있다.
애플과 삼성, 구글 같은 제조사들은 스마트폰의 두뇌인 애플리케이션 프로세서(AP)에 신경망 처리 장치, 즉 NPU를 집어넣었다.
이 작은 두뇌 덕분에 얼굴이나 지문을 인식해 잠금을 해제하고, 카메라는 어두운 곳에서도 선명한 사진을 만들며, 키보드는 내가 쓰려는 단어를 미리 제안한다. 사용자는 이런 기능을 의식하지 못하지만, 하루에도 수십 번 AI와 마주치고 있는 셈이다.
스마트폰 속 AI의 기술적 원리
스마트폰 안에서 작동하는 AI는 거대한 파운데이션 모델이 아니다. 얼굴 인식에는 합성곱 신경망 같은 이미지 처리 모델이 쓰이고, 키보드 예측에는 작은 언어 모델이 들어가며, 카메라 보정은 장면을 분류하고 구분하는 경량화된 모델이 담당한다. 크기도 수십 메가바이트에서 많아야 수 기가바이트에 불과하다.
이 작은 모델들은 스마트폰 칩 속에 있는 NPU에서 직접 실행된다. 인터넷 연결이 없어도 작동하고, 얼굴이나 지문 같은 개인정보가 외부 서버로 나가지 않으니 보안에도 강하다.
스마트폰에 들어가는 AI 전용 칩(NPU)의 속도는 탑스TOPS(Tera Operations Per Second)로 측정한다. 즉 초당 연산속도를 조 단위로 측정하는 데, 행렬 곱셈 또는 백터 연산을 반복적으로 시행한다.
AI 전용칩은 초당 30~50 TOPS 수준이다.
현재 애플 A17 Pro의 신경망 엔진Neural Engine은 초당 약 35조 번 연산을, 퀄컴 스냅드래곤 Snapdragon 8 Gen 3의 NPU는 약 45조 번을, 삼성 엑시노스 Exynos 2400의 NPU는 약 49조 번을 수행할 수 있다.
데이터센터의 엔비디아 H100 GPU가 2,000조 번을 넘는다는 점과 비교하면 매우 작은 규모지만, 배터리 전력 안에서 최적화된 성능을 내도록 설계되어 있다는 점이 다르다.
우리는 이미 파운데이션 모델을 쓰고 있다
사실 우리는 매일 스마트폰에서 파운데이션 모델을 사용한다. 챗지피티 ChatGPT,클로드 Claude, 제미나이Gemini 같은 앱을 열면 대화도 하고 번역도 하고 글쓰기도 한다.
하지만 이때의 스마트폰은 단지 창구일 뿐이다. 진짜 두뇌는 멀리 떨어진 데이터센터에 있는 GPU와 TPU이고, 스마트폰은 그 결과를 화면에 보여주는 역할을 할 뿐이다.
사용자는 스마트폰 속에서 AI와 대화하는 것처럼 느끼지만, 실제 계산은 클라우드에서 일어난다. 그래서 더 똑똑하고 복잡한 대화가 가능한 것이다.
왜 소형 파운데이션 모델을 기기에 넣으려 할까?
그렇다면 굳이 제조사들이 소형 파운데이션 모델을 직접 스마트폰에 심으려는 이유는 무엇일까?
인터넷이 끊긴 상황에서도 번역이나 요약 같은 기능은 여전히 필요하다.
중요한 대화나 문서가 서버로 전송되지 않고 기기 안에서만 처리된다면 훨씬 안전하다. 클라우드에 요청할 때 생기는 지연도 로컬 모델에서는 거의 없다.
무엇보다도 각 제조사는 자기만의 AI 경험을 차별화하려 한다. 애플은 애플 인텔리젼스Apple Intelligence를, 삼성은 겔럭시 Galaxy AI를, 구글은 픽셀 Pixel AI와 제미나이 나노Gemini Nano를 내세우며, 소비자가 자기 브랜드의 AI를 일상에서 경험하도록 만들고 있다.
기술적 진보가 필요하다
이 모든 것이 가능해지려면 기술적 진보가 필수다. 현재 스마트폰 NPU의 성능은 초당 수십 조 번 연산이지만, 소형 언어 모델을 원활히 돌리려면 백조 단위 이상으로 올라가야 한다.
메모리 역시 커져야 한다.
70억 개의 매개변수를 가진 모델은 4비트로 줄여도 3~4GB가 필요하다. 지금 스마트폰의 램RAM이 8GB나 16GB라고 해도 운영체제와 다른 앱이 차지하는 공간을 빼면 여유는 충분하지 않다.
그래서 앞으로는 20GB 이상 메모리가 보편화될 가능성이 크다. 저장 공간 역시 수 기가바이트에서 수십 기가바이트의 AI 모델을 담기 위해 지금보다 훨씬 넉넉해져야 한다.
이미 1TB 스마트폰이 등장한 것은 단순한 사치가 아니라 이런 변화를 대비한 결과이기도 하다.
가장 큰 과제는 전력과 발열이다. AI 연산은 배터리를 빠르게 소모하고 열을 발생시킨다. 따라서 AP는 전력 효율을 높이도록 설계되고 있고, 배터리 역시 고체 전지와 실리콘 음극재 같은 신기술로 진화해야 한다.
손 안에서 만나는 AI의 미래
오늘날 스마트폰 속 AI는 주로 딥러닝 기반의 소형 모델로 이루어져 있다.
하지만 동시에 우리는 앱을 통해 거대한 파운데이션 모델과 매일 연결되고 있다.
스마트폰은 이미 온디바이스 AI와 클라우드 AI가 공존하는 하이브리드 구조 위에 서 있다.
그리고 이제 제조사들은 소형 파운데이션 모델을 스마트폰 속에 직접 탑재하려 한다. 네트워크의 제약을 줄이고, 개인정보를 보호하며, 더 빠른 반응을 주기 위해서다.
스마트폰은 단순한 기계가 아니다. 인공지능을 가장 가깝게 경험할 수 있는 공간이며, 앞으로는 손 안에서 대화하는 동반자로 진화할 것이다.
우리는 클라우드의 거대한 두뇌와 즉각적인 손 안의 두뇌를 동시에 활용하면서 살아가게 된다. 결국 스마트폰은 인공지능과 인간이 가장 친밀하게 만나는 무대가 될 것이다.
