애플과 AI: Part 1

애플만의 AI 전략은 통할까?

지난 6월 9일, WWDC 2025에서 애플은 많은 이들의 기대와는 달리, 애플만의 AI에서 발전이라고 부를만한 새로운 무언가가 딱히 존재하지 않음을 보여주었다. 애플 역시 시대를 이끄는 거대 IT 공룡 중 하나로서, 당연히 회사 차원에서 AI에 대한 투자를 안 했던 것도 아니고 2024년에는 '애플 인텔리전스'라는 AI 서비스를 발표하기도 했었기 때문에, 하루가 다르게 바뀌는 글로벌 AI 혁신 환경에서 그에 비견될 수준의 AI가 공개되리라 많은 투자자들은 기대해왔지만, 정작 이번에 뚜껑을 열어보니 애플이 사실 AI를 포기한 것 아닌가 하는 수준의 상황이었다는 관찰들이 국내외 매체의 르포에서 보인다.

애플이 자본력이 부족한 것도 아니고 인력이 부족한 것도 아니고 생태계가 없는 것도 아닌데, 다른 기업들에 비해 AI 혁신이 많이 뒤쳐지는 이유가 있다면 그것은 역설적으로 그 강고한 생태계의 특성 때문일 것이다. 특히 아이폰(+아이패드)과 맥북을 투톱으로 하는 디바이스 생태계는 그 자체로 애플에게 있어 경쟁자를 따돌릴 수 있는 기술적 해자가 되지만, 또 동시에 스스로에게는 AI, AGI로 가야 하는 진로에 역방향으로 작용하는 해자가 되기도 한다.

애플은 아마도 앞으로도 당연히 아이폰 시리즈를 계속 업그레이드할 것이고, 이를 위해 애플실리콘, 즉, M 시리즈 칩을 TSMC의 최선단 공정, 즉, 2나노, 18A, 14A 공정 등 당대 가장 비싼 파운드리+패키징 공정으로 거대한 자본을 투하하며 생산할 것이다. 그러나 적어도 그 M 시리즈 칩은 현재의 AI 모델 연산을 위해서는 적합한 아키텍쳐가 아니다. 또한 애플이 AI 혁신으로 감에 있어 작용하는 스스로의 맹점은 디바이스 위주의 생태계로 인한 유저 정보의 활용 한계다.

내가 이해하는 애플의 기본 방침은 자사의 디바이스 생태계 경쟁력을 위해, 유저의 개인정보보호를 과도하다시피 신경쓰는 정책인데, 이는 기본적으로 유저들에게는 안심할 수 있는 서비스로 작용하긴 할 것이다. 실제로 애플이 작년에 발표한 Apple intelligence의 기능 대부분은 디바이스 내에서만 실행되며, 클라우드 기반의 AI는 private cloud compute 방식으로만 제한된다. 그러나 바로 이러한 정책으로 인해 클라우드 자원에 기대어 진행될 수 있는 실시간 대규모 LLM 통합이 거의 불가능해진다. 애플은 유저 개인 데이터를 파운데이션 모델 훈련에 사용하지 않는다고 대외적으로 명시하고 있는데, 이것은 애플의 충성 고객을 관리함에 있어서는 더할나위없이 좋은 방향일지 모르나, 애플이 자랑하는 생태계에 내장된 데이터 고유의 활용성을 극도로 떨어뜨리는 기제가 된다.

M시리즈 칩과 AI의 궁합도 잘 맞지 않는다. 물론 개별 디바이스 단위로는 더할 나위 없이 최적화된 하드웨어지만, 기본적으로 모바일, 독립 디바이스 향이기 때문에, 대규모 데이터 병렬-고속 처리를 상정한 메모리 용량과 대역폭의 한계가 여실하다. 애초에 대규모 행렬 데이터를 상정하여 최적화된 아키텍쳐가 아니기 때문이다. 예를 들어 M4 pro의 경우 20 코어 GPU를 포함하는데, FP32 연산에서는 9 TFLOPS 정도의 연산량을 보인다. 연산량만 놓고 보면 훌륭하다. 그렇지만 이미 한물간 예전 GPU인 엔비디아 A100 GPU는 FP16 연산에서 312 TFLOPS 연산량을 보이고, 당시 같이 채용된 HBM인 HBM2에서도 이미 1 TB/s가까운 대역폭을 할당하고 있었기 때문에, 사실 메모리 장벽 극복 가능성 면에서는 비교가 되지 않는다. 또한 내가 알기로는 M시리즈 칩은 pytorch 같은 오픈소스 프레임워크를 네이티브 레벨에서 지원하지 않으며, 이로 인해 M시리즈에서 모델을 돌리려면 몇 번이고 컴파일을 반복하고 변환해야 하는 번거로움이 뒤따른다. M시리즈를 탑재한 디바이스에서 이른바 온-디바이스 AI를 최적화하는 방향으로 애플이 솔루션을 만들 수도 있을 것이다. 그러나 앞서 언급한 메모리 용량과 대역폭 이슈를 하드웨어 레벨에서 근본적으로 해결하지 않는한, 온-디바이스에서 처리할 수 있는 데이터 크기에도 제한이 걸린다. 이는 곧 온-디바이스 추론 성능의 근본적인 한계로 작용한다.