게임체인저를 꿈꾸는 AI 스마트폰

개인정보는 안전할까?

1/ AI폰에 대한 기대가 커지고 있습니다. 지난 8월 13일 구글 ‘제미나이 라이브’가 발표되자, AI 비서 (AI Assistant) 기능에 많은 이들이 열광했습니다. 피처폰에 이어 스마트폰이 시장을 변화시켰듯, AI폰이 변화의 분수령이 될 것이라 예측하는 이들이 많아졌습니다.

2/ 구글은 AI 비서 기능을 자사 픽셀폰에서 출시한다고 밝혔습니다. 애플은 이르면 10월 즘 업데이트되는 iOS 18.1부터 애플 인텔리전스가 적용되어 AI 스마트폰 가능을 사용할 수 있을 것으로 예상됩니다. 삼성전자 역시 2024년  1월 온디바이스 AI가 장착된 첫 스마트폰인 갤럭시 S24를 출시했으며, 7월에는 갤럭시 Z 폴드를 출시했습니다.

3/ 이제 스마트폰 제조사는 AI폰에 사활을 걸고 있습니다.

구글: 픽셀 8 및 픽셀 8 프로 모델에서 Magic Editor, Best Take와 같은 AI 이미지 편집 기능과 함께 제미나이 라이브 모델을 통해 온디바이스 생성형 AI 기능을 탑재할 예정입니다.

삼성: 갤럭시 S24 시리즈는 라이브 번역, 서클 투 서치, AI 카메라 등 다양한 AI 기능을 담고 있습니다.

샤오미: 2024년 2월 ‘샤오미 14 울트라’를 출시하며, AI 기능 도입을 도입했습니다. 화상 통화 시 AI 생성 자막 기능이 추가되었고, 사용자가 셀카를 찍고 다른 배경을 추가할 수 있는 AI 초상화 기능을 도입했습니다.

모토롤라: 모토 엣지 50 시리즈에는 생성형 배경화면 및 매직 지우개와 같은 AI 기능이 포함되어 있으며, 구글과 파트너십을 통해 AI 비서 기능을 탑재할 계획도 가지고 있습니다.

에이수스: 젠폰 11 울트라에는 실시간 번역, 소음 제거, 배경화면 생성 등의 AI 기능이 포함되어 있습니다.

OPPO는 2024년 AI폰 라인업을 발표했으며, 저렴한 가격대로 차별화할 계획입니다.

4/ AI 스마트폰은 두 가지 방향으로 진화할 가능성이 높습니다.

1) 애플, 삼성과 같은 대형 제조사는 개인정보 보호에 초점을 맞춘 AI 처리 기능을 강조하며, 더 강력하고 비싼 하드웨어로 무장할 것입니다. 음성, 이미지, 동영상 등 다양한 정보를 멀티모달 AI를 통해 처리하는 기술을 강조할 것입니다.

2) 반면, 저가형 스마트폰은 카메라 기능과 데이터 연결에만 집중하면서 클라우드 AI 기능을 강조할 것입니다. 이 경우, 개인 정보는 클라우드로 흘러 갈 것입니다.

5/ AI폰을 사용하는 사용자의 패턴도 변화할 것입니다. AI 비서와 인터랙션 하는 빈도가 높아질수록, 안경과 이어버드를 통한 시각, 음성 정보 인식이 중요해질 것입니다.

6/ 하지만 AI 비서 기능이 강화될수록, 아이폰과 안드로이드폰은 우리가 사용하는 모든 앱의 사용 패턴을 학습하고 통화를 실시간으로 모니터링할 것입니다. 내 사용 패턴을 기반으로 일정을 잡아주거나, 보이스피싱에 대한 경고를 해주는 편리함 이면에는 우리의 데이터가 어디까지 활용되고 공유될 것인가 하는 질문이 존재합니다.

7/ 우리가 AI폰에게 질문을 던지면 던질수록, 역설적으로 개인 정보가 위험에 노출될 가능성이 커질 것입니다. 지금까지는 아이디/비밀번호, 주민번호와 같은 식별 정보 중심의 해킹이 걱정이었다면, AI폰 시대에는 통화 내용, 자신의 목소리, 앱 사용 패턴 등 모든 ‘디지털 흔적‘이 해킹 대상이 될 수 있다는 것을 걱정해야 합니다.

8/ 애플은 스마트폰 내에서 대부분 AI 데이터 처리를 할 것이며, 클라우드로 전송되는 데이터는 제한적일 것이라 안심시키고 있습니다. 암호화를 통해 클라우드로 가는 정보도 안전하게 처리할 것이며, 사용 후 즉시 삭제를 통해 불상사를 방지할 것이라 설명하고 있습니다. 구글 역시 클라우드 시스템 상에서 개별 직원의 데이터 접근을 막기 위한 암호화와 보안 프로토콜을 강화하고 있다고 언급하고 있습니다. 스마트폰뿐 아니라 노트북에 AI 기능이 도입될 경우, 사용자 이용 패턴을 파악하기 위해 분 단위로 AI가 화면을 캡처해서 데이터화할 것이며, 제조사는 강력한 암호화를 도입할 것이라 약속할 것입니다.

9/ 분명한 점은 AI폰은 이제 우리가 하루종일 스마트폰에서 이루어지는 모든 활동을 데이터로 축적할 수 있다는 것입니다. 유튜브나 넷플릭스에서 무엇을 봤는지, 어떤 콘텐츠를 즐기고 어떤 물건을 구매하는지, 어떤 사진에 좋아요를 누르는지, 누구와 통화하고 그때의 통화 내용이 무엇인지를 모두 분석의 대상으로 삼을 수 있습니다.

10/ AI 비서는 분명 편리함을 가져다줄 것이며, 새로운 일상이 될 가능성이 큽니다. 하지만, AI 비서에게 얼마만큼의 데이터를 접근하게 만들 것인지는 중요한 고민거리입니다. 내 스마트폰에 가족의 목소리 명령을 어디까지 허용할지도 쉽지 않은 고민이 될 것입니다.

11/ AI폰이 활성화되는 시점에는 지금으로서는 상상할 수 없는 대규모 ‘디지털 흔적’ 해킹이 문제가 될 것입니다. 그래서, 한국에서는 불법에 가까운 ‘디지털 장의사’에 대한 수요가 급증할 수도 있습니다.