버즈 실시간 통역의 비밀 : 온디바이스 AI
삼성 버즈 갤럭시의 실시간 AI 통역
https://youtu.be/ZYMu3SgrGH0?si=W3euyk0Ff_sAPMHn
삼성전자에서 새롭게 발표한 갤럭시 버즈의 통역 CF입니다. “안 통해도, 전화만 하면, 알아서” 라는 슬로건으로 실시간 대화형 통역의 포문을 열었습니다. 지난달 갤럭시 S24를 출시한 삼성전자가 올해 ‘갤럭시 AI’ 생태계 조성에 본격적으로 나섰습니다. 일찍이 AI 시장에 발을 들인 삼성전자는 ‘갤럭시=AI’라는 공식을 공고히 다져 시장 주도권을 확실히 잡겠다는 포부를 밝혔는데요, 이번 업데이트를 통해 앞으로 갤럭시 버즈를 착용하고 통역 기능을 사용할 경우 스마트폰으로 데이터를 주고받을 필요 없이 곧바로 상대방과 이야기를 나눌 수 있습니다. 대화 도중 발화의 순서를 바꾸고 싶을 경우엔 버즈를 터치만 하면 간편하게 조정할 수 있습니다.
자연어 처리 AI를 이용한 실시간 번역 서비스는 있을 법한 기술이지만 지금껏 상용화되지 않았던 서비스입니다. 실시간 전화 번역이 인터넷 없이 AI 사용이 가능해야 하다는 것이 지금껏 장벽으로 작용했는데요, 삼성전자의 신제품 갤럭시 S24가 전세계 최초의 온디바이스 인공지능(AI) 스마트폰이라는 점이 실시간 AI 통역을 가능하게 만들었습니다.
온디바이스 AI (on-device AI)란,
사진 출처: 삼성 반도체 홈페이지그렇다면, 온디바이스 AI란 무엇일까요? 본래 AI가 유려한 문장을 생성해 내고 그림을 그리는 동시에 정보를 번역·요약하려면 대규모 데이터센터와 같은 컴퓨팅 자원이 필요합니다. 개인 기기에서 수집된 정보를 클라우드 서버로 전송한 뒤, 막대한 컴퓨팅 자원을 이용해 처리·분석·연산하는 과정이 이뤄집니다. 현재 CHAT GPT, 미드저니를 포함한 대다수 AI 서비스는 대규모 컴퓨팅 자원을 통해 연산을 마친 정보를 다시 개인 기기로 보내는 방식입니다.
최근 생성형 AI 등장으로 처리가 필요한 데이터양이 급격하게 증가하면서 서비스 지연이 발생하는 등의 문제가 발생하고 있는데요, 그에 들어가는 비용도 만만치 않습니다. 업계에선 챗GPT 하루 추론용 연산 비용이 약 70만 달러(약 9억원)에 달한다고 추산합니다.
온 디바이스 AI는 기기 자체에 장착된 반도체 칩을 통해 연산·추론한다는 특징을 지닙니다. 즉, 휴대폰 또는 노트북과 같은 전자기기에 NPU(시스템 반도체 신경망처리장치, Neural Processing Unit)를 설치하여 인터넷 연결을 하지 않아도 생성형 AI를 구동할 수 있게 만드는 기술을 말합니다.
사용자와 직접 접촉하는 하드웨어인 엣지 디바이스에 AI가 결부된 형태의 온 디바이스 AI는 환경을 직접 경험하고 정보를 처리하기 때문에 실제 사용하는 사람에게 더욱 적합한 결정을 내릴 수 있다는 장점이 있습니다.
사진 출처: 삼성 반도체 홈페이지이 때문에 저지연·보안성에서 강점을 지닌 데다 비용 측면에서도 유리하죠. 클라우드 기반 AI 서비스의 한계를 보완할 수 있는 기술로 주목받는 이유입니다. 클라우드로 데이터를 전송하지 않고 이용자가 소유한 기기 안에서 자체적으로 Ai연산을 처리하며, 인터넷 연결이 필요하지 않아서 속도가 빠를 뿐만 아니라, 개인정보 보호 및 비용 측면에서도 유리합니다.
단, 인터넷을 토대로 정보를 가져오는 것이 아닌 개인의 사진 및 데이터를 토대로 산출하기 때문에 결과물의 완성도면에서는 떨어질 수 있는 부분은 아직까지 해결해야 할 과제입니다.
삼성전자와 엑시노스
삼성전자는 모바일 반도체 설계 영역에서 두각을 나타내는 ‘퀄컴’과 협력을 강화하여 엑시노스 NPU의 성능을 끌어올렸습니다. 이와 동시에 자체 개발한 애플리케이션프로세서(AP) 칩 성능을 크게 강화했습니다. ‘스마트폰의 두뇌’로 불리는 AP는 중앙처리장치(CPU)·그래픽처리장치(GPU)·D램·이미지처리장치(ISP) 등을 모은 시스템온칩(SoC)을 말합니다. 스마트폰 데이터 연산을 담당하는 AP 칩에 스마트폰 성능이 좌우된다고 해도 과언이 아닙니다.
삼성전자는 세계 첫 AI 스마트폰을 표방하는 이번 제품에 자체 개발 AP 칩 ‘엑시노스 2400’와 퀄컴의 ‘스냅드래곤8 3세대’를 병행 채택했습니다. AP 칩 성능은 생성형 AI 기능이 갤럭시 S24 시리즈에 다수 구현될 수 있는 배경이 되기도 합니다. 생성형 AI 성능은 통상 기반 모델의 매개변수(파라미터·Parameter) 수로 가늠하는데요, 오픈AI·구글·네이버 등은 2000억~3500억 개 규모의 파라미터 수를 지닌 초대규모 AI 모델을 기반으로 ‘생성형 AI 검색’이나 ‘챗봇’ 등의 서비스를 구현했습니다. 파라미터 규모가 클수록 생성형 AI 기능이 고도화되는 구조입니다. 클라우드 기반의 AI 서비스 구현·운영에 대형 데이터센터가 필요한 이유입니다. 삼성전자는 딥러닝(Deep Learning) 알고리즘과 온 디바이스 AI와 같은 혁신기술 연구에 집중하고 있습니다. 애플, 구글보다 한발 앞서 발표한 삼성전자의 온디바이스 AI, 엑시노스를 중심으로 향후 갤럭시 AI의 생태계를 어떻게 구성해 나갈지 귀추가 주목되는 시점이라 할 수 있겠습니다.
참고자료 출처
: 삼성 반도체 공식 사이트(https://semiconductor.samsung.com/kr/solutions/technology/on-device-ai/ )
: 클루닉스, [IT TREND] 온디바이스(On-Device) AI란 무엇일까 (https://www.clunix.com/insight/it_trends.php?boardid=ittrend&mode=view&idx=755 )
: 이코노미스트, 애플·구글 보다 빨랐다…삼성전자가 ‘온 디바이스 AI’ 시대 연 비결은?
(https://economist.co.kr/article/view/ecn202402200001 )
: 매일경제, ‘내 귀에 캔디’ 말고 ‘실시간 통역’…삼성 갤럭시 버즈로 현실화
(https://www.mk.co.kr/news/business/10947822 )
작성자: ITS 25기 문선경
