생성형 AI, 다음 격전지는 온-디바이스

출처 : Samsung newsroom

지난 14~15일에 열린 '삼성개발자콘퍼런스2023'에서 의미 있는 내용이 발표되었습니다. 삼성전자에서 자체 개발한 생성형 AI, '삼성 가우스'를 활용하여 온-디바이스(On-Device) 시대를 여는 로드맵을 제시한 것인데요. 키노트를 발표한 이주형 삼성리서치 상무는 삼성 가우스에 대해 "이 기술은 단순한 언어 이해하고 생성하는 것을 넘어 사용자와 기기 간의 상호작용을 극대화하여 더 직관적이고 자연스러운 사용자 경험을 제공할 것"이라고 밝혔습니다.

사실 이번 발표는 어느 정도 예정된 수순의 내용이었습니다.

작년 이맘때쯤(22년 11월 30일) 발표된 ChatGPT의 엄청난 성공 이후, 모든 기업이 생성형 AI 시장에 뛰어들었습니다. 대표적으로 구글과 메타와 같은 빅테크 기업들은 생성형 AI의 거대한 물결에 올라타기 위해 빠르게 성능을 올려야 하는 미션을 받았는데요. 이들이 자신들의 모델을 급속도로 발전시키기 위해 선택한 방법은 매개변수를 기하급수적으로 늘리는 것이었습니다. 

여기서 매개변수란, 사람의 뇌에서 사고 과정에 관여하는 '시냅스(Synapse)'와 같은 역할을 하는데요. 매개변수가 많을수록 모델은 더 많은 정보를 저장하고, 더 정교한 언어 패턴을 학습할 수 있습니다. 이는 모델이 더 정확하고 세밀한 언어 이해 및 생성을 할 수 있게 도와주지만, 동시에 더 많은 컴퓨팅 자원과 저장 공간, 그리고 더 긴 학습 시간을 필요로 하게 됩니다. 

많은 기업들도 단순히 매개변수만을 늘리는 방식이 효과적이지 않은 것은 알고 있었지만, 매개 변수를 늘리면 일정 수준까지 성능을 올리는 것이 가능하다는 것을 이론적으로 알고 있었고, 당장 결과물을 내놓아야 하는 상황에서 모델 최적화/경량화까지 신경 쓸 상황이 아니었습니다. 이후 매개변수를 경쟁적으로 늘려나가는 것이 주요 쟁점이 되었고, 이후 발표되는 LLM(대형언어모델)들은 매개 변수가 몇 개냐가 최대의 관심사가 되곤 했습니다.  

출처 : OpenAI

그러나 앞서 소개했듯 이러한 방식은 학습과 운영에 있어 많은 리소스가 필요했고, 어느 순간 성능이 정체되는 한계에 봉착했습니다. 또한 각 기업의 대형언어모델의 성능이 상향 평준화되면서 모델 경량화에 대해 연구할 수 있는 시간을 벌 수 있게 되면서 본격적인 모델의 경량화에 대한 경쟁이 시작됐습니다. 

이러한 트렌드의 변화는 메타의 대형언어모델 '라마'가 오픈소스로 풀리면서 더욱 가속화되었습니다. 라마를 활용하여 매개변수가 상대적으로 적으면서도 성능을 일정 수준 이상으로 높인 모델들이 나오기 시작하면서 경쟁에 불이 붙은 것입니다.  

이처럼 그 어떤 기술보다도 빠르게 발전해 온 생성형 AI의 시선은 온-디바이스로 향했습니다. 생성형 AI 경쟁을 강 건너 불구경하듯 관전해 왔던 애플 역시 자체 생성형 AI 모델 '애플GPT(가칭)'을 만들고 있다는 소식도 전해졌습니다. 이러한 움직임은 애플이 자체 디바이스(아이폰, 아이패드 등)에 생성형 AI 모델을 통합하려는 의도로 풀이됩니다. 

현재의 발전 속도를 고려할 때, 내년에는 생성형 AI가 탑재된 다양한 디바이스들이 시장에 출시될 것으로 기대됩니다. 이 가운데 스마트폰 시장에서 중요한 위치를 차지하고 있는 삼성전자가 애플보다 먼저 이 분야에 진출한 것은 주목할 만한 일이며, 향후 애플이 어떤 행보를 보일지 궁금해지는데요. 점차 치열해지는 경쟁 속에서 어떤 혁신이 우리의 스마트폰으로 들어오게 될지, 또 이 분야의 패권을 어떤 기업이 차지하게 될지 지켜보아야겠습니다.