SK텔레콤 AI 강연 @서울메타위크(SMW)
정민영 AI플랫폼 부사장 'AI, the Life Companion'
서울메타위크(SMW)에서 'AI, the Life Companion'라는 주제로 진행된 정민영 SK텔레콤 AI플랫폼 부사장의 기조강연을 정리한 글입니다.
AI 기업들의 치열한 경쟁과 함께 변화 속도가 매우 빨라지고 있다. 클로드의 사례를 보면 2에서 3이 나오기까지 약 9개월이 걸렸는데 (이후) 불과 3~4개월 만에 큰 변화와 발전을 보여줬다. 앞으로 우리가 보지 못했던 더 큰 변화와 발전 속도를 경험하게 될 것으로 예상된다.
이제는 실질적으로 AI가 무엇을 할 수 있을지, 기업은 어떻게 해야 할지 등의 질문을 본격적으로 할 수 있다. 생산성 분야에서 AI가 예상보다 빠르게 파급되고 있다는 점이 인상적이다. 아직은 다소 추상적이지만 멀티 모달리티가 제공되는 서비스도 큰 가능성을 보여주고 있다. 가장 쉽고 빠르게 효과를 볼 수 있는 영역에서 AI가 시작된 것이고, 점점 그 영역을 넓혀갈 것으로 이해된다. AI의 경제적 효과가 발생하고 있다는 것은 결국 많은 사람에게 영향을 미치고 도움을 줄 수 있다는 이야기이기도 하다.
현실적인 장벽은 LLM의 속도와 비용이다. 일반적 검색 서비스의 경우, 사용자들이 만족하고 서비스에 불만을 느끼지 않는 수준을 구현하려면 100밀리 세컨드 정도의 지연 시간이 와야 한다. 모두에게 보편적인 서비스에 AI와 LLM을 모두 적용하기에는 여전히 느리고 비싸기 때문에 AI를 어떻게, 어디까지 적용할 것인지가 고민이다.
긍정적인 것은 앞서 말한 것처럼 변화 속도가 빠르다는 점이다. 모델의 성능이 훨씬 더 좋아지고 속도가 빨라졌음에도 불구하고 가격은 동일하거나 조금 더 저렴하다. 우리가 동일한 비용으로 얻을 수 있는 품질이 계속 올라간다는 의미다. SK텔레콤은 기술 변화에 빠르게 대응하기 위해 글로벌 인텔리전스 플랫폼을 자체 구축했다. LLM의 속도, 비용, 품질 문제를 극복하기 위해 RAG, 파인튜닝 등을 적극 검토하고 있다.
AI 서비스에 대한 사람들의 기대와 상상을 확인하기 위해 미국에서 패널 리서치를 진행했다. AI가 어떻게 부합했으면 좋겠는지, 나중에 어떻게 작용했으면 좋겠는지 등을 세 가지 유형으로 정리했다.
1. 집사(Butler): 아주 중요하지는 않지만 누군가가 나 대신해줬으면 하는 일들을 해주는 AI로, 의사결정에는 개입하지 않으며 솔루션 제공에 중점
2. 켄타우로스(Centaur): 내가 직접 의사 결정하고 일을 수행하며, AI는 내가 좀 더 잘할 수 있게, 편리하게 할 수 있게 분석이나 데이터 처리 등을 제공
3. 사이보그(Cyborg): 나를 대체해 내가 할 수 없었던 일들을 하고 나를 업그레이드시킴, 인간과 AI가 깊게 상호작용하며 서로에 대한 경계가 없음
이 중 켄타우로스 유형, 즉 전체 상황을 내가 컨트롤하고 일도 직접 수행하지만 내가 더 잘 이해하고 집중하며 일을 수행할 수 있도록 AI가 나를 도와주는 것을 원한다는 것이 확인됐다. 이 관점에서 SK텔레콤이 사내 어떤 영역에 AI를 가장 먼저 적용할까 생각했을 때 떠오른 것이 고객센터다. 고객센터 상담사들은 수많은 DB를 참고해 답변해야 하며 상담 후 업무 처리, 상담 내용 요약 등도 큰 부담이다. 그래서 이러한 영역에서 상담사들이 업무를 더 잘 수행할 수 있도록 AI를 적용했다. 무엇보다 상담 후의 업무 처리 시간이 줄어들면서 고객의 대기 시간이 감소하고, 상담사들도 추가 작업이 가능한 여유 시간을 확보할 수 있다. 지금으로서는 AI가 고객의 전화를 받는 것보다 더 효율적이고 효과적인 분야다.
생성형 AI는 전통적인 AI 기술과 비교했을 때 추론 영역에서의 발전이 두드러진다. 이것이 고객에게 어떤 변화를 줄 수 있을지를 생각해 보면, 우선 사람의 말을 잘 알아들을 수 있다. 나의 욕구, 내가 원하는 것을 잘 이해해 결과적으로 내가 필요로 하는 것을 더 잘 설명해 줄 수 있다. 예전에는 새로운 컴퓨터나 스마트폰이 나오면 사람이 기술을 배워야 했지만, 앞으로는 기계가 배우는 시대가 올 수도 있다. 기계가 나한테 맞춰주는 것이다.
우리는 수많은 비정형 데이터에 둘러싸여 있다. 기존에도 여러 가지 추천 모델이 있었지만 비정형 데이터 처리에 한계가 있었다. 비정형 데이터를 받기도 어렵고, 의미를 파악하기도 어려웠다. LLM이 사람을 이해한다는 것은 비정형 데이터에 대한 지식을 쌓는다는 것이다. 기업이 사용자에 대한 이해와 주어진 문맥을 바탕으로 충실한 양질의 서비스를 제공하는 시대가 열릴 수 있다. SK텔레콤은 AI로 사용자의 상황을 이해하고 사용자에 대한 지식을 쌓아, 프라이머리 에이전트를 통해 사람들의 삶에 도움이 되는 라이프 컴패니언 서비스를 만들고자 한다.
AI는 사람이 세상을 이해하고 살아가는 방식을 배운 기술이라고 생각한다. 비정형 데이터에 대한 이해, 나에 대한 추론, 나의 질문에 대한 답변 등을 통해 AI 기술은 세상과 상호작용하는 가치와 기술을 보강하고 배우고 도울 것이다.
