LLM 말고, Small Language Model?
MBA Episode 2 | 수익성과 가치 Profit & Value
저번주 MBA 경영전략 수업에서 교수님이 던진 질문 하나로 토론이 시작되었다.
"Can SLM be profitable?"
LLM(거대 언어 모델). 대량의 데이터로 여러 번의 훈련을 시켜서 인간의 언어를 이해하며 인간의 언어와 비슷한 언어를 생성해 내는 거대한 generative AI(생성형 AI) 모델이다.
항상 더 많은 빅데이터를 통해 더더욱 완성도 있는 모델을 추구하던 AI 시장에서 이젠 Small Language Model에도 관심이 쏠리기 시작했다.
점점 완벽해져 가는 LLM에게는 치명적인 단점 하나는 cost - 미친 듯이 비싸다는 점.
개발과 트레이닝 비용에 더해, 서비스 이용료, 서버 및 전력 비용은 판매자와 소비자 양쪽 다 부담이 된다. OpenAI의 GPT-4는 $100M 이상의 개발 비용이 필요하며 실제로 현재 높은 매출에 비해 손해를 보고 있다. 앞으로 더더욱 완벽한 만능 LLM이 만들어지더라도 많은 기업들은 LLM의 살벌한 가격 때문에 구매 또는 유지를 하지 못할 것이라는 사실.
여기서 한 가지 인지해야 할 포인트가 있다. 우리가 generative AI 소프트웨어에 '문서를 요약해 줘' 또는 '이미지 생성해 줘' 또는 '2 더하기 2가 뭐임?'과 같은 매우 심플한 task들을 시킬 때도 LLM을 쓰고 있다는 점.
이 상황은 마치 사과 하나를 사려고 마트까지 거대한 트럭을 몰고 가는 셈이다.
그렇다면 어떻게 알고리즘을 최적화시켜서 비용을 줄일 수 있을까.
이때 SLM이 등장한다. SLM은 적은 비용으로 기업의 특정 업무를 처리할 수 있다. SLM의 특징은 아래와 같이 정리한다.
1. Niche Market Strategy - SLM은 더 한 분야에 집중된 데이터를 기반으로 트레이닝이 진행된다. 예를 들어 법 관련 서류들로 구성된 데이터, 또는 세일즈 KPI로 구성된 데이터 등의 구체적인 데이터 세트로 특정한 task를 시키며 'fine-tuning'을 한다.
2. Cost Efficiency - 기본적으로 SLM은 훨씬 더 적은 컴퓨팅 파워를 사용하기 때문에, 무려 비용을 6분의 1 정도까지 절감된다.
3. Compatibility - 파라미터의 수를 줄여 더 가볍게, 꼭 필요한 부분에만 특화한 모델이며 더 싸고, 더 빠르며, 더 효율적이다. 스마트 폰이나 노트북과 같은 기계에서도 사용 가능하다. 실제로 삼성의 갤럭시 S24와 애플의 아이폰에 '온디바이스 AI'를 탑재해 출시하며, SLM을 통해 AI 모델을 더 많은 디바이스에 탑재시킬 수 있다는 점을 증명해가고 있다.
오케이, 많은 장점이 있다는 것은 인정. 이제 테크니컬 한 부분을 떠나서, 이 주제에 대해 MBA 수업에서 포커스 한 부분은 이거다: Profitability.
즉, '이 산업에서 수익을 남길 수 있는가?' 아무리 제품이 좋아도 결국엔 돈이 남아야 하지 않는가.
사실 SML을 떠나서 AI, ML, LLM 마켓이 전체적으로 개발과 유지 비용에 비해서 남는 margin이 크지 않기에 아직까지는 profitable 하지는 않다고 봐야 한다.
수익화가 되고 있는지 보기 위해서는 아래의 framework을 적용한다.
The Profitability Function
Profit을 결정하는 세 가지:
1. B (Willingness to Pay / Benefit)
2. P (Price)
3. C (Cost)
LLM의 경우에는 기본적으로 C가 매우 높기 때문에 profit을 높이려면 P를 높여야 한다. 하지만 P를 높이려면 B 또한 올라가야 하기 때문에, 소비자들이 LLM을 사기 위해 얼마까지 지불할 수 있는지를 살펴보며 가격을 정해야 한다.
반대로 SLM에 경우에는 C가 확실히 낮아지며, B 또한 더 높아질 가능성도 있다 (상황에 따라서 더 빠르고 효율적인 모델). 따라서 SLM의 P를 정할 때는 더 넓은 선택지가 주어지게 된다.
가치 창출과 가치 획득 (Value Creation & Capture)
새로운 프러덕트를 마켓에 론칭할 땐 그 프러덕트의 가치를 주의 깊게 살펴야 한다.
LLM과 SLM은 분명히 엄청난 가치를 창출한다. 하지만 그들이 과연 시장에서 가치를 획득하고 있다고 할 수 있는가? 가치를 획득하려면 수익이 있어야 하지 않을까.
