sLLM이란? 정의 그리고 사례 알아보기
안녕하세요.
인공지능 지식을 쉽게
알려드리는 디피니트입니다.
오늘 소개할 내용은
2024년 주요 인공지능 키워드 중 하나인
'sLLM'입니다.
그럼 바로
sLLM에 대한 정의와 사례
바로 알아볼게요!
이번 포스팅의 목차입니다.
01 sLLM에 대한 정의
02 sLLM의 특징 그리고 중요성
03 기업의 sLLM 활용 사례
01 sLLM에 대한 정의
먼저 sLLM의 정의를 살펴볼게요!
sLLM은 LLM보다
작은 규모의 대형 언어 모델로서,
매개변수의 수가 수십 억개에서
수백 억 개 정도이며
이는 LLM의 수천 억~수조 개 매개변수에
비해 훨씬 작은 것이 특징입니다.
그럼 여기서 매개변수란?
매개변수란?
매개변수에 대한 뜻은 영어로
파라미터(Parameter)라고 하는데요.
쉽게 말해,
함수나 기계의 동작을
조절하는 '변수'를 일컫습니다.
모델의 학습 과정에서 [조정되는 값]이며,
이 값들은 모델이 주어진 입력 데이터에 대해
정확히 예측하는데에 아주 중요한 역할을 합니다.
아래 이미지를 한번 보실게요~!
후라이드 치킨은 {메뉴}에 속하는 파라미터,
즉, 변수라는 것을 알 수 있죠?
파라미터를 활용하여
소프트웨어나 시스템을 작동시키는 것이며
인공지능이 다양한 유형의
파라미터를 많이 학습할수록
예측력과 성능은 높아집니다.
02 sLLM의 특징 그리고 중요성
챗 gpt로 LLM에 대한 관심이
뜨거워진 이후 2024년에 들어서
이 sLLM에 대한 키워드가 급부상하고 있는데요.
sLLM의 특징과 중요성에 대해
알아보겠습니다.
sLLM의 특징이자 장점은
크게 두가지가 있습니다.
1) 하드웨어에 대한 부담을 감소
: 고가의 서버를 구축하지 않아도 됨
: 노트북, 스마트폰 등 단말에도 sLLM은 업로드가 가능
2) 높은 비용 효율성
: 필요한 매개변수만을 사용하므로 머신러닝 학습시간↓
: 운영에 드는 비용이 적음↓
즉, 비용적 측면에서 돈을 아낄 수 있으면서
필요한 AI 기술만 활용할 수 있다는 가성비때문입니다.
sLLM이 중요한 이유
그럼 sLLM이 중요해진 이유에 대해
살펴볼게요.
그 이유는 두가지가 있습니다.
1. 기업 맞춤형에 적합
sLLM은 특정 분야에 한정하지만
기업 맞춤형으로 깊이 있는 데이터를
학습할 수 있다는 점
2. 온디바이스 AI에 적합
클라우드를 거치지 않고
기기에 설치할 수 있어,
인터넷이 연결되지 않아도 되기 때문
이러인해,
온디바이스 AI의 수요 증가로
sLLM이 더 주목받을 것으로
전망되기 때문입니다.
03 기업의 sLLM 활용 사례
pingpoing-1
그럼 마지막으로 기업에서
sLLM을 어떻게 활용하는지
그 사례를 간략히 살펴볼게요!
첫번째 활용 사례로는 이루다라는
관계형 챗봇 서비스를 제공하는
스타트업 스케터랩인데요.
pingpoing-1이라는 sLLM 개발하였는데요.
관계지향 대화를 목적으로 개발된
소형 언어모델입니다.
아래 이미지를 보시면 해당 언어모델로
핑퐁AI라는 서비스를 제공하며
기업에서 해당 모델을 활용해
다양하게 서비스를 제공할 수 있게하고 있습니다.
CODE.ISR
두번째로 소개해드릴 sLLM 활용 사례로는
삼성전자의 사내 코드 생성도구인
CODE.ISR입니다.
기업 내부에서 보유하고 있는
코드 데이터를 기반으로
코딩시 새로운 코드를 생성해주는 툴인데요.
아래 이미지를 보시면 대화로 소통하며
원하는 코드를 생성할 수 있다고 합니다.
마지막으로 소개해 드릴 sLLM 활용 사례로는
삼성전자의 '삼성 가우스'라는 모델입니다.
이 소형언어모델은 가전제품, 스마트폰 등
단말에서 작동하는 온디바이스 AI 탑재를 위해
개발되었습니다.
머지않아 기기와 대화하며 대화로 지시를 하면
대신 수행해주는 기기가 나올 것 같습니다.
오늘은 2024년도 인공지능 키워드인
sLLM에 대한 정의와 중요성
그리고 활용사례까지 알아보았습니다.
앞으로 기업은 비용부담없이 자신들만의
인공지능 언어모델을 구축하는 가성비를 추구하고
관련 시장이 커질 것으로 예상됩니다.
또 다양한 기기와 사물에 sLLM이 접목되어
새로운 사용자 경험을 제공할 것으로 기대되네요.
긴 글 읽어주셔서 감사합니다.
https://brunch.co.kr/@brunchk1wj/150
