brunch

You can make anything
by writing

C.S.Lewis

by 이재훈 Oct 21. 2024

기업은 AI를 어떻게 활용할까? (Feat. AWS)

*이 글은 AWS로부터 소정의 원고료를 지원받고 작성되었습니다. 




I. ChatGPT 등장과 기업들의 AI 도입 현황


2022년 11월, 혜성처럼 등장한 ChatGPT는 출시와 동시에 IT 트렌드를 완전히 뒤바꿔 놓았습니다. 출시 두 달 만에 월간 활성 사용자 수(MAU) 1억 명을 돌파하는 등 일반 대중 사이에서 큰 인기를 끌었고, 높은 활용도로 기업들 사이에서도 AI 도입 의지가 컸는데요. 그러나 최근 조사에 따르면 도입 의지 대비 실제 도입률은 기대에 미치지 못하는 것으로 나타났습니다.


출처 : 대한상의 (편집 : 이재훈)


대한상의·산업연구원이 500개 기업의 IT·전략 담당자들을 대상으로 조사한 결과, AI 필요성을 인식하는 비율은 78.4%였으나 실제 도입률은 30.6%에 그쳤습니다. 도입 희망 의사와 실제 도입률 간의 큰 격차가 나는 이유는 무엇일까요? 응답자들이 가장 많이 선택한 이유는 '기술·IT인프라 부족'이었습니다. 이는 AI 기술 도입을 위해 여전히 '누군가의 지원'이 절대적으로 필요하다는 점을 의미하며, 아마 지금 이 글을 보시는 분들도 많이 공감하실 거라 생각합니다.


II. 빠르게 변화하는 기술 환경과 클라우드의 중요성


AI 기술의 발전뿐만 아니라, 이로부터 파생된 IT 및 디지털 기술의 발전 속도도 가속화되고 있습니다. 특히 AI를 비롯한 최신 기술에 기반한 서비스들이 확대되면서 기업들은 데이터를 더욱 효율적으로 처리하고 관리할 수 있는 클라우드 환경은 이제 선택이 아닌 필수 조건이 되었는데요. 국내 클라우드 시장에서 60% 이상의 점유율을 유지하며 국내에 최적화된 기술 인프라를 갖춘 AWS는 이에 발맞춰 Bedrock(대규모 언어 모델 개발 및 배포 플랫폼)과 같은 최신 기술을 제공함으로써 기업들이 변화하는 시장 환경에 빠르게 대응할 수 있도록 지원하고 있습니다. 


대표적으로는 SK브로드밴드의 사례를 들 수 있습니다. SK브로드밴드 역시 생성형 AI의 가능성을 빠르게 확인하고 이를 활용하여 차세대 생성형 AI 상담 챗봇을 구축하고자 했는데요. 가장 우수한 성능의 초거대 GPT모델을 활용하자니 다음과 같은 문제에 부딪혔습니다. 


1) 시간 및 비용 측면에서 GPT 모델의 Fine Tuning은 현실적으로 불가능

2) Donmain Knowledge 부족에 따른 할루시네이션 가능성의 증가

3) 영어 기반으로 학습된 데이터로 일부 질문에 영어로 대답하는 문제 발생

4) 새롭게 생성되거나 갱신되는 정보에 대한 대응이 어려움


출처 : AWS Industry Week 2023


SKB는 이러한 문제를 극복하기 위해 자사의 MKIS(상담 지식 관리시스템) 데이터로 sLLM(소형 언어 모델)을 미세 조정해 한국어와 도메인에 최적화된 모델을 만드는 대안을 선정했는데, 이 과정에서 AWS는 최적의 파트너가 돼주었습니다. 


기본적으로 생성형 AI 관련 실증 사례가 풍부한 AWS는 sLLM 모델에 대한 노하우를 바탕으로 적절한 모델을 제안해 주고, 모델 개발과 평가 환경을 제공해 주는 SageMaker 등의 서비스를 제공하여 원활하게 PoC를 완료할 수 있었습니다. 


III. 잘 나가는 기업의 성공 사례를 한 자리에서


앞서 소개한 사례 외에도 다양한 기업들의 성공 비결을 한 자리에서 확인할 수 있는 기회가 있습니다. 바로 '2024 AWS Industry Week'입니다. 저 역시 Digital Transformation 전략을 담당하던 시절, 동종 업계의 다양한 사례를 찾아보는 데 늘 갈증을 느꼈는데요. 그때마다 AWS Industry Week와 같은 행사는 가뭄의 단비와 같았습니다. 


AWS는 매년 이 행사를 통해 최신 기술 트렌드를 짚어보고, 실제 기업들의 도입 사례를 공유하는 자리를 마련하고 있습니다. 올해도 6개 산업으로 나누어 각 산업별 주요 사례를 발표할 예정이며, 대표적으로는 다음 기업들의 사례를 강연으로 만나볼 수 있습니다.


1) 리테일 및 소비재 : 올리브영, 스타벅스 등

2) 통신 및 미디어 : 티빙, LG 유플러스 등

3) 금융 및 핀테크 : 신한카드, 코인원 등

4) 제조 및 하이테크 : 삼성전자, HD현대마린솔루션 등

5) 헬스케어 및 생명과학 : GC녹십자, CJ바이오사이언스 등

6) 디지털 인더스트리 : 우아한형제들(배민), 당근페이 등

*전체 강연 한눈에 보기


개인적으로 가장 기대되는 강연은 리테일 부문의 스타벅스 사례입니다. 최근 프랜차이즈 업계에서는 '자사앱' 강화가 주요 화두로 떠오르고 있는데, 스타벅스는 업계에서 가장 충성도 높은 자사앱 고객을 보유하고 이를 효과적으로 활용하는 대표적인 기업입니다. 특히 2014년 5월에 출시된 사이렌 오더는 편리함과 다양한 혜택으로 인기를 끌며 빠르게 성장하고 있는데요. 2024년 기준으로 전체 주문의 35%가 사이렌 오더로 이루어질 만큼 이제는 스타벅스의 핵심 서비스로 자리 잡았습니다. 


또한, 스타벅스는 진행할 때마다 대란 행진을 이어가고 있는 프리퀀시 이벤트를 비롯해 다양한 이벤트를 수시로 진행하고 있습니다. 이 과정에서 빠른 비즈니스 대응 및 대형 트래픽 처리 능력이 필수적인데, 이를 가능하게 한 것이 바로 AWS의 지원입니다. 이러한 발전 과정에 대한 내용도 강연에서 다룰 예정이라고 하니, 유사한 서비스를 담당하거나 계획 중인 분들이라면 꼭 참여해 보시길 권합니다.  


IV. 산업별 인사이트와 체험의 기회


AWS Industry Week가 특별한 이유는 각 산업 트랙에서 공유된 산업별 인사이트와 실제 기술을 체험할 수 있는 30개 이상의 부스가 마련되어 있다는 점입니다. 강연을 통해 눈여겨보았던 기술들을 직접 체험해 보고, 자사의 환경에 적용할 수 있을지 검토해 볼 수 있는데요. 만약 혼자서 판단하기 어렵다면, 각 산업별 전문가와 상담도 가능해 한 자리에서 많은 고민을 해결할 수 있을 것으로 기대됩니다. 


출처 : AWS


더욱 놀라운 것은 이 모든 것을 경험해 볼 수 있는 비용이 무료라는 점입니다. 최신 기술 도입을 고민하고 계신 분들에게는 더없이 좋은 기회가 될 것으로 기대됩니다. 저 역시 기술 트렌드를 쫓는 사람으로서 시간 내어 방문할 예정인데요. 혹시 행사장에서 테크잇슈를 발견하면 반갑게 인사해 주시기 바랍니다 :)


일시 : 2024년 11월 7일(목요일) 13:00 ~ 17:00

장소 : 서울 강남구 코엑스 컨벤션 센터

비용 : 무료! (선착순으로 마감되니 빠르게 신청하세요!)


AWS Industry Week 참가 등록하기

매거진의 이전글 흑백 AI 전쟁, 백수저의 묵직한 한방
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari