brunch

You can make anything
by writing

C.S.Lewis

by OOJOO Mar 16. 2023

기업의 ChatGPT 활용 전략

LLM, AGI 시대를 대비하는 법

ChatGPT가 가져온 파급력은 지난 20년간 그 어떤 인터넷 기술이 가져다 준 규모보다 크다. 2022년 11월30일 런칭한 이후 3개월간 IT 산업 뿐만 아니라 기술과 무관한 전통 산업에 충격을 가져다 주었다. 2016년 3월에 있었던 세기의 대결 이세돌과 알파고의 바둑 대국과는 비교가 되지 않는다. 그만큼 ChatGPT가 보여준 AI의 놀랄만한 성능은 대단했을 뿐 아니라 그것을 누구나 바로 사용해볼 수 있다는 것이 충격이었다. 그렇게 아무나 그런 초거대 AI를 사용할 수 있게 되면서 이 기술이 가져다 줄 여파가 우리 기업에, 우리 사회에, 우리 시장과 산업에 어디까지 미치게 될지 초미의 관심사가 되었다. 그래서, 모든 기업들이 ChatGPT를 이해하고 어떻게 활용해 우리 기업의 사업 혁신에 활용해야 할지 공부하고 고민하게 되었다. 그런 ChatGPT를 어떻게 기업에서 활용할 수 있을지 알아본다.

▣ 초거대 AI의 기업 내 활용 방안

사람처럼 사고하고 학습하며 판단할 수 있는 인간의 뇌 구조를 모방한 AI를 초거대 AI라고 부르며 그렇게 개발된 서비스가 ChatGPT이다. 그런 ChatGPT는 기업의 구성원들에게 업무 생산성을 높여주는 도구로서 활용되거나, 기업의 비즈니스 문제를 보다 효율적으로 해결해주는 솔루션으로서 사용될 수 있다. 더 나아가 기업의 새로운 사업 혁신에 이용될 수도 있다. 하지만, 모든 기업이 이 3가지로 ChatGPT를 활용할 수는 없고 대부분은 기업의 일하는 문화 혁신에 이용되는 것이 일반적이다. 이후 명확한 비즈니스 문제를 해결하는 솔루션으로서 ChatGPT를 검토할 수 있으며, BM혁신까지 이어지도록 하는 것은 일부 비즈니스 도메인이나 산업 분야가 아니고서는 어렵다.

ChatGPT의 업무 도구로서의 활용은 엑셀이나 포토샵 그 훨씬 이전의 계산기처럼 필요할 때 잘 사용할 수 있으면 된다. 그러려면 ChatGPT의 사용법을 잘 안내해주고 사용상 발생할 수 있는 문제를 최소화할 수 있는 장치를 마련해주어야 한다. ChatGPT에 던지는 질문에 기업의 기밀 정보나 고객의 개인 정보가 담겨 자칫 보안의 문제가 생길 수 있다. 그런 이슈를 어떻게 최소화하고 대처해야 할 것인지를 고려해 ChatGPT 사용 가이드를 제시하는 것이 기업이 할 수 있는 첫 번째 기초적인 ChatGPT 활용 방안이다.

다음이 평소 디지털 트랜스포메이션을 이용해 기업이 비즈니스 문제를 해결하듯 ChatGPT를 이용하는 것이다. 대고객 서비스를 위한 앱 개발과 개편 그리고 고객 상담을 위한 챗봇, 기업의 제품과 브랜드 마케팅을 위한 홍보 등의 각 비즈니스 영역별 기존에 해오던 솔루션의 한계를 ChatGPT와 같은 초거대 AI 기술로 해결 가능한지 살펴보는 것이다. 그 과정에서 위 기업의 제품이나 서비스의 성능과 품질이 향상될 수 있는 기회를 얻을 수도 있다. 더 나아가 LLM을 통해 제공되는 정보에 우리 기업의 브랜드나 제품 등에 대한 소개와 안내가 될 수 있도록 우리 기업의 Data를 LLM 학습에 제공하거나, 이들 AGI 서비스에서 노출되는 우리의 정보가 더 유리하게 적용되도록 긍정적 정보에 좋은 반응을, 부정적 정보에는 비판적 반응을 하는 LLM 최적화 작업을 하는 것도 고려할 수 있을 것이다.

마지막이 BM혁신이다. 모든 산업 영역에 ChatGPT가 BM혁신까지 이어지게 할 수는 없지만 일부 영역에서는 그런 기회를 만들 수 있다. 이 3가지 영역이 ChatGPT와 같은 초거대 AI 그리고 generative AI 즉 생성형 AI가 기업에서 활용할 수 있는 방안들이다.

▣ 업무 생산성 향상을 위한 도구

ChatGPT는 검색어 입력창에 넣는 키워드처럼 질문을 던져서 원하는 답을 찾아갈 수 있다. 그런 질문을 Prompt라고 부른다. 그 Prompt는 키워드의 조합으로 된 문장이고 한 번이 아닌 여러 번을 던져서 원하는 답을 찾아가기 때문에 중요하다. 그런 Prompt를 잘 구성해서 사용해야 유용한 답을 찾을 수 있다. 그 Prompt를 이용하는 방법을 구성원들에게 잘 안내하고 사용할 수 있도록 교육하는 것에서 시작된다.

[Prompt 사용 팁들이다.]

1. 쉽고 간결하게 질문하되, 예/아니오의 답변이 아닌 구체적인 지시문으로 명령하고, 요구 사항의 맥락, 지시의 이유, 기대하는 바를 설명하면 좋다.

2. 한 두번 prompt를 던져 답을 얻으려 하기 보다, 5~6차례 티키타카하며 얻어낸 정보가 더 의미있는 시사점을 준다.

3. prompt에 기대하는 답의 구성에 대한 사례를 들거나 구체적 제시를 해주면 더 나은 결과물을 얻을 수 있다.

4. 답이 너무 광범위할 때, 조건/제한을 달아 좁혀가면 좋다.

5. 일부러 답변 내용에 반대 의견을 내며 스트레스를 주면 더 나은 논리나 참고 정보를 파악할 수 있다.

6. prompt는 2줄을 넘지 않도록 하되, 질문 내용이 많을 때는 여러번에 걸쳐서 질문을 던지는 것이 좋다.

7. 또, 더.. 등으로 계속 추가적인 답변을 요청하면 좀 더 다양한 시각/관점의 정보들을 찾아볼 수 있다.

8. 특정 주제에 대해 내가 가진 견해/생각에 반대/비판되는 관점으로 대화가 진행되도록 prompt를 설정하고 티키타카하면 내 논리를 좀 더 탄탄하게 구성하는데 도움이 된다.

9. 내가 질문을 하는 것이 아니라, ChatGPT가 질문을 던지게 prompt를 구성해서 내가 답을 하도록 역할 변경을 해서 대화를 나누면 새로운 관점으로 내 생각을 정리할 수 있다.

10. 내가 작성한 글을 넣어주고, 해당 내용에 대한 의견을 물으면서 실제 전문가와 대화를 나누듯이 이야기를 하면 글의 완성도를 높일 수 있는 다른 관점의 시각을 참고할 수 있다.

단, ChatGPT를 사용할 때 유의할 것은 제시된 결과에 포함된 사례나 용어 등에 대해서는 fact check를 반드시 구글 검색을 통해서 해야 한다는 것이다. 즉, 팩트 체크가 필요한 것이나 최신 정보, 뉴스는 물어보지 말아야 한다. 세월 속에 잘 정립된 분야의 지식이나 정보로 문헌 정보에 기반한 사항에 국한하는 것이 유용한 답을 찾는데 도움이 된다.

새로운 아이디어나 기발한 논리를 발견하고자 할 때 유용하고, 보고서 요약이나 반대되는 의견을 청취하고 오탈자를 수정하고 번역할 때 유용하다. 특히, 주어진 텍스트를 정리하거나 소설처럼 새글을 창작할 때 유용하다.

참고로 Prompt의 맨 끝에 파라미터 변수값을 넣어서 답변 내용을 조정할 수 있다. 상세한 변수값 내역은 ChatGPT에 아래와 같이 물어보면 된다.

"chatgpt에서 사용할 수 있는 하이퍼 파라미터 변수값에 대해 알려줘”

중요한 변수값만 추려보면 다음과 같다.

* Temperature:0.2 (0~1) - 1에 가까울수록 창의적이며 0에 가까울수록 사실적인 내용의 답변이 나옴

* Repetition penalty:0.3 (0~1) - 1에 가까울수록 답변에 중복된 단어가 나타나지 않음

* max_length:10 (0~2048) - 결과값의 최대 글자수를 제한할 수 있으며, 2048로 세팅하면 약 1천자에서 2천자로 문장의 길이가 조정됨

* Length penalty: (0.5~2.0) - 값이 높을수록 길이기 긴 문장의 우선순위가 높아짐

* Writing style:Journalistic (Academic, Analytical, Argumentative, Critical, Epigrammatic, Metaphorical, Epistolary, Poetic, Satirical, Technical)

* Tone:Formal (Authoritative, ClinicalConfident, Emotional, Friendly, Ironic, Optimistic, Pessimistic, Sarcastic, Serious, Tentative, Warm)

▣ 비즈니스 문제 해결을 위한 솔루션

ChatGPT가 기존의 인터넷 서비스와 다른 것은 바로 기계가 사람의 언어를 해석해서 사람에게 말하듯이 대화형 인터페이스로 컴퓨터를 사용하고 인터넷 서비스를 이용할 수 있다는 점이다. 지난 20년간의 컴퓨터나 스마트폰은 사람이 컴퓨터의 언어에 맞춰 타이핑하고, 클릭하고, 터치를 해서 조작을 해야 했다. 반면 ChatGPT는 거꾸로 우리의 말을 기계가 알아듣고 우리의 의도와 필요에 맞게 서비스가 제공된다.

그래서, ChatGPT에 사용된 기술을 가리켜 LLM(Large Language Model)이라고 부른다. 인간의 언어를 학습해서 AI가 사람의 말로 해석하고 답을 제시해준다. 그런 ChatGPT는 웹에서 대화창을 통해서 사용할 수 있지만, 점차 이 기술과 인터페이스는 기존에 우리가 사용하던 SW, 앱 그리고 메타버스에도 적용되어갈 것이다. MS의 Bing 검색엔진과 오피스, 팀즈 그리고 슬랙 더 나아가 메타버스를 통해서 ChatGPT가 적용되면 글과 말로 초거대 AI에게 원하는 것을 요청하고 그 답을 받을 수 있게 될 것이다.

그렇게 되면 사용자들은 마우스나 손가락으로 인터넷을 사용하는 것보다 대화하듯 글이나 말로 명령을 내리게 될 것이다. 그런 것에 익숙해지면 기업이 그런 고객들에게 제품을 알리고 브랜드를 홍보하며 마케팅하는 것도 바뀌게 될 것이다. 또한, 제품의 사용법을 안내하고 고객 상담을 하는 방식 또한 바뀌게 될 것이다. 홈페이지나 앱을 통해 고객과 만나는 지금의 고객 서비스 방식도 바뀔 수 있다. 바로 그 지점에서 기업의 ChatGPT 시대를 대비해 우리 고객과 초거대 AI를 이용해 대화 인터페이스로 우리의 서비스를 어떻게 커뮤니케이션해야 할지를 고려해야 한다.

이를 위해서는 ChatGPT가 어떻게 작동되는지를 알아야 한다. ChatGPT는 OpenAI라는 회사가 만든 GPT-3.5라는 LLM 모델을 통해서 만들어졌다. OpenAI는 이 모델을 완성하기 위해 2021년까지의 인터넷에 공개된 데이터들을 수집해 GPT-3.5를 학습시켰다. 그렇게 학습된 GPT-3.5를 미세조정(Fine tuning)을 통해 개별 기업, 사용자별로 조금씩 다르게 사용이 가능하다. 같은 GPT-3.5를 사용하더라도 설정값을 바꿈으로써 조금 다르게 이용할 수 있는 것이다. 또한, 기업에서는 기업 내부의 차별화된 Data를 LLM을 사용할 때 연계함으로써 다른 기업이 제공할 수 없는 다른 서비스를 개발할 수도 있다. 더 나아가 ChatGPT와 같은 서비스를 운영하면서 사용자들의 반응, 피드백을 서비스에 반영하면서 더 나은 초거대 AI가 만들어질 수 있다.(그것을 RLHF, Reinforcement Learning from Human Feedback라고 함)

그렇게 기업은 ChatGPT 아니 LLM을 이용한 초거대 AI를 기업의 더 나은 고객 서비스나 비즈니스 문제 해결에 활용할 수 있다. 그러려면 이들 기술을 잘 활용할 수 있어야 한다. 이미 기업이 IT를 활용해 ERP, CRM 그리고 클라우드를 통해서 빅데이터를 이용한 디지털 트랜스포메이션을 하는 것처럼 그렇게 ChatGPT도 디지털 트랜스포메이션의 한 수단으로 이용할 수 있다. 이미 OpenAI나 MS Azure에는 ChatGPT와 GPT-3 등이 API로 제공되고 있다. 국내에도 네이버가 하이퍼 클로바라는 LLM을 클로버 스튜디오를 통해서 API로 제공하고 있으며 이를 이용해 다양한 generative AI 서비스가 개발되고 있다. 이렇게 LLM API를 이용해 generative AI 기능을 기업의 비즈니스 문제를 해결하는 솔루션으로 활용할 수 있다.

이미 MS는 Bing 검색 엔진에 ChatGPT를 적용해 기존의 검색 서비스 대비 더 나은 검색 결과물을 제공하고 있으며, MS오피스와 팀즈, 디자이너 등의 SW에도 ChatGPT를 활용해 일일히 메뉴를 클릭해가면서 소프트웨어를 사용하는 것이 아니라 필요한 것이나 원하는 작업을 대화창에 입력하면 자동으로 수행해주는 편의성을 제공하고 있다. 일례로 아웃룩에 적용된 ChatGPT는 메일 회신을 쓸 때 사요용자가 원하는 톤으로 답장을 자동으로 써준다. 일례로, 정중하게 거절하는 메일 회신을 10줄로 써 달라고 하거나, 좀 더 생각해보고 다음주 초까지 회신을 주겠다라는 답장을 써달라고 하면 그렇게 글을 써준다. 물론 영문으로, 중국어, 일어로 원하는 언어로 생성해준다. 노션, 슬랙 그리고 국내의 여행 서비스인 마이리얼트립, 교육 지식 공유 플랫폼 클라썸 등도 ChatGPT와 같은 LLM을 서비스 내에 적용해서 원하는 정보나 작업 요청을 AI에게 지시하면 서비스 내에서 필요로 하는 결과물을 얻을 수 있다. 이렇게 기업은 서비스의 품질을 강화하는데 LLM 기술을 이용할 수 있다.

▣ BM혁신을 위한 기회

마지막으로는 초거대 AI를 기업의 BM혁신을 꾀하는데 이용할 수 있다. 다양한 영역의 문서나 작문을 해주는 wrtn과 Jasper 그리고 이미지, 그림 등을 그려주는 미드저니, Stabillity AI의 드림 스튜디오 그리고 영상을 생성해주는 runway 등과 같은 generative AI가 바로 그런 것들이다. LLM 기술을 활용해서 콘텐츠, 데이터를 생성하는 새로운 인공지능 서비스를 개발하는 것도 신규 비즈니스의 기회가 될 수 있다. 이런 기업들은 필요에 따라 자신들의 사용 목적에 맞는 LLM을 독자적으로 개발해야 할 수도 있다. 즉, 범용화된 SOTA LLM(파운데이션 모델)을 API로 사용하는 것이 아니라 우리 기업만의 고유한 Vertical LLM을 자체 개발해야 할 수 있다. 범용 LLM으로는 기업의 요구에 최적화된 서비스 구현이 되지 않을 수 있어 독자 개발을 꾀해야 할 수 있다. 다행히 Meta의 LLaMMA와 여러 오픈소스 커뮤니티에서 제공되는 AI 모델들을 활용하면 좀 더 적은 인프라로 LLM 개발을 꾀할 수 있다.

또, 누구에게나 공개된 SOTA LLM을 그대로 가져다가 사용하면 다른 경쟁사 대비 차별화된 서비스 경쟁력을 갖출 수 없다. 그렇기 때문에 우리 기업만의 사용 목적에 맞게 LLM 사용에 있어 우리 기업만의 차별화된 데이터를 활용해 미세조정(Fine Tuning)을 해서 우리 입맛에 맞게 LLM을 사용할 수 있는 기술 역량도 갖춰야 한다. 그런 역량이 있어야 우리 서비스에 적용된 LLM을 더 고도화해서 더 나은 서비스를 제공할 수 있다. 그 과정에서 쌓여진 우리 기업만의 AGI 서비스는 비즈니스 기회를 더욱 확대해주는 계기를 만들어 줄 수도 있다.

ChatGPT는 LLM으로 구현된 하나의 사례에 불과하다. 핵심은 인간이 할 수 있는 지적인 작업을 해낼 수 있는 인공지능을 가능하게 한 기술적 진보가 이루어졌고 그로 인해 사람의 글과 말을 이해해 대화형 인터페이스로 컴퓨팅 작업을 해낼 수 있게 되었다는 것이다. 이 기술로 다양한 생성형 AI 서비스가 가능해졌고 그 하나가 ChatGPT이다. 앞으로 LLM API를 활용한 다양한 서비스들이 탄생하고 기존의 서비스에 적용되어 우리의 컴퓨터 소프트웨어와 모바일 앱 그리고 인터넷 서비스는 한 단계 도약할 수 있게 되었다.

[추가]

게다가 2023년 3월15일 GPT-4가 공개되었다.

성능이 더 좋아지고, safety도 강화되었지만 가장 놀랄만한 것은 멀티모달 인터페이스이다. 즉, 글자 뿐만 아니라 이미지, 영상까지도 인식할 수 있다는 것이다. 백문이 불여일견. 아래 이미지들을 아주 정확하게 인식(단순하게 사물을 인식하는 수준이 아니라 그림의 숨은 뜻을 해석)한다.

이런 GPT-4를 활용해 구현 가능한 use case로 소개된 시각장애인을 위한 스마트폰 카메라와 GPT-4가 결합되어 눈을 대신해준 서비스이다. 폰 카메라에 촬영되는 영상 속의 사물, 공간, 거리 등을 인식해서 소리로 알려준다. 앞에 무엇이 있고, 내가 들고 있는 상품이 무엇이고, 카메라로 촬영되고 있는 문서의 문자를 인식, 번역해서 알려준다. 어디가 막혔는지 장애물이 어디에 있는지 알려주는 내비게이션 역할도 해준다.

https://openai.com/customer-stories/be-my-eyes

Be My Eyes

Be My Eyes uses GPT-4 to transform visual accessibility.

openai.com

GPT-4는 더욱 더 다양한 기업의 비즈니스 문제를 해결하는데 도움을 줄 것이다.