brunch

매거진 마케팅 X 데이터 사이언스

라이킷 13 댓글 3

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 박경아 Nov 11. 2023

전문가의 대답을 들려주세요! 맞춤형 GPTs

지난 주 제 1회 OpenAI 개발자 컨퍼런스가 열였는데요. 발표 내용 가운데 가장 파급력이 큰 주제이자 개인적으로 가장 많이 관심을 끈 맞춤형 GPT에 대해 살펴보려고 합니다.

최근 챗봇 구현에 관심을 가지고 이런 저런 자료들을 본 적이 있는데 갑자기 OpenAI의 GPT가 등장하는 바람에 모든 것이 리셋된 듯한 느낌도 들지만, 핵심은 Open AI가 개인이나 기업들이 직접 맞춤형 챗봇을 만들 수 있게 지원한다는 내용입니다. 코딩을 몰라도 자신만의 전문 주제 혹은 지식이 있다면 챗봇을 만들어서 개인적으로 혹은 회사에서 활용하거나 구글 플레이처럼 마켓에서 팔 수 있는 GPT 스토어도 오픈한다고 하는데요.

그럼, 새로운 AI 시대의 시작이자 수익기회이기도한 이번 발표 내용에 대해 자세히 알아볼까요?

먼저 맞춤형 GPT가 무엇인지 알아보겠습니다. OpenAI의 발표내용을 보면 GPT는 ChatGPT의 커스텀 버전이라는 건데요. 누구나 코딩을 몰라도 일상에서 혹은 일에서 도움을 줄 수 있는 맞춤형 ChatGPT를 만들 수 있다는 건데, ChatGPT는 이미 많은 텍스트를 학습했지만 약간의 프롬프트 엔지니어링과 추가지식, 그리고 스킬 등을 결합해서 개성있고 특정 분야를 좀 더 잘 아는 커스텀 GPT를 만들 수 있다는 것입니다.

예를 들어 이런 거조. 당신이 보드게임에 능다하면 보드게임 룰을 쉽게 알려주고 이에 관한 질문이라면 다 대답해 줄 수 있다면 보드게임 가이드 봇, 세탁에 관한 지식이 많다면 론드리 파트너, 스타일 조언이 가능하다면 스타일 어드바이저, 카페 위치와 리뷰 정보를 이용할 수 있다면 Cafe finder 같은 GPTs를 만들 수 있는 거조.

개발자 컨퍼런스에서는 CEO 샘 알트만이 몇 분안에 GPT 빌더를 활용해 스타트업 어드바이저 GPT를 만드는 영상이 소개되는데요. GPT 빌더가 어떤 GPT를 만들고 싶냐고 묻자 스타트업을 도와주는 멘토 역할을 하고 싶다고 합니다. 그러자 GPT의 행동 설정이 업데이트 되고 StartUp Mentor라는 이름도 제안해 주는데요.

스타트업 강의에 관한 파일을 업로드한다고 이를 참고해 대답해 달라고 하고 파일을 업로드하자 이를 바탕으로 대답하는 것을 볼 수 있습니다. 물론 GPT는 본인이 원래 알고 있는 지식과 이 파일을 참고해 알아서 판단해서 대답할 껀데요. 여기서 얼마나 정확하게 원하는 방식으로 대답하는 건지 OpenAI에서 Top p 샘플링하는 방식 등을 조절했을 거라 생각하는데요.

https://www.youtube.com/watch?v=U9mJuUkhUzk&list=LL&index=7&t=1260s

이런 GPT 빌더에 이제 곧 ChatGPT상에서 액세스 할 수 있어 누구나 챗봇을 만들 수 있다는 건데요.

여기에 들어간 개념들이 사실 저희가 지난 영상에서 살펴본 플러그인을 만들 때 기술과 거의 비슷하다는 것입니다. 플러그인이 ChatGPT의 언어능력을 활용한 서비스를 만들기 위해 개발사들이 API를 정의해 OpenAI에 등록하고 모델이 해당 플러그인이 필요하다고 판단하면 개발사가 등록한 함수를 호출함으로써 서비스로 인수가 전달되고 다시 그 결과를 전달받아 ChatGPT가 대답해 주는 방식인데요.

맞춤형 챗봇은 이 API를 만드는 과정을 OpenAPI가 코딩없이 만들 수 있도록 거의 처리를 해주는 거조. 그래서 빌더는 약간의 프롬프트 엔지니어링과 추가지식, 그리고 필요하다면 커스텀 함수까지 설정해 맞춤형 GPT를 만들 수 있습니다.

GPT 빌더에서 지원하는 툴들을 자세히 살펴보면 코드 인터프리터, 리트리벌, 함수호출 등을 지원한다고 나와 있는데요.

코드 인터프리터는 GPT-4의 하나의 모드였조. 파이썬과 관련 라이브러리를 내장해 코드를 읽고 쓰거나 파일을 쓰거나 그래프를 저장할 수 있는 모드입니다. 그래서 빌더는 이 기능을 켜서 GPT에게 사용자가 코드 인터프리터를 사용할 수 있도록 하고 사용자가 올린 파일에 대해 코드를 작성해 해결 하라는 식의 지시사항을 포함할 수도 있는 거조.

리트리벌은 문서를 참조할 수 있는 기능인데, ChatGPT가 알고 있는 거 말고 추가지식을 업로드할 수 있습니다. 원래 플러그인 제작시 개발사들이 자체 문서나 데이터베이스를 참고할 수 있도록 OpenAI에서 리트리벌 기능을 오픈소스로 공개했고 개발사들이 필요하면 이를 활용한 플러그인을 만들어 OpenAI에 등록할 수 있었는데요. GPT 빌더에서는 그냥 파일들을 첨부할 수 있는 거조. 최대 512MB까지 첨부할 수 있다고 하는데요

코드 인터프리터, 리프리벌 기능 외에 커스텀 함수도 설정할 수 있는 기능도 제공합니다. Add actions 기능이 있는데 이를 이용해 플러그인처럼 외부 서비스와 연동하는 기능을 만들 수 있는 거조. ChatGPT가 생성한 여행 정보를 이용해 지도 상에 시각화해주는 기능을 만들거나 외부 실시간 고객 데이터 베이스와 연동해 응대할 수 있는 쇼핑 에이전트를 만들 수도 있다고 하는데요.

그럼, 이제 고려사항에 대해서도 이야기해 볼께요.

아까도 잠깐 말씀 드렸지만 GPT-4는 자신이 원래 알고 있는 지식과 업로드한 지식 베이스를 바탕으로 대답을 할 껀데 과연 얼마나 정확하게 예측가능한 방식으로 대답을 할 꺼냐는 거조. GPT-4도 잘 대답하다가 가끔 엉뚱한 대답을 하기도 하고 업로드한 데이터를 참조하지 않을 수도 있을꺼니까요. 그리고 역시 대답을 막 지어서 대답하는 할루시네이션 문제도 있을 꺼구요. 이런 부분을 어떻게 어디까지 핸들링했는지 궁금해지네요.

두 번째는 데이터 보안인데요. OpenAI는 현재 개인들의 ChatGPT 사용은 데이터를 원하면 모델학습 에 사용하지 않도록 설정할 수 있는 옵트아웃 방식을 사용하고 있는데요. API 사용자나 엔터프라이즈 고객의 데이터는 기본적으로 모델학습에 사용되지 않도록 하고 있습니다.

이번에 GPT 역시 사용자의 대화는 빌더와 공유되지 않고 빌더가 혹시 서드파티 API를 사용한다면 해당 API로 데이터르 전송할지 말지 선택할 수 있다고 하는데요. 빌더 역시 자신의 GPT에 지식이나 행동을 맞춤설정할 때 사용자와의 대화가 모델 훈련에 사용될지 선택할 수 있다고 합니다. 빌더 입장에서 데이터 확보가 필요하다면 사용자 동의를 받아야 하고 별도의 API를 설정하는 과정이 필요할 것입니다.

마지막으로 다른 옵션도 있다는 것인데요. 현재 발표된 내용만으로는 챗봇과의 인터랙션에 있어 먼가 수동 플로우를 설정하는 기능이나 CRM 등 데이터 베이스와 연동하는 것 등은 직접 모두 개발해야 할 부분으로 보이는데요. 이미 다른 채널이나 백엔드 연동을 많이 지원하는 봇프레스 같은 솔루션도 있으니까요

그래도 현재로써는 개인적으로 혹은 회사 내외부에서 사용할 수 있는 커스텀 챗봇을 만들기에는 가장 접근하기 쉽고 쉬운 선택으로 보이는데요. 게다가 GPT 스토어도 오픈해 사용자가 많을수록 수익 쉐어를 많이 해준다는 새로운 수익기회가 될 수도 있는데요

여러분도 자신만의 니치 분야, 특정분야에서 GPT에게 가르칠 만한 지식이 있다면 잘 정리해서 자신의 노하우를 담은 맞춤형 GPT를 만들 수 있겠습니다. 어떤 아이디어가 떠오르시나요? 간단한 어시스턴트 GPT부터 전문가 GPT까지 한 번 고려해 보시는 게 어떨까요?