brunch

매거진 AI 봇

라이킷 14 댓글 1

You can make anything
by writing

C.S.Lewis

계정을 잊어버리셨나요?

by 젠틀파이 제이미 Jan 26. 2023

챗봇 만드는 사람이 공부해 본 'chatGPT란?'

챗봇, 젠틀파이, 코코너티브, 챗GPT, GPT-3, 생성AI

chatGPT 열풍이 거세다. SNS를 보면 chatGPT는 어떤 AI봇처럼 혐오표현을 말하지도 않고, 대학교 숙제도 대신해 준다 한다. 검색엔진의 종말이며, 구글 독주는 이제 끝이 보인다고 한다. 좋다, 환영한다, 그래도 역시 챗봇 구축 사업에 종사하는 사람으로서 정말 대단하다라는 열띤 구호보다는, chatGPT를 어떻게 써먹을 수 있을지가 더 고민이다. 세상을 곧 바꾼다고는 하는데 정확히 몰라 손에 잡히진 않는 느낌이랄까? 그래서 직접 써봤고, 똑똑한 chatGPT에게도 물어보며 회사동료들과 함께 공부해봤다. 쉽게 설명하기 위해 문답형으로 정리해 본다.

1. chatGPT는 무엇인가?

OpenAI라는 그룹(구글 아님)이 GPT-3, 정확히는 GPT-3.5로 만든 언어"생성" 모델이다. 언어를 만드는 인공지능이라고 생각하면 된다. chatGPT는 자연어 생성, 질의 응답, 문장 요약등을 잘 할 수 있다.

2. chatGPT랑 GPT-3는 무슨 차이가 있나?

생성 AI중의 일부인 chatGPT

ChatGPT는 GPT-3 (Generative Pre-trained Transformer 3)의 일종이다. 둘의 차이라면, GPT-3는 더욱 대규모이고 더욱 높은 성능을 가진 모델이고, ChatGPT는 이에 비해 약간 작은 규모이며 성능도 약간 낮은 모델이다. 학습량과 범위로 보면 GPT-3가 chatGPT 보다 다소 방대하다고 말할 수 있다.

2. chatGPT 봇은 기존의 챗봇들과는 무엇이 다른가?

생성AI와 분류AI가 있다. 생성 AI는 무언가를 참신하게 만들어내는 것이고, 분류AI는 이것이 무엇인지 아닌지 구분하는 것이다.

예를 들어, 지식을 가지고 고양이 그림을 그리는 것은 생성 모델이고, 이 그림이 고양인지 아닌지 분류하는 것이 분류AI 이다.

생성AI 와 분류AI

chatGPT는 생성모델이다. 말을 만들어 낸다. 반면, 지금까지 우리가 써왔던 챗봇(카카오톡이나 웹사이트에서 만났던 챗봇들, AI 스피커 봇들)은 거의 모두 분류 AI를 사용한다. 질문의 의도를 '분류'해서 그에 맞는 답변을 따로 매칭해 주는 것이다.

그래서 사용자가 어떤 질문을 하면 그에 걸맞는 답변을 만들어 내는 게 chatGPT이다. 반대로, 지금까지 만들어왔던 기존의 챗봇은 화자의 의도를 파악하게 하는데 집중되어 있다. 그래서, 기존의 챗봇은 의도에 맞는 답변을 미리 준비해 뒀고, chatGPT는 공부를 엄청나게 했기 때문에 자기가 알아서 답변을 생성해 낸다.

3. chatGPT가 대답을 아주 잘하는데, 기업이 챗봇으로 chatCPT를 사용한다면 한계는 무엇일까?

chatGPT한테 직접 물어봤다. 뭐라고 대답하는지.

chatGPT의 한계에 대한 나의 질문에 chatGPT가 해준 대답

AI가 아닌 인간이 조금 더 이해하기 쉽게 풀어 말하면 이런 문제가 있다.

제한된 지식: 광범위한 데이터셋을 갖고 학습되었지만, 기존 챗봇처럼 외부 데이터와 연동해서 정보를 가져오는 것은 불가능하다. 예를 들어, 실시간 정보인 날씨를 답변해 줄수는 없다.

의도파악의 한계: chatGPT는 답변을 생성할수는 있지만, 의도를 파악할수는 없다. 그래서, 사용자가 하는 말의 의도를 파악할수는 없다. 답변만 잘하면 되는게 아닌가 생각할수도 있지만, 사용자의 발화 의도가 무엇인지도 알아야 추후 대응이나 분석을 할 수 있다.

개인화 제한: 사용자의 성격, 특성, 정보에 따라 개인화된 답변을 줄수 없다. 예를 들어, ‘홍길동’이라는 사람에 딱 맞춰 답변을 해줄수는 없다. 엊그제 삼성닷컴에서 갤럭시를 구입한 홍길동이라는 사람에 대한 답변을 줄수는 없다.

4. 그렇다면 chatGPT(혹은 GPT-3)를 활용해서 은행 고객센터 챗봇을 만들었다고 생각해보자. 어디에 활용할수 있을까?

chatGPT를 기업이 사용할 수 있다는 가정하에 답변해 보면(2023년 1월 현재 불가, 추후 가능할거로 예상), 통상적인 질문을 미리 준비해두지 않아도 된다. 웹페이지나 문서링크를 찾을 수 있는 것들을 GPT-3가 보기좋게 잘 정리해서 대답해준다. 예를 들면 이런것이다.

미성년자가 계좌 틀때 뭘 준비해야하지?

최근에 나온 펀드상품은 뭐가 있지?

가나다 펀드와 ABC 펀드는 뭐가 달라?

대출 한도는 어떻게 달라지지?

5. 그럼, 은행 고객센터 챗봇에서 어떤 건 안된다고?

현재, 그리고 앞으로도 상당기간, 고객정보와 연동된 것은 답변할 수 없다. 이런 질문들이다.

홍길동 계좌에 얼마있지? : 홍길동이라는 사람의 개인정보와 연동해서 답변할 수 없기때문에 안된다.

김지영에게 계좌이체해줘 : 역시 김지영씨의 개인정보와 연동해서 답변해야 때문에 답변할 수 없다.

6. 기업 입장에서 보면 chatGPT(GPT-3)가 그닥 유용해보이지 않는데?

생성AI를 기업 활용 시, 가능한 구조 중 하나의 예시

만약, 개인정보나 외부정보를 연동해서만 답변해야 하는 챗봇을 생각했다면 아직은 활용하기 어렵다. 그렇지만, 단순 Q&A나 자동화된 답변을 하는데는 도움을 준다. 수많은 서류발급을 안내하는 정부나 서비스 사용법, 상품안내, 민원이 넘치는 금융기관들은 개인정보와 연동이 필요없는 FAQ를 수천개씩이나 갖고 있다(작년의 모프로젝트에서는 일반질의응답세트가 6000종이었다). 이런 대규모 질의응답 데이터는 문답 내용을 일일이 찾아 업데이트해야해서 운영이 어렵다. 운영하다보면 중복된 데이터도 많고, 운영이 어렵다보니, 철지난 답변을 할때도 많다. 그렇지만, GPT-3봇을 활용하면 쉬워질수 있다. 또한, GPT-3를 활용하면 갤럭시 새로 나온게 이전 버전하고 어떻게 달라? 이런 질문에 미리 답변을 관리자가 생성해두지 않아도 될 것이다.

그렇다면, 개인정보와 관련된 질문은 어떡하지? 두 방식을 같이 쓰는 거다. 분별AI를 사용하는 기존 봇(다이얼로그플로우, 카카오 i, SDS Brity 등)답변하게 하고, 그 외의 FAQ성 답변과 칫챗 등은 chatGPT를 통해 답변하게 하면 된다. 즉, 정보연동성 질문은 분별AI로 보내 답변을 받고, 나머지 질의는 생성AI에 보내 답변을 받자!라고 결정해서 활용하면 된다. 분별AI과 생성AI를 통합해서 활용할 수 있는 서비스도 곧 나올것으로 예상한다.

7. 현재가 그렇다면 미래는?

GPT-3 챗봇은 대학교 정도의 자료수집, 답변 능력을 갖고 있다고 생각할 수 있다. 실무를 잘 모를뿐이다. 기본적인 지식과 소양이 있는 봇, 즉, GPT-3 활용봇을 훈련시키면, 훨씬 적은 데이터로 특정 영역에 대한 답변 컨텐츠를 생성할 수 있게 될 것이다. 마치 신입사원을 뽑아 전문인력으로 양성시키는 것처럼 보편적인 교육을 GPT-3 등에서 담당하고, 전문영역은 별도로 학습시키는 AI를 통해 교육시킬수 있을것이다. 또한 데이터 연동형 답변을 하는 부분도 별도의 연결 솔루션 개발을 통해 분명히 해결점을 찾을 수 있으리라 본다.

8. 지금 뭘 어떻게 해야할까?

이 글을 쓰기 전까지 chatGPT가 모든것을 다 해결해 줄것 같은 생각이 들었다. 그리고, 블로그도 chatGPT시켜서 쓰라고 하면 되지 않을까라는 위기감이 들었다. 그런데 막상 이 글을 쓰기 위해 조사하면서 chatGPT한테도 이것저것 물어보면서 막연한 불안감은 조금 줄어들었다. 지금 할 일은 자주 써보는 거다.

지금 직접 써 보세요. 챗GPT 바로 사용해보기 (링크)

회사동료들과 디스커션하기 위해 참고했던 글 "GPT-3로 챗봇 만들기" (링크)도 읽어보시길.

안녕사이시옷에서 챗GPT에 대한 소개 영상을 찍었어요.

많관부! ;-)

https://youtu.be/Al4s32S7DHE