탐색형X생성형 하이브리드 챗봇
많은 사람들이 쓸 수 있는 챗봇을 빠르게 만드는 방법
2022년 chatGPT가 소개되고 나서 2023년은 모두 생성형 모델에 대해 관심을 쏟았습니다. 말 그대로 HOT했죠? 고객사에서도 생성형 모델을 적용하는 방법에 대해 문의해 왔고 생성형을 이용해 챗봇을 만들고 싶다고 했습니다. 단비AI는 "일상대화"를 위한 서비스를 연계해서 제공해 왔습니다. 그런데 chatGPT, Claude는 일상대화를 넘어 "일반상식"까지 생성하여 대화가 가능하기에 연동을 진행하여 BETA로 서비스 중입니다. 프롬프트에 어떻게 대응할 것인지 입력하면 프롬프트에 맞게 응대합니다.
단비AI에 적용된 생성형 모델
GPT로 생성된 답변아주 적절하게 반응합니다!
과거 일상대화 챗봇과는 차원이 다른 수준입니다.
주제가 공식적인 답변은 아니더라도 일반 상식 수준이라면 답변을 합니다.
GPT로 생성된 상식 답변하지만 기업에서 그대로 사용하기엔 무리가 있습니다. 챗봇 사용자에게 제공해야 하는 정보는 "일반상식"이 아니라 "특정정보"이기 때문입니다. A기업은 주차 요금이 30분당 500원이고 B기업은 무료라고 했을 때 "주차요금이 얼마예요?"라고 각각의 챗봇에게 물어보면 각 기업의 정책에 대해 이야기해 줘야 합니다.
아쉽게도 chatGPT는 뭐라고 대답해 줄까요?
주차요금은 그때그때 다르다는 일반 상식을 전달합니다.
ChatGPT로 생성된 답변기업에서 제공하고 싶은 답변은 공식적이고 정확하게 전달되어야 합니다. 프롬프트에 정책을 모두 적어 놓고 정책 내에서 답변하라고 하면 대답을 해줄 수 있기도 합니다. 하지만 답변해야 할 내용이 많다면 프롬프트에 모두 적을 수도 없는 노릇이죠. 따라서 현재는 하이브리드 형태의 구성이 가장 적합합니다.
기업에서 원하는 답변공식적으로 제공 가능한 질문과 답변은 전통적인 방식의 자연어 처리 챗봇 메커니즘을 적용하고 실패메시지에 한하여 생성형으로 적용하여 자연스럽고 똑똑한 느낌을 주는 것이지요.
기업에서 확실히 제공 가능한 정보는 Intent별로 분류하여 답변하도록 세팅생성형으로 또 안 되는 것이 단계 단계 처리되는 대화 흐름입니다.
최종적인 처리를 위해 추가 정보를 수집하고 그에 맞는 서비스를 연동하여 처리하는 과정이 필요한 경우에는 대화 흐름을 설계하여 적용해야 합니다.
시나리오에 맞게 동작하는 대화흐름 구조danbee.ai에서는 기업에서 제공해야 하는 핵심 정보와 서비스를 처리할 수 있는 챗봇을 손쉽게 만들 수 있는 저작도구를 제공합니다. 그리고 생성형AI를 적용해서 체험도 가능하니 지금 가입해서 체험해 보시기 바랍니다.
마치며...
지금처럼 AI가 빠르게 발전한다면 대화의도-대화흐름의 구조가 완전히 필요 없는 새로운 방식의 챗봇 구현 방식이 언젠가는 나올 것이라 생각됩니다. 하지만 최근 에어캐나다에서 100% 생성형 챗봇을 적용했다가 이슈가 된 사건이 있었습니다. 챗봇이 할인해 주겠다고 했으나 기업에서는 챗봇 안내 책임이 없다고 주장하여 민사 분쟁이 발생했던 사건입니다. https://zdnet.co.kr/view/?no=20240220153154
가장 합리적인 것은 생성형모델을 절제하여 사용하는 것이고, 생성형 모델을 적용할 경우 책임 최소화 하기 위한 프롬프트 적용이 반드시 필요합니다.
하이브리드형 챗봇 도입에 관심이 있는 기업 담당자분이 시라면 저희에게 궁금한 점을 이야기해 주십시오. 도와드리겠습니다.
contact@danbee.ai
