brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Mar 24. 2024

AWS 48탄-7. 기계 학습기반 대화하는 가상 상담원

컨텍 센터에 Gen AI 도입해서 고객의 신뢰도를 높여 매출을 높인다.



<1> Amazon Connet 

<2> 컨텍 센터에 Gen AI 도입

<3> Amazon Bedrock 사용

<4> Kendra사용

<5> 웹크롤러를  사용하여 데이터 소스 수집

<6> 람다를 이용해 아마존 캔드라와 베드락은 연동하자.

<7> Amazon Lex와 Amazon Connect 구성



<1> Amazon Connet 


1

Amazon에서도 고객 서비스를 Amazon Connet로 제공하고 있다.

하루에 1,000만 건 이상의 고객 문의를 제공하고 있다.



2

고객의 대다수는 우수한 고객 경험이 가장 강력한 무기라고 생각한다.

기업의 고객 입장에서 대다수가 해당 기업이 제공하는 CX가 제품 구매여부를 판단하는 가장 중요한 요소라고 답했습니다.




<2>  컨텍 센터에 Gen AI 도입


1

챗봇이 고객의 질문에 답변을 할 때 내부 문서나 FAQ를 미리 검색하여 GenAI를 기반으로 정확한 답변을 할 수 있도록 합니다.

이는 RAG, 즉 , 검색 기반 증강 생성 기술을 적용한 것이다.

현재 영어만 지원.

베드락과 캔드라를 통해 한국어 기반 기능도 구축 가능하다.



2

자연어를 사용하여 챗봇 구축 가능함

Amazon Lex를 이용해 챗봇 구현 가능.

몇 문장의 설명 만으로도 간단한 챗봇을 구성할 수 있다.


"호텔 예약을 할 수 있는 봇을 만들어줘

그 봇은 룸타입도 선택할 수 있도록 해야 함

몇 박을 묵을 것인지 , 가격은 얼마인지 알려줄 수 있어야 해"라고 할 수 있다.


아마존 랙스는 예상되는 인텐트를 만들어준다.

현재는 영어만 지원한다.



3

Amazon Q in Connect는  Gen AI를 사용하여 상담원에게 권장 응답 및 조치 내용을 추천합니다.

실시간 대화 시 회사 콘텐츠 (지식문서, FAQ , 문서)의 정보를 상담원에서 실시간 응답을 제공할 수 있다.

상담원이 필요한 경우 더 자세한 내용을 확인할 수 있도록 소스 지식 문서가 표시된다.





<3>  Gen AI르  이용한 가상 상담원 구축


기업이 보유한 문서를 기반으로 정확한 답변을 하는 가상 상담원.


1

색인은?

S3에 문서를 올려, 캔드라를 통해 문서 색인을 하자.

관리형 인텔리전트 검색 서비스인 아마존 캔드라.

자연어 검색 가능함.

LLM모델과 결합하여 RAG를 구성가능하다.




2

고객 문의 처리는?


amazon Lex

음성 및 텍스트 인터페이스를 제공한다.


고객 --아마존 커넥트 -----랙스------람다----------캔드라---------S3 구성

                                             베드락 통신


람다는 캔드라에서 가져온 데이터를 아마존 배드락에 정리 요청한다.

배드락에 클로우드 2 모델이 정리해 람다로 전달한다.






<3> Amazon Bedrock 사용


Amazon Bedrock 실행


Europe (Frankfurt)

US West (Oregon)

Asia Pacific (Tokyo)

Asia Pacific (Singapore)

US East (N. Virginia)


https://brunch.co.kr/@topasvga/3727




<4> Kendra사용


인덱스 생성하기.




<5> 웹크롤러를  사용하여 데이터 소스 수집


아마존 블로그 데이터 수집해보자.

웹 크롤로 2.0 사용

한국어를 사용

하위 도메인 

run on deman로 설정

생성 후 sync now로 크롤링 시작



왼쪽에서 서치로

한국어로 확인

내용 검색

크롤링된 데이터로 잘 나옴을 확인하자.




<6> 람다를 이용해 아마존 캔드라와 베드락은 연동하자.


람다 

파이선 런타임 설정

kendra-bedrock-rag

소스는 워크숍 자료 사용

https://catalog.us-east-1.prod.workshops.aws/workshops/bffd236b-ce54-48f8-b3fa-c4acd4909053/ko-KR


람다 테스트로 질문을 하고 확인한다 - rds관련 최신 문의가 답변됨.

기본 FM에 문의하면 최신 데이터는 답변이 안 나옴.



<7> Amazon Lex와 Amazon Connect 구성 (선택)


Amazon Lex = 시나리오가 있는 대화형 봇 구성

Amazon Connect = 콜손 및 챗봇의 기능을 강화 가능하다.



다음 AI

https://brunch.co.kr/@topasvga/3742

감사합니다.

매거진의 이전글 AWS 48탄-6. Agent로 구현한 생성형 AI앱
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari