brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Aug 28. 2024

36. AWS, 신한의 AI뱅커-2024-08

AWS 서밋

6개월간 신한의 AICC 구축 경험 



<1> 은행 상담의  50%는 챗봇이 응대를 하고 있다.

<2> 금융 서비스 특징?

<3> 신한 AI CC 아키텍처 

<4> 금융 아키텍처 

<5> 상담 내역 사후 분석 자동화 구축

<6> 개인 요약




<1> 은행 상담의  50%는 챗봇이 응대를 하고 있다.



1

고객 편의성 때문에 AI 상담을 사용한다.



2

사람을 대체하는 것은 2차적인 부분.

심화 상담은 상담원을 통해 진행한다.



3

제작, 개선은 현장을 중심으로 만들어야 한다!!!





4

동작 순서?


전화망 - 보이스 게이트웨이

음성 기반을 text로 변환됨.

apigw로 연결됨.





<2> 금융 서비스 특징?



1

확장성 중요하다.


금융, 상담 서비스는 월급날 20~30%에 늘어난다.  카드 값.  문의가 많다.

은행도  종합신고 5월,  부가가치세신고 8월에  50% 늘어난다.

투자 이벤트는 대용량서버가 필요한데 순간적인 확장성이 필요하다!!

지속적인 패치가 필요하다.  






2

테라폼 기반으로 표준화 진행 중~




3

컨테이너 기반 - 서비스 안정성 독립성 확보

Devops적용- ci

msa설계




4

예시)


비주얼로 시각적인 안내~

음성으로 연기 가능, 멀티모달 화면을 통해 복잡한 입력도 바로 가능!!!

그래도 안되면 고객센터 직원이 응대.




경험? 

음성은 복잡하여 시간이 오래 걸린다.


개선?

짧은 응답은 음성으로 한다.

긴 건은  문자로 답변한다.




<3> 신한 AI CC 아키텍처 



1

계정 아키텍처 기반으로 네트워크와 워크로드 올림.


2

음성은 pstn망 - 온프라미스 ---- 디렉트 커넥트 사용


3

멀티모달은 ----- DMZ --------- TGW ---------- AICC VPC 연결.



4

쿠버네티스 활용.







<4> 금융 아키텍처 


1

금융 규제 대응 인프라 설계


보안

로드밸런서 -- 방화벽 ----- ELB 구성


보안 개선?

GWLB 사용.

GWLB다음 ------- 방화벽 ---- 정상적인 트래픽만 리턴 받는다.

트래픽 변조 없이 처리됨.





2

DMZ를 외부망으로 인식을 하고, 내부망과 트렌짓게이트웨이로 분리하는 구성

VPC가 늘 때마다 방화벽을 늘려야 하나?

트린짓 게이트웨이 활용.

인스펙션 VPC로 트래픽으로 보냄.

2차 방화벽을 1곳에 두어 보안 담당자의 부담이 줄어든다.





<5> 상담 내역 사후 분석 자동화 구축



1

Amazon Transcribe를 통해 Sppech to text로 변환

아마존 베드락을 통해 감정을 분석, 문제가 풀리고 있는지 확인등 가능.

생성형 AI를 통해  개인정보 유출등도 점검 가능함.



2

사후 분석 자동화 동작?

음성 데이터를 S3에 올림.

람다를 통해 스텝펑션 사용.

Amazon Transcribe를 통해 베드락으로 분석.

S3 -  퀵사이트와 연동해 대시보드로 확인

대시보드는 만족도, 문제 있는 것 확인!!!





<6> 개인 요약


고객 편의성 때문에 AI 상담을 사용한다.

금융 서비스 특징 중 하나는 확장성이 필요하다. 특정 일자, 기간에 많은 사용이 발생한다.

신한 AI 컨텍센터 아키텍처를 참고하자.

금융 아키텍처를 참고하자.

상담 내역 사후 통화 분석 자동화 시스템을 구축해서 나의 경험을 늘리자.




기업 레퍼런스들  - 돌아가기

https://brunch.co.kr/@topasvga/4005


감사합니다.

매거진의 이전글 35. AWS 벡터 데이터베이스
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari