AWS 리인벤트
기업들은 생성형 AI로 혁신을 도모하고 있다.
Amazon Q , Amazon BedRock , Sagemaker로 AWS는 제공하고 있다.
1
AI/DATA 플랫폼 아키텍처
데이터 수집 > Data Warehouse로 구축 > Sagemaker나 베드락으로 분석 > 시각화 툴로 시각화.
클라우드로 짧은 시간내에 구축함.
첫째, 타이어 품질 이슈 알럿 시스템 구축 - 타이어 생산 시 품질 문제가 생기면 알럿을 줌.
람다로 수집 , 세이즈메이커로 분석.
2
두번째, 자율 주행 테스트?
플릿와이즈와 IoT Core를 도입하여 데이터 수집.
타임스트림과 도큐먼트 DB를 통해 여러 자율주행 관련 다양한 시나리오 처리함.
3
세번째, 생성형 AI를 활용한 비즈니스 시나리오 구축
Amazon Bedrock 사용.
고객 VOC 분석
베드락을 사용하여 아래와 같은 작업을 함.
1
VoC에서 얻고자 하는 데이터 정의
타이어 회사명, 상품명
언급한 타이어 퍼포먼스 및 점수
재구매 확률
2
VoC에서 추출한 데이터 정리 방식 정의.
3
Hallucination 최소화를 위한 프롬프트 개선
수작업으로 리뷰를 분석 진행하는 것보다 개선됨.
지속적인 개선 - 정확도 높아지고, 소요시간 줄어듦
4
생성형 AI - 고객 VOC 분석 결과 ?
정확도 95% , 시간 1/100로 줄어듬.
직원들의 여러 질문에 답하기 위해 챗봇을 구축함.
RAG를 활용하여 어떤 문서를 근거로 했는지 표기함.
할루시네이션을 줄이고 신뢰를 높임.
베트락을 사용해 다양한 FM사용함.
GCRM = 글로벌 커스터머 릴레이션쉽 매니지먼트
약 14억 명의 글로벌 고객을 대상으로 한 삼성전자의 글로벌 마케팅 운영 관리 플랫폼.
고객의 멤버십 포인트, 등급을 제공한다.
방대한 양을 제공받음.
블랙 프라이데이 등에 트래픽 급증함 = SAP AP , 하나 디비 CPU 급증
개선?
첫째, 하나 데이터 읽기로 부하 분산
둘째, 트랙픽 제어 = APIGW, SQS 사용
성과
초당 TPS 300% 향상
1
4세대 AWS ARM CPU
3세대보다 30~45% 빠른 속도
데이터베이스, 인메모리 캐시, 실시간 빅데이테 분석등 메모리 집약적 서비스에 최적화된 EC2
2
미션 크리티컬 인메모리 데이터베이스 워크로드
SAP HANA, Oracle , SQL Server
서울리전 프리뷰로 제공
3
공급망에서 어떤 문제가 발생되고 있는지 문의할 수 있다.
https://brunch.co.kr/@topasvga/3639
감사합니다.