brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Jan 31. 2024

AWS 47탄-4. 하이테크, 제조 - 24년-1월

AWS 리인벤트

기업들은 생성형 AI로 혁신을 도모하고 있다.

Amazon Q , Amazon BedRock , Sagemaker로 AWS는 제공하고 있다.



<1> 생성형 AI  = 한국 타이어의 통합 분석 플랫폼구축 (AI)

<2> 한국타이어 - 생성형 AI - 고객 VOC 분석 순서 (AI)

<3> 한국타이어 - 생성형 AI - 챗봇 (AI)

<4> 삼성전자 -  성능 문제 개선

<5> 신규 EC2  




<1> 생성형 AI  = 한국 타이어의 통합 분석 플랫폼구축 (AI)



1

AI/DATA 플랫폼  아키텍처


데이터 수집 > Data Warehouse로 구축 > Sagemaker나 베드락으로 분석 > 시각화 툴로 시각화.

클라우드로 짧은 시간내에 구축함.



첫째, 타이어 품질 이슈 알럿 시스템 구축 - 타이어 생산 시 품질 문제가 생기면 알럿을 줌.

람다로 수집 , 세이즈메이커로 분석. 



2

두번째, 자율 주행  테스트?

플릿와이즈와 IoT Core를 도입하여 데이터 수집.

타임스트림과 도큐먼트 DB를 통해 여러 자율주행 관련 다양한 시나리오 처리함.



3

세번째, 생성형 AI를 활용한 비즈니스 시나리오 구축

Amazon Bedrock 사용.

고객 VOC 분석




<2> 한국타이어 - 생성형 AI - 고객 VOC 분석 순서 (AI)


베드락을 사용하여 아래와 같은 작업을 함.



1

VoC에서 얻고자 하는 데이터 정의

타이어 회사명, 상품명

언급한 타이어 퍼포먼스 및 점수

재구매 확률



2

VoC에서 추출한 데이터 정리 방식 정의.



3

Hallucination 최소화를 위한 프롬프트 개선

수작업으로 리뷰를 분석 진행하는 것보다 개선됨.

지속적인 개선 - 정확도 높아지고, 소요시간 줄어듦



4

생성형 AI - 고객 VOC 분석 결과 ?

정확도 95% , 시간 1/100로 줄어듬.




<3> 한국타이어 - 생성형 AI - 챗봇 (AI)


직원들의 여러 질문에 답하기 위해 챗봇을 구축함.

RAG를 활용하여 어떤 문서를 근거로 했는지 표기함. 

할루시네이션을 줄이고 신뢰를 높임.

베트락을 사용해 다양한 FM사용함.




<4> 삼성전자 -  성능 문제 개선


GCRM = 글로벌 커스터머 릴레이션쉽 매니지먼트 

약 14억 명의 글로벌 고객을 대상으로 한 삼성전자의 글로벌 마케팅 운영 관리 플랫폼.

고객의 멤버십 포인트, 등급을 제공한다.

방대한 양을 제공받음.

블랙 프라이데이 등에 트래픽 급증함 = SAP AP , 하나 디비 CPU 급증



개선?

첫째, 하나 데이터 읽기로 부하 분산

둘째, 트랙픽 제어 = APIGW, SQS 사용



성과

초당 TPS 300% 향상




<5> 신규 EC2  


1

EC2 Memory Optimized R8g Instance


4세대  AWS ARM CPU

3세대보다 30~45% 빠른 속도

데이터베이스, 인메모리 캐시, 실시간 빅데이테 분석등 메모리 집약적 서비스에 최적화된 EC2



2

EC2 High Memory U7i  Instance

미션 크리티컬 인메모리 데이터베이스 워크로드

SAP HANA, Oracle  , SQL Server

서울리전 프리뷰로 제공



3

Amazon Q  in AWS Supply chain (출시 예정)


공급망에서 어떤 문제가 발생되고 있는지 문의할 수 있다.



다음 AI

https://brunch.co.kr/@topasvga/3639


감사합니다.

매거진의 이전글 AWS 47탄-3. 통신, 미디어-2024-01
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari