AI 11탄-62. 엔트로픽, 생성형 AI
AWS 서밋
<1> 기업 생성형 AI 목적?
<2> AWS 도구?
<3> 베드락은 4가지 단순화 제공한다.
<4> 개인 요약
<1> 기업 생성형 AI 목적?
직원 생산성 향상
고객 경험 향상
<2> AWS 도구?
3가지 계층
1
애플리 케이션 제공 4가지?
기업형 챗봇을 만들다. = Amazon Q Business
개발자가 코드를 생성한다. = Amazon Q Developer
매출 분석, 자연어로 차트를 만든다. 인사이트 보고서를 만든다.= Amazon Q in QuickSight
기업의 콜센터 상담원에게 적용 = Amazon Q in Connect
2
구축 도구?
Amazon Bedrock = 베드락은 하나의 플랫폼.
여러 가지 모델을 사용할 수 있게 한다.
모델의 차이점 평가 등 Evaluation
회의실 예약 등 자동화 Agents
기업이 정보를 빠르게 적용하는 Knowledge base 가 있다.
입력과 출력과 제어, 가드레일 같은 Safeguard 등이 있다.
시장에 빠르게 애플리케이션을 만들어주는 플랫폼이다.
3
기업의 데이터로 모델을 만들고, 서빙을 한다.
GPUs
파운데이션 모델을 학습하는 등 Sage Maker 사용
훈련 Traun
추론칩 inferentia
개발자 툴킷 Neuron
로레벨 단에서 제공한다.
<3> 베드락은 4가지 단순화 제공한다.
1
모델 선택 - 여러 가지 모델이 있다. API 하나로 여러 모델을 사용할 수 있다.
모델 맞춤화 - 여러분의 도메인 데이터를 파인튜닝하기 쉽게 되어 있다.
애플리케이션 통합 - AWS 여러 서비스와 통합 가능. S3 , 오로라, 레드쉬프트, 랭체인 같은 코드를 실행시킬 수 있는 람다, 파이프라인을 연결하는 스탭펑션등과 통합해 사용이 가능하다.
보안 - 전송/답변 암호화, 누가 접속해야 할지 등 IAM 서비스 제공함.
2
아마존 베드락
7개의 모델 제공회사를 지원한다.
29개의 모델을 지원한다.
<4> 개인 요약
생성형 AI의 목적은? 직원 생산성 향상, 고객 경험 향상
AWS 도구는 3가지 계층을 제공한다.
애플리케이션 = 기업형 챗봇을 만드는 아마존 비즈니시, 개발자 코드 생성, 매출 분석, 콜센터 적용
구축 도구 = 아마존 베드락
기업의 데이터로 모델을 만들고 서빙하는 인프라.
아마존 베드락은 4가지 단순화를 제공한다 = 모델, 모델 맞춤화, aws 애플리케이션과 통합, 보안
아마존 베드락은 7개 모델 제공회사를 지원하고, 29개 모델을 지원한다.
다음
