AWS 45탄-1. 혁신서비스-24년 1월
AWS 빌더스
24년 1월 AWS 신규서비스와 신규 기능을 알아보자~
<0> 글로벌 인프라 제공
<1> 대용량 분석용 컴퓨팅 및 스토리지 옵션
<2> 생성형 AI 서비스 3계층 (AI)
<3> 업무 생산성 향상을 위한 생성형 AI 서비스 (AI)
<4> 데이터 관리
<5> 비용 최적화 아키텍처
<6> AI 요약
<0> 글로벌 인프라 제공
1
32개 리전
102개 가용영역 (AZ) - 서울리전에는 가용 영역이 4개 있다.
가용역역에서 제공하지 않는 곳은 로컬존도 36개 - 로스앤젤레스 등
2
200여 개 이상 AWS 서비스 제공
<1> 대용량 분석용 컴퓨팅 및 스토리지 옵션
1
S3경우 다양한 스토리 옵션 제공
6개 스토리지 옵션 제공
Amazon S3 Express One Zone (신규 기능)
최고 성능과 최저 대기 시간
S3 스탠더드에 비해 10배 빠름.
S3 스탠더드에 비해 최대 50% 비용 절감.
2024년 3월 현재 가능 리전 ?
리전 – Amazon S3 Express One Zone은 미국 동부(버지니아 북부), 미국 서부(오레곤), 아시아 태평양(도쿄) 및 유럽(스톡홀름) 리전에서 사용할 수 있으며 향후 다른 리전으로도 확장할 계획입니다
https://aws.amazon.com/ko/blogs/korea/new-amazon-s3-express-one-zone-high-performance-storage-class/
도쿄에서 해야겠다.
도쿄리전 사용 가능
서울리전 아직 불가 - 2024년 3월 현재
2
AWS 그라비톤 4 제공
AWS가 만든 4세대 에너지
ARM 칩셋
그라비톤 4는 새로운 메모리 최적화 인스턴스인 R8g 인스턴스에서 사용할 수 있다.
고성능 데이터베이스, 인메모리 캐시, 빅데이터 분석 등 메모리 부하가 높은 워크로드를 개선한다.
또한, 모든 고속 물리 하드웨어 인터페이스를 완전히 암호화해 보안을 강화했다고 강조했다.
R8g 인스턴스는 기존 R7g 인스턴스 대비 vCPU가 최대 3배, 메모리가 3배 더 높은 성능을 갖추고 있다.
따라서 워크로드 실행 시 결과 도출까지 걸리는 시간이 단축돼 최종 비용 절감으로 이어질 것으로 기대된다.
3
R8g 인스턴스 for EC2 제공
데이터 베이스경우 40% 성능 증가
현재 평가판 제공 (2024년 3월 현재) - 실제 서버 목록에는 안 나옴.
4
대규모 AWS Trainium2
AI , ML 훈련용 제공
Trainium 1보다 4배 더 빠른 속도.
트레이니움 2는 머신러닝 칩 '트레이닝움'의 최신 버전으로 기존 대비 최대 4배 빠른 트레이닝이 가능하다. Amazon EC2 Trn2 인스턴스에서 사용할 수 있으며, 단일 인스턴스에 16개의 트레이니움 2 칩이 탑재되어 있다.
Trn1 사용가능.
Trn2는 아직 리스트에서 안 보임.
Trn1 정보
https://aws.amazon.com/ko/ec2/instance-types/trn1/
5
엔비디아와 협업 중 - 아직 미출시
EC2 P5e 인스턴스
= 엔비디아 H200 Tensor Core GPU 기반 제공
EC2 G6 / G6e 인스턴스
= 엔비디아 L4 GPU 및 L4OS GPU 기반 제공함.
<2> 생성형 AI 서비스 3계층 (AI)
3개 서비스 계층으로 나누어진다.
인프라 계층 = Amazon Q
도구 계층 = Amazon Bedrock
애플리케이션 계층 = GPU , SageMaker
1
Amazon Bedrock = 도구 계층
2
파운데이션 모델 구축을 위한 도구
다양한 모델 선택 옵션이 있다.
버지니아 등 일부 리전 지원중 , 서울리전 미지원 - 2024년 3월 현재
버지니아 , 오래곤, 일본 등 지원하나 지원 파운데이션 모델이 다름.
버지니아, 오래곤 추천.
3
사용사례
4
현재 지원하는 파운데이션 모델
5
콘솔 로그인
https://ap-northeast-1.console.aws.amazon.com/bedrock/home?region=ap-northeast-1#/
6
Amazon Bedrock FAQ
https://aws.amazon.com/ko/bedrock/faqs/?refid=c0acda64-df2a-4080-9d0d-938d8963b57d
7
비용
https://aws.amazon.com/ko/bedrock/pricing/
8
아마존 베드락 사용해보기
https://brunch.co.kr/@topasvga/3727
실습준비
https://github.com/aws-samples/amazon-bedrock-aistylist-lab
9
Amazone Titan Image Generator (타이탄 이미지 생성기)
사실적인 스튜디오 품질의 이미지 생성.
자연어 프롬프트 사용하여 스튜디오 품질의 이미지 생성.
기존 배경을 열대우림으로 바꿀 수 있다.
아웃 페인팅 기능 제공한다.
피사체 방향도 바꿀 수 있다.
10
Amazon Titan 멀티모달 파운데이션 모델(FM)인 Amazon Titan Image Generator(프리뷰)
11
Amazon Bedrock 기반 검색 증강 생성 (RAG) 제공한다.
에이전트 기반의 배드락이 사내 데이터 검색 -> 지식기반으로 제공한다.
증강된 프롬프트를 만들어 답변을 준다.
더 보강된 정보로 답은 준다.
12
벡터 데이터 처리 기능이 중요하다.
벡터 기반 데이터 베이스 검색 기능 제공
오픈 서치 제공, 레디스 제공, Pinecone 지원중
오로라와 몽고디비도 지원 예정
13
벡터 기반을 AWS 데이터 베이스에서 제공한다.
다큐멘트 디비 제공, 다이나모 디비, 레디스 제공, 넷튠에 제공한다.
14
Amazon Bedrock 고급 기능 ?
Fine tunning = 특정 작업의 정확성을 극대화.
지원?
Amazon , cohere , Met , AMTHROP\C
15
베드락의 앱 놀이터 = 파티락 , Party Rock
아이디어가 있으면 바로 서비스를 만들 수 있다.
예) KPOP 백과사전
<3> 업무 생산성 향상을 위한 생성형 AI 서비스 (AI)
1
Amazon Q = 애플리케이션 계층
채팅모드로 서비스 제공한다.
개발자용과 비즈니스용으로 나누어져 있다.
2
개발자를 위한 Amazon Q?
사용법?
AWS 오른쪽 관리콘솔 > 채팅창 > 채팅창에서 질문한다.
현재 영어만 제공 중
예)
VPC 생성 법? 질문
EC2에서 게임에 적합한 인스턴스 타입은?
질문하면 답을 준다.
아마존 Q에서 람다함수 문제에 대한 해결 요청도 할수 있다.
3
개발자를 위한 IDE에서도 쓸수 있다.
코드 개발도구인 코드 휘스프로의 기능을 사용할수도 있다.
특정 함수에 대한 테스트 케이스를 만들어 달라고 요청 가능하다.
자바 8기반을 자바 11기반으로 업그레이드 지원도 한다.
4
비즈니스를 위한 Amazon Q?
애플리케이션 만들자.
데이터 소스를 추가해 사용가능하다.
기업 내부 시스템을 활용한 업무 작업 및 문제 해결.
아마존 퀵사이트 등 연계해서 반복 업무를 제거해 준다.
사용법?
아마존 큐에서 사내와 연결한다.
학습한다.
5
Amazon Q in Connect?
생성형 AI기반 권장 응답, 작업
커넥트 센터 제공
미리보기
6
Amazon Q in Supplychain
공급량 제공 서비스
재고 품절 도는 과잉 위험과 문제 해결을 위한 권장 조치 정보 제공,
예정
<4> 데이터 관리
1
다양한 디비가 있다.
관계형 = RDS , 오로라
비 관계형 = 키벨류, 문서 디비 등 다양한 디비 지원
2
다양한 목적기반의 분석 서비스 제공 한다
아테나, EMR , MSK , 레드 쉬프트, GLue , 퀵사이트, 오픈 서치 서비스
모두 서버리스 서비스를 제공한다
3
Amazon Aurora Limitless Database 제공!!
2024년 1월 현재 프리뷰, 신청서 작성하여 허가된 후 사용가능
단일 인스턴스의 쓰기 한계를 뛰어넘는 수평 확장 관리기능 제공
신규 개념으로 샤드 그룹을 만들어 제공한다.
기존 샤드 기능 사용하여 확장했는데 관리의 어려움 발생 - 해결 = 관리형 서비스, 단일화된 인터페이스, 확장성 제공의 필요
Database 생성 후 > Action 메뉴 > Add a DB shard group 하여 샤드 그룹 추가 후 사용
적합한 테이블 구성, 리플리케이션 패턴등에 대한 검토가 필요하다.
5
Zoro-ETL 비전을 가지고 주요 디비 분석 통합을 제공한다.
데이터를 지속적으로 쉽게 분석?
AMAZON RDS MySQL -> REDSHIFT : PREVIEW 제공
AMAZON AURORA Postgre, MYSQL : PREVIEW 등
<5> 비용 최적화 아키텍처
가이드
비용을 줄이는 절충한 아키텍처를 구성해야 한다.
모든 것을 측정할 수 있어야 한다.
최적화 과정이 필요하다. 바꿔가며 진행하자. 클라우드 아키텍처는 정답은 없다.
1
AWS Billing and Cost Management
통합 콘솔 홈페이지 제공
아마존 퀵사이트와 연동도 제공한다.
내보내기 기능도 있다.
계정 > 결제 및 비용 관리 메뉴
2
AWS Cost Optimization Hub 제공. = 비용 최적화 허브
과금 정보 및 비용 관리 > 비용 최적화 허브
EC2 인스턴스 최적 권장.
비용 최적회 기회 통합 및 우선순위 지정 가능.
여러 권장 사항과 예상 절감액을 알 수 있다.
3
Amazon Cloudwatch Application Signals 제공
애플리케이션 성능에 대한 모범 사례 제공
Clowatch 메뉴에서 제공한다.
활성화 필요
EKS 지원 한다.
4
Amazon Management Console myApplications 제공
태그를 하나로 묶는다면, 애플리케이션 별로 비용 상태, 보안등도 알 수 있다.
시작하기
콘솔홈
https://console.aws.amazon.com/console/home
왼쪽
시작 메뉴얼
https://docs.aws.amazon.com/ko_kr/awsconsolehelpdocs/latest/gsg/myApp-getting-started.html
<6> AI 요약
생성형 AI 서비스 3계층 (AI)
인프라 계층 = Amazon Q
도구 계층 = Amazon Bedrock
애플리케이션 계층 = GPU , SageMaker
다음 AI
https://brunch.co.kr/@topasvga/3605
감사합니다.
