6탄-1. ESG, 메타버스, 기계학습의 시작 EC2
2022년 5월 현재
ESG, Amazon EC2 인스턴스 알아보자
그래픽 최적화, Amazon EC2 인스턴스 알아보자
기계학습, Amazon EC2 인스턴스 알아보자
<1> AWS Nitron System , AWS Graviton3 , AWS Inferentia , AWS Trainium
<2> ESG EC2 인스턴스 - G5g EC2 , C7g EC2 인스턴스
<3> 그래픽 집약적 애플리케이션을 위한 고성능 인스턴스 - G5 EC2 , VT1 인스턴스
<4> 머신러닝을 위한 인스턴스 - EC2 Trn1 인스턴스, Amazon EC2 Inf1 인스턴스
<1> AWS Nitron System , AWS Graviton3 , AWS Inferentia , AWS Trainium
1
하이퍼바이저, 네트워크, 스토리지, 보안
AWS Nitron System
AWS Nitron SSD
2
강력하고 효율적인, 현대 애플리케이션에 활용 가능
적은 전력 소모, 적은 비용
AWS Graviton2
AWS Graviton3
3
기계 학습(ML), 대규모 하드웨어 및 소프트웨어
AWS Inferentia
AWS Trainium
<2> ESG EC2 인스턴스 - G5g EC2 , C7g EC2 인스턴스
2022년 5월 현재
환경, 사회, 지배구조
1
AWS Graviton2 기반?
전력 소모가 적다. 비용도 절감
G5g EC2 인스턴스
모바일 게임용
GPU를 활용하여 랜더링 가속
2
AWS Graviton3 기반?
전력 효율성이 좋아짐.
낮은 전력으로 동작함
C7g EC2
25% 성능 향상
최대 64개 vCPU
AWS Graviton3는?
NGINX 60% 향상
GROOVY 58% 향상
NOD.JS 37% 향상
REDIS 24% 향상
<3> 그래픽 집약적 애플리케이션을 위한 고성능 인스턴스 - G5 EC2 , VT1 인스턴스
1
G5 EC2
그래픽 집약적 애플리케이션을 위한 고성능
G4dn 보다 3대 높은 그래픽 성능
G4dn 보다 3대 높은 기계 학습 추론
N itro 시스템 위에 설계
G5인스턴스를 이용해 콘텐츠를 제작
2
VT1
제작된 영상의 스트리밍에 사용될 수 있는 VT1 인스턴스
Xilinx Alveo U30 미디어 트랜스코딩 Accelerator 카드를 탐재
최대 96 vCPU , 192 GiB 메모리
예) TWITCH 가 VT1 인스턴스 사용 중
<4> 머신러닝을 위한 인스턴스 - EC2 Trn1 인스턴스, Amazon EC2 Inf1 인스턴스
1
AWS Trainim
강력한 성능의 ML학습 위한 칩
이미지 분류, 시맨택 검색
EC2 Trn1 인스턴스
인스턴 스당 16개 Trainim Accelerator
512GB 고대역 메모리
기존
P3 dns
p4d
변경 후
trn1
trn1 n
2
AWS Inferentia (인퍼런시아)
AWS 가 설계한 , 첫 번째 ML칩
ML추론을 위해 특화된 칩
Amazon EC2 Inf1 인스턴스
GPU인스텐스 보다 2.3배 높은 처리량
최대 70% 낮은 추론당 비용
https://brunch.co.kr/@topasvga/2439
감사합니다.
