brunch

You can make anything
by writing

C.S.Lewis

by Master Seo May 28. 2021

 12탄-워크로드에 적합한 AWS 스토리지

<1> AWS 스토리지 종류?

<2> 스토리지  비용 ?

<3> EBS (Elastic Block Store) ?

<4> EFS  ?

<5> FSx for Lustre

<6> 오브젝트 스토리지 S3

<7> S3 관리



<1> AWS 스토리지 종류?


1

오브젝트 스토리지 - S3

블록 스토리지 - EBS

파일 스토리지 - EFS , FSx for Windows , FSx for Lustre


2

온프레미스 ?

파일,블록,테입 , Storage gateway


3

파일,오브젝트 온라인 전송?

빠른 전송 DataSync

파일 교환 Transfer Family 

원거리 업로드 다운로드 S3 Transfer Acceleration


4

격리 네트워크 ?

전용선)인 Direct Connect  


5

오프라인 전송?

대규모

Snowcone

Snowball

Snowmobile




<2> 스토리지  비용 ?


저장공간 비용

데이터 전송 비용

요청 비용

검색 비용



<3>  EBS (Elastic Block Store) ?


1

EC2에서 사용

모든 볼륨 암호화

애플리케이션 중단없이 볼륨유형 변경 가능

스넵셧 지원


2

General-purpose SSD  ?

GP2/ GP3 

NoSQL 데이터베이스

카산드라, 몽고, CouchDB


3

Provisoned IOPS SSD ?

Io1/ Io2 

관계형 데이터 베이스

I/O 집약적인 DB 

Mysql, SQL , PostgreSQL, SAP, Oracle 


4

Throughput-optimized HDD (st1)

빅데이터 , 분석

사이트가 큰  I/O

카프카, 스플렁크, 하둡, 데이터워어하우스


5

Cold HDD (sc1)?

파일 ,미디어

자주 액세스 하지 않는 워크로드

트랜스코딩, 엔코딩, 랜더링



6

 EBS 다중연결 제공 , 일부 리전 제공시작 ?

여러 서버에서 동일한 파일을 봐야 하는 경우. 

최대 16개 Nitro 기반 Ec2에서 가능.

클러스터 기능 숙지후 사용이 필요하다.


7

EBS 스넵샷을 계정간 공유 혹은 복제 가능


8

EBS스넵샷을 리전간 복제 가능 (수동 / 스케쥴링)




파일 스토리지 - EFS , Amazon FSx for Windows , FSx for Lustre



<4>  EFS  ?


EKS , Sagemaker등 통합 가능.

사용한 만큼 지불

페타 바이트까지 증가 가능.

3개 AZ에 데이터 저장

NAS 와 같이 여러  AZ에서 접근 가능

서울 리전 가능

스팟 인스턴스와 함께 사용가능.

자동 수명 주기 관리 가능.

EFS Standard ,  EFS  IA  (자주 사용하지 않는경우)  2개 지원함.

EFS IA로 자동 이동하여 비용 최적화 가능.



<5> FSx for Lustre


고성능 , 초당 최대 수백 GB , 1밀리 이내

S3에서 로드하여 S3로 돌려줌.

S3 사용함.

랜더링등 적합하다.



<6> 오브젝트 스토리지 S3


사용한 만큼만 비용 지불

접근제어가 가능함


1

S3 Standard

자주 접근 되는 데이터


2

S3 Intelligent-Tiering

시간에 따라 빈도가 다른 데이터


https://aws.amazon.com/ko/about-aws/whats-new/2018/11/s3-intelligent-tiering/


3

S3 Standard-IA 

자주 접근되지 않는 데이터


4

S3 On zone-IA


5

S3 Glacier

 추출시간은  분~ 시간


6

S3 Glacier Depp Archive

12시간 또는 48시간 이후 접근 가능




<7> S3 관리


1

S3 오브젝트 태깅

S3 프리픽스


2

CloudWatch

CloudTrail

이벤트 알림


3

리전간 복제

라이프사이클

 S3  이벤트 알림 + Lambda와 사용 가능




<8>  스토리지 새 기능


1

GP3  ?

General-Purpose SSD

성능이 높아진 SSD 볼륨타임

EBS 볼륨크기에 관계없이  3,000 IOPS  제공 ,  비용 20% 절감


2

Io2 Block Express  ?  (프리 뷰)

Provisoned  IOPS  SSD

EBS io2 보다 고성능 

256,000 IOPS


3

스토리지 렌즈(대시보드)  ?

가시화

지난 90일동안 전체 스토리지가 얼마나 증가했나 ?

내 스토리지 사용량 또는  비정상적인 추세나 급증이 있나?


4

멀티 대상 복제 기능?

하나의 원본에서  여러 버킷에 데이터 복제 가능


5

S3 소스 ------- 미디어 컨버터  ----------S3 목적지 ------------ Cloud Front사용


6

EFS 사용 사례 ?

APP 컨테이너화 ECS / EKS 에서 실행 ----- APP코드 ----- EFS사용 ------ 람다에 코드 배포




<9> 개인 정리


스토리지 렌즈(대시보드)   처음 알았다! 

사용해 봐야겠다~




<10> 실습 자료

https://brunch.co.kr/@topasvga/1218


https://brunch.co.kr/@topasvga/1217



https://brunch.co.kr/@topasvga/1202


감사합니다.




매거진의 이전글 12탄-미디어 서비스 사례 , AWS
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari