실습,EMR사용시 KMS사용은 필수로 하자
큰그림
EMR파일 시스템, S3 데이터를 KMS키를 이용해 클라이언트 측 암호화 하자.
암호화 해독도 하자.
EMR, S3 모두 KMS 암호화 사용하자.
s3버킷도 만들고
KMS키도 만들어 AWS암호화 키의 안전한 생성 및 관리
EMR도 만들자
EMR에 접속해 사용하자.
S3 >
1
KMS > 키 생성 > 대칭 > 다음
KMS키이름
service1-emr-kms
EMR key for use with encrypted clusters
다음
2
키관리 권한 정의
키 관리자 선택
admin 권한 페이지가 나온다.
admin으로 할 사용자를 체크한다.
다음
3
키 사용 권한 정의
CMK를 사용할수 있는 IAM 상용자 및 역할을 선택한다.
사용자 체크
다음
완료
1
EMR > 왼쪽 보안 구성 > 생성
emr-sec1
2
S3 암호화 세션
암호화 s3 체크하기
CSE-KMS 선택
AWS KMS 고객 마스터키 : service1-emr-key
생성하기
// 참고
EMRFS 의 IAM 역할 필요
S3에 대한 EMRFS 요청에 IAM역할사용
EMR= 관리형 하둡 클러스터
1
EMR > 클러스터 생성 > 고급 옵션으로 이동 > 소프트웨어 구성 (Hadoop , Hive ) 다음
2
네트워크 : 인프라에서 지정한 VPC
EC2 서브넷 : 서브넷 선택
인스텐스 타입 설정
다음
3
일반 옵션
클러스터 이름
seo1-emr
S3 버킷 선택
service1-emr-bucket
디버깅, 종료보호 선택하거나 선택 해지
다음
4
Ec2 Key pair : 변경
권한
사용자 지정 으로 변경
EMR 역할 : EMR_DefaultRole
EC2 인스턴스 프로파일 : EMR_EC2_DefaultRole
Auto Scaling 역할 : EMR_AutoScaling_DefaultRole
5
EC2 보안그룹
ElasticMapReduce-master
> 클러스터 생성
// 특정소스 IP블럭에서 TCP 8443 허용 필요
// 보안 가이드 필요
6
클러스터 목록 클릭 > 상태 시작 확인
7
마스터 공인 DNS 확인
ec2-xxx-xxx--xx.us-west-2.compute.amazonaws.com
보안 그룹 > inboun 룰 > add 룰
ssh
my ip 를 허용 해야 한다.
저장
EMR 마스터 ssh로 접속하기
1
putty로 접속하기
호스트 네임 :ec2-34-222-32-110.us-west-2.compute.amazonaws.com
login : hadoop 입력