brunch

You can make anything
by writing

C.S.Lewis

by Master Seo Feb 03. 2023

26탄-11. SageMaker Shadow Test

SageMaker Shadow Test로 프로덕션 환경에서 모델 평가하기


<1> SageMaker 

<2> SageMaker Shadow Test 기능?

<3> SageMaker Shadow Test 실습

<4> 기대 효과



<1> SageMaker 


SageMaker? 

AWS에서 제공하는  AI/ML  플랫폼.

테이터 분석, 데이터 모델 구축, 학습, 배포 기능,  ML OPS  , 비즈니스 분석가를 위한  캔버스 기능 제공




<2> SageMaker Shadow Test  기능?


1

프로덕션 모델에 대한 라이브 추론 요청의 복사본을 새 모델로 라우팅 하여 보다 전체적인 테스트를 수행할 수 있는 방법


2

장점?

프로덕션에 영향이 없다.

사본을 사용한다.

모델 성능 평가가 가능하다.

애플리케이션의 안정성과 성능이 요구사항을 충족하는지 확인하여 위험을 줄일 수 있음.



<3> SageMaker Shadow Test 실습


1

SageMaker  >  Shadow Test    


2

Create Shadow Test 

이름 입력


3

IAM role 선택

엔드포인트 생성 > 새 엔드포인트 생성으로 한다.



<4> 기대 효과


도메인 구분 없이 사용가능

모델에 대한 신뢰도 높일 수 있음

잠재적인 구성오류 및 성능문제 사전 파악

추가 인프라 구축 없어 리소스를 더 효율적으로 사용

실시간 추론 요청 반영하여 신속한 모델 평가 가능



다음 과정

https://brunch.co.kr/@topasvga/2994


감사합니다.


매거진의 이전글 26탄-10. 빨라진 Lambda SnapStart
브런치는 최신 브라우저에 최적화 되어있습니다. IE chrome safari