26탄-11. SageMaker Shadow Test

SageMaker Shadow Test로 프로덕션 환경에서 모델 평가하기

<1> SageMaker

<2> SageMaker Shadow Test 기능?

<3> SageMaker Shadow Test 실습

<4> 기대 효과

<1> SageMaker

SageMaker?

AWS에서 제공하는 AI/ML 플랫폼.

테이터 분석, 데이터 모델 구축, 학습, 배포 기능, ML OPS , 비즈니스 분석가를 위한 캔버스 기능 제공

<2> SageMaker Shadow Test 기능?

1

프로덕션 모델에 대한 라이브 추론 요청의 복사본을 새 모델로 라우팅 하여 보다 전체적인 테스트를 수행할 수 있는 방법

2

장점?

프로덕션에 영향이 없다.

사본을 사용한다.

모델 성능 평가가 가능하다.

애플리케이션의 안정성과 성능이 요구사항을 충족하는지 확인하여 위험을 줄일 수 있음.

<3> SageMaker Shadow Test 실습

1

SageMaker > Shadow Test

2

Create Shadow Test

이름 입력

3

IAM role 선택

엔드포인트 생성 > 새 엔드포인트 생성으로 한다.

<4> 기대 효과

도메인 구분 없이 사용가능

모델에 대한 신뢰도 높일 수 있음

잠재적인 구성오류 및 성능문제 사전 파악

추가 인프라 구축 없어 리소스를 더 효율적으로 사용

실시간 추론 요청 반영하여 신속한 모델 평가 가능

다음 과정

https://brunch.co.kr/@topasvga/2994

12. Application Composer

감사합니다.