SageMaker Shadow Test로 프로덕션 환경에서 모델 평가하기
<1> SageMaker
<2> SageMaker Shadow Test 기능?
<3> SageMaker Shadow Test 실습
<4> 기대 효과
<1> SageMaker
SageMaker?
AWS에서 제공하는 AI/ML 플랫폼.
테이터 분석, 데이터 모델 구축, 학습, 배포 기능, ML OPS , 비즈니스 분석가를 위한 캔버스 기능 제공
<2> SageMaker Shadow Test 기능?
1
프로덕션 모델에 대한 라이브 추론 요청의 복사본을 새 모델로 라우팅 하여 보다 전체적인 테스트를 수행할 수 있는 방법
2
장점?
프로덕션에 영향이 없다.
사본을 사용한다.
모델 성능 평가가 가능하다.
애플리케이션의 안정성과 성능이 요구사항을 충족하는지 확인하여 위험을 줄일 수 있음.
<3> SageMaker Shadow Test 실습
1
SageMaker > Shadow Test
2
Create Shadow Test
이름 입력
3
IAM role 선택
엔드포인트 생성 > 새 엔드포인트 생성으로 한다.
<4> 기대 효과
도메인 구분 없이 사용가능
모델에 대한 신뢰도 높일 수 있음
잠재적인 구성오류 및 성능문제 사전 파악
추가 인프라 구축 없어 리소스를 더 효율적으로 사용
실시간 추론 요청 반영하여 신속한 모델 평가 가능
다음 과정
https://brunch.co.kr/@topasvga/2994
감사합니다.