기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
섀도우 테스트 모니터링
섀도우 테스트의 세부 정보를 보고 진행 중이거나 완료된 후에 모니터링할 수 있습니다. SageMaker AI는 프로덕션 및 섀도우 변형의 모델 지연 시간 및 집계된 오류율과 같은 운영 지표를 비교하는 라이브 대시보드를 제공합니다.
콘솔에서 개별 테스트에 대한 세부 정보를 보려면 다음과 같이 합니다.
-
섀도우 테스트 페이지의 섀도우 테스트 섹션에서 모니터링하려는 테스트를 선택합니다.
-
작업 드롭다운 목록에서 보기를 선택합니다. 테스트 세부 정보가 포함된 개요 페이지와 지표 대시보드가 나타납니다.
개요 페이지에는 다음과 같은 세 개의 섹션이 있습니다.
- 요약
-
이 섹션에는 테스트의 진행 상황과 상태가 요약되어 있습니다. 또한 지표 하위 섹션의 지표 선택 드롭다운 목록에서 선택한 지표의 요약 통계도 보여줍니다. 아래 스크린샷에서 이 섹션을 볼 수 있습니다.
위 스크린샷의 설정 및 세부 정보 탭에는 선택한 설정과 테스트를 생성할 때 입력한 세부 정보가 표시됩니다.
- 분석
-
이 섹션에서는 다음 지표에 대해 별도의 그래프가 있는 지표 대시보드입니다.
InvocationsInvocationsPerInstanceModelLatencyInvocation4XXErrorsInvocation5XXErrorsInvocationModelErrorsCPUUtilizationMemoryUtilizationDiskUtilization
마지막 세 지표는 모델 컨테이너 런타임 리소스 사용량을 모니터링합니다. 나머지는 변형의 성능을 분석하는 데 사용할 수 있는 CloudWatch 지표입니다. 일반적으로 오류가 적을수록 모델이 더 안정적임을 나타냅니다. 지연 시간이 짧다는 것은 모델이 더 빠르거나 인프라가 더 빠르다는 것을 나타냅니다. CloudWatch 지표에 대한 자세한 내용은 SageMaker AI 엔드포인트 호출 지표 섹션을 참조하세요. 다음 스크린샷은 지표 대시보드를 보여줍니다.
- 환경
-
이 섹션에는 테스트에서 비교한 변형이 표시됩니다. 앞서 언급한 지표를 기반으로 섀도우 변형의 성능이 만족스러우면 섀도우 변형 배포를 선택하여 섀도우 변형을 프로덕션으로 승격시킬 수 있습니다. 섀도우 변형 배포에 대한 자세한 내용은 섀도우 변형 승격 섹션을 참조하세요. 트래픽 편집을 선택하여 트래픽 샘플링 비율을 변경하고 테스트를 계속할 수도 있습니다. 섀도우 변형 편집에 대한 자세한 내용은 섀도우 테스트 편집 섹션을 참조하세요. 아래 스크린샷에서 이 섹션을 볼 수 있습니다.
