기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.
훈련된 Amazon Lookout for Vision 모델 실행
모델로 이미지의 이상을 감지하려면 먼저 StartModel 작업을 통해 모델을 시작해야 합니다. Amazon Lookout for Vision에서는 모델을 시작하고 중지하는 데 사용할 수 있는 AWS CLI명령을 제공합니다. 이 섹션에는 사용할 수 있는 예제 코드가 포함되어 있습니다.
모델이 시작된 후 DetectAnomalies 작업을 사용하여 이미지의 이상을 감지할 수 있습니다. 자세한 내용은 이미지에서 이상 탐지 섹션을 참조하세요.
추론 단위
모델을 시작하면 Amazon Lookout for Vision은 추론 단위라고 하는 최소 하나의 컴퓨팅 리소스를 프로비저닝합니다. StartModel API의 MinInferenceUnits 입력 파라미터에 사용할 추론 단위 수를 지정합니다. 모델의 기본 할당은 추론 단위 1개입니다.
중요
모델 실행 구성 방법에 따라 모델이 실행되는 시간 및 모델이 실행되는 동안 사용하는 추론 단위 수에 대한 요금이 부과됩니다. 예를 들어 두 개의 추론 단위로 모델을 시작하고 8시간 동안 모델을 사용하면 추론 시간 16시간 (실행 시간 8시간* 추론 단위 2개)에 대한 요금이 부과됩니다. 자세한 내용은 Amazon Lookout for Vision 요금
단일 추론 단위가 지원하는 초당 트랜잭션 수 (TPS)는 다음의 영향을 받습니다.
Lookout for Vision에서 모델을 훈련하는 데 사용하는 알고리즘입니다. 모델을 학습시키면 여러 모델이 학습됩니다. Lookout for Vision은 데이터 세트의 크기와 정상 및 비정상 이미지의 구성을 기반으로 최상의 성능을 가진 모델을 선택합니다.
해상도가 높은 이미지는 분석에 더 많은 시간을 필요로 합니다.
크기가 작은 이미지 (MB 단위) 는 큰 이미지보다 빠르게 분석됩니다.
추론 단위를 사용한 처리량 관리
애플리케이션의 요구에 따라 모델의 처리량을 늘리거나 줄일 수 있습니다. 처리량을 늘리려면 추가 추론 단위를 사용하십시오. 추론 단위가 추가될 때마다 처리 속도가 추론 단위당 1씩 빨라집니다. 필요한 추론 단위 수를 계산하는 방법에 대한 자세한 내용은 Amazon Rekognition Custom Labels 및 Amazon Lookout for Vision 모델의 추론 단위 계산
수동으로 추론 유닛을 추가하거나 제거합니다.
모델을 중지한 다음 필요한 수의 추론 단위로 다시 시작합니다. 이 접근 방식의 단점은 모델을 다시 시작하는 동안 요청을 받을 수 없고 급증하는 수요를 처리하는 데 사용할 수 없다는 것입니다. 모델의 처리량이 안정적이고 사용 사례가 10~20분의 가동 중지 시간을 견딜 수 있는 경우 이 접근 방식을 사용하세요. 예를 들어 주간 일정을 사용하여 모델과의 통화를 일괄 처리하려는 경우를 들 수 있습니다.
추론 단위 자동 규모 조정
모델이 수요 급증을 수용해야 하는 경우 Amazon Lookout for Vision은 모델에서 사용하는 추론 단위의 수를 자동으로 조정할 수 있습니다. 수요가 증가하면 Amazon Lookout for Vision은 모델에 추가 추론 단위를 추가하고 수요가 감소하면 이를 제거합니다.
Lookout for Vision에서 모델의 추론 단위를 자동으로 조정하도록 하려면 모델을 시작하고 MaxInferenceUnits 매개변수를 사용하여 사용할 수 있는 최대 추론 단위 수를 설정합니다. 최대 추론 단위 수를 설정하면 모델에 사용할 수 있는 추론 단위 수를 제한하여 모델 실행 비용을 관리할 수 있습니다. 최대 단위 수를 지정하지 않으면 Lookout for Vision은 처음에 사용한 추론 단위 수만 사용하여 모델의 크기를 자동으로 조정하지 않습니다. 최대 추론 단위 수에 대한 자세한 내용은 Service Quotas를 참조하십시오.
MinInferenceUnits 파라미터를 사용하여 최소 추론 단위 수를 지정할 수도 있습니다. 이를 통해 모델의 최소 처리량을 지정할 수 있습니다. 여기서 단일 추론 단위는 1시간의 처리 시간을 나타냅니다.
참고
Lookout for Vision 콘솔에서는 최대 추론 단위 수를 설정할 수 없습니다. 대신 StartModel 작업에 MaxInferenceUnits 입력 파라미터를 지정하십시오.
Lookout for Vision은 모델의 현재 자동 조정 상태를 확인하는 데 사용할 수 있는 다음과 같은 Amazon CloudWatch Logs 지표를 제공합니다.
| 지표 | 설명 |
|---|---|
|
|
Lookout for Vision이 확대 또는 축소되는 추론 단위의 수입니다. |
|
|
모델이 사용하는 추론 단위의 수. |
DesiredInferenceUnits=InServiceInferenceUnits인 경우 Lookout for Vision은 현재 추론 단위 수를 조정하지 않습니다.
DesiredInferenceUnits>InServiceInferenceUnits인 경우 Lookout for Vision은 DesiredInferenceUnits의 값까지 확장되고 있습니다.
DesiredInferenceUnits<InServiceInferenceUnits 인 경우 Lookout for Vision은 DesiredInferenceUnits의 값으로 축소되고 있습니다.
Lookout for Vision에서 반환되는 지표 및 필터링 차원에 대한 자세한 내용은 Amazon CloudWatch를 사용한 Lookout for Vision 모니터링을 참조하십시오.
모델에 대해 요청한 최대 추론 단위 수를 확인하려면 DescribeModel을 호출하고 응답의 MaxInferenceUnits필드를 확인하십시오.
가용 영역
Amazon Lookout for Vision; 은 AWS 리전 내 여러 가용 영역에 추론 단위를 분산하여 가용성을 높입니다. 자세한 내용은 가용 영역
가용 영역이 중단되면 가용 영역의 모든 추론 유닛을 사용할 수 없게 되고 모델 용량이 감소합니다. DetectAnomalies에 대한 호출은 나머지 추론 단위에 재분배됩니다. 이러한 호출은 나머지 추론 단위의 지원되는 초당 트랜잭션 수 (TPS) 를 초과하지 않으면 성공합니다. 가용 영역을 AWS이 복구한 후에는 추론 유닛이 다시 시작되고 전체 용량이 복원됩니다.
단일 추론 단위에 장애가 발생하는 경우 Amazon Lookout for Vision은 동일한 가용 영역에서 새 추론 단위를 자동으로 시작합니다. 새 추론 단위가 시작되기 전까지는 모델 용량이 줄어듭니다.
