運行訓練有素的亞馬遜 Lookout for Vision 模型 - Amazon Lookout for Vision
推論單位可用區域

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

運行訓練有素的亞馬遜 Lookout for Vision 模型

若要使用模型偵測影像中的異常，您必須先使用StartModel作業來啟動模型。Amazon 視 Lookout for Vision 察主控台提供可用來啟動和停止模型的AWS CLI命令。本節包含您可以使用的範例程式碼。

模型啟動後，您可以使用此DetectAnomalies作業偵測影像中的異常。如需詳細資訊，請參閱偵測影像中的異常。

主題

推論單位

當您啟動模型時，Amazon Lookout for Vision 會佈建至少一個運算資源，稱為推論單元。您可以在 StartModel API 的MinInferenceUnits輸入參數中指定要使用的推論單元數。模型的預設配置為 1 個推論單位。

重要

系統會根據您設定模型執行的方式，向您收取模型執行中模型執行的小時數，以及模型執行時使用的推論單元數量。例如，如果您使用兩個推論單位啟動模型，並使用該模型 8 小時，則需支付 16 個推論小時的費用（8 小時執行時間 * 兩個推論單位）。如需詳細資訊，請參閱亞馬遜 Lookout for Vision 定價。如果您沒有透過呼叫來明確停止模型 StopModel，即使您沒有使用模型主動分析影像，仍需支付費用。

單一推論單元支援的每秒交易數 (TPS) 會受到下列因素影響：

  • 「Lookout for Vision」用來訓練模型的演算法。訓練模型時，會訓練多個模型。Lookout for Vision 會根據資料集的大小及其正常和異常影像的組成，選取具有最佳效能的模型。

  • 解析度較高的影像需要更多時間進行分析。

  • 較小尺寸的影像 (以 MB 為單位) 的分析速度比較大的影像更快。

使用推論單元管理輸送量

您可以根據應用程式的需求增加或減少模型的輸送量。若要增加輸送量，請使用其他推論單元。每個額外的推論單元都會將您的處理速度提高一個推論單元。如需計算所需推論單位數量的詳細資訊，請參閱計算 Amazon Rekognition 自訂標籤的推論單位和 Amazon 瞭望視覺模型的推論單位。如果您想要變更模型支援的輸送量，您有兩種選擇：

手動加入或移除推論單位

停止模型，然後使用所需數量的推論單元重新啟動。這種方法的缺點是模型在重新啟動時無法接收請求，也無法用於處理需求峰值。如果您的模型具有穩定的輸送量，而且您的使用案例可以容忍 10—20 分鐘的停機時間，請使用此方法。例如，如果您想要使用每週排程來批次呼叫模型。

自動縮放推論單位

如果您的模型必須因應高峰的需求，Amazon Lookout for Vision 可以自動調整模型使用的推論單元數量。隨著需求的增加，Amazon Lookout for Vision 會在模型中新增額外的推論單元，並在需求減少時將其移除。

若要讓 Lookout for Vision 自動縮放模型的推論單位，請啟動模型並使用參數設定其可使用的最大推論單位數。MaxInferenceUnits設定推論單位的最大數目可讓您透過限制模型可用的推論單位數量來管理執行模型的成本。如果您未指定最大單位數，Lookout for Vision 將不會自動縮放模型，只會使用您開始使用的推論單位數量。如需推論單元數目上限的相關資訊，請參閱 Service Quotas。

您也可以使用參數來指定推論單位的最小MinInferenceUnits數目。這可讓您指定模型的最小輸送量，其中單一推論單位代表 1 小時的處理時間。

注意

您無法使用 Lookout for Vision 主控台設定推論單元的最大數量。請改為指定StartModel作業的MaxInferenceUnits輸入參數。

Lookout for Vision 提供下列 Amazon CloudWatch 日誌指標，您可以使用這些指標來判斷模型目前的自動擴展狀態。

指標 描述

DesiredInferenceUnits

Lookout for Vision 正在擴展或縮小的推論單元的數量。

InServiceInferenceUnits

模型正在使用的推論單位數。

如果 DesiredInferenceUnits =InServiceInferenceUnits，Lookout for Vision 目前不會縮放推論單元的數量。

如果 DesiredInferenceUnits >InServiceInferenceUnits，則「查看視覺」將擴展到的值DesiredInferenceUnits。

如果 DesiredInferenceUnits <InServiceInferenceUnits，[Lookout for Vision] 會縮小至的值DesiredInferenceUnits。

如需瞭解視覺檢視和篩選維度傳回的指標的詳細資訊，請參閱使用 Amazon 監控 Lookout for Vision CloudWatch。

若要找出您要求的模型推論單元數目上限，請呼叫DescribeModel並檢查回應中的MaxInferenceUnits欄位。

可用區域

Amazon Lookout for Vision；將推論單元分配到一AWS個區域內的多個可用區域，以提供更高的可用性。如需詳細資訊，請參閱可用區域。為了協助保護您的生產模型免於可用區域中斷和推論單元故障的影響，請至少使用兩個推論單元來啟動生產模型。

如果發生可用區域中斷，則可用區域中的所有推論單元將無法使用，且模型容量也會降低。呼叫DetectAnomalies會重新分配至其餘的推論單元。如果這類呼叫未超過其餘推論單位所支援的每秒交易數 (TPS)，就會成功。AWS修復可用區域之後，推論單元會重新啟動，並恢復完整容量。

如果單一推論單元發生故障，Amazon Lookout for Vision 會自動在相同的可用區域中啟動新的推論單元。模型容量會減少，直到新的推論單元啟動為止。