執行訓練過的 Amazon Lookout for Vision 模型 - Amazon Lookout for Vision
推論單元可用區域

支援終止通知：2025 年 10 月 31 日， AWS 將停止支援 Amazon Lookout for Vision。2025 年 10 月 31 日之後，您將無法再存取 Lookout for Vision 主控台或 Lookout for Vision 資源。如需詳細資訊，請造訪此部落格文章。

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

執行訓練過的 Amazon Lookout for Vision 模型

若要使用模型偵測映像中的異常，您必須先使用 StartModel 操作啟動模型。Amazon Lookout for Vision 主控台提供可用於啟動和停止模型的 AWS CLI 命令。本節包含您可以使用的範例程式碼。

模型啟動後，您可以使用 DetectAnomalies操作來偵測映像中的異常。如需詳細資訊，請參閱偵測映像中的異常。

主題

推論單元

當您啟動模型時，Amazon Lookout for Vision 會佈建至少一個運算資源，稱為推論單位。您可以將MinInferenceUnits輸入參數中要使用的推論單位數量指定至 StartModel API。模型的預設配置為 1 個推論單位。

重要

根據您配置模型執行的方式，您需要根據模型執行的時數以及模型執行時使用的推理單元的數量付費。例如，您使用兩個推論單元啟動模型，並使用該模型 8 小時，則需支付 16 個推論時數的費用（8 小時執行時間 * 2 個推論單元）。如需詳細資訊，請參閱 Amazon Lookout for Vision 定價。如果您未透過呼叫 StopModel 明確停止模型，即使您沒有使用模型主動分析映像，仍需支付費用。

單一推論單位支援的每秒交易數 (TPS) 受下列條件影響：

  • Lookout for Vision 用於訓練模型的演算法。當您訓練模型時，會訓練多個模型。Lookout for Vision 根據資料集的大小及其正常和異常影像的組成，選取具有最佳效能的模型。

  • 高解析度影像需要更多時間進行分析。

  • 較大型影像更快地分析較小的影像 （以 MBs為單位）。

使用推論單元管理輸送量

您可以根據應用程式的需求增加或減少模型的輸送量。若要增加輸送量，請使用額外的推論單元。每個額外的推論單元都會將您的處理速度提高一個推論單元。有關計算所需推論單元數量的資訊，請參閱 計算 Amazon Rekognition 自訂標籤和 Amazon Lookout for Vision 模型的推論單元。如果您想要變更模型的支援輸送量，您有兩種選擇：

手動新增或刪除推論單元

停止 模型，然後使用所需數量的推論單元 重新啟動。這種方法的缺點是模型在重新啟動時無法接收請求，並且無法用於處理需求峰值。如果您的模型具有穩定的輸送量，而且您的使用案例可以容忍 10 － 20 分鐘的停機時間，請使用此方法。例如，您想要使用每週排程批次呼叫模型。

自動擴展推論單元

如果您的模型必須因應需求激增，Amazon Lookout for Vision 可以自動擴展模型使用的推論單位數量。隨著需求增加，Amazon Lookout for Vision 會將額外的推論單位新增至模型，並在需求減少時將其移除。

若要讓 Lookout for Vision 自動擴展模型的推論單位，請啟動模型，並使用 MaxInferenceUnits 參數設定可以使用的推論單位數量上限。設定推論單元的最大數量可讓您透過限制可用的推論單元數量來管理執行模型的成本。如果您未指定最大單位數，Lookout for Vision 不會自動擴展模型，只會使用您開始使用的推論單位數。如需推論單元數目上限的更多詳細資訊，請參閱 Service Quotas。

您也可以使用 MinInferenceUnits 參數指定最小推論單元數量。這可讓您指定模型的最小輸送量，其中單一推論單元代表 1 小時的處理時間。

注意

您無法使用 Lookout for Vision 主控台設定推論單位的數量上限。相反，請指定 StartModel 操作的 MaxInferenceUnits 輸入參數。

Lookout for Vision 提供下列 Amazon CloudWatch Logs 指標，您可以用來判斷模型目前的自動擴展狀態。

指標 描述

DesiredInferenceUnits

Lookout for Vision 向上或向下擴展的推論單位數量。

InServiceInferenceUnits

模型正在使用的推論單元數目。

如果 DesiredInferenceUnits = InServiceInferenceUnits，Lookout for Vision 目前不會擴展推論單位的數量。

如果 DesiredInferenceUnits > InServiceInferenceUnits，Lookout for Vision 會擴展至 的值DesiredInferenceUnits。

如果 DesiredInferenceUnits < InServiceInferenceUnits，Lookout for Vision 會縮減至 的值DesiredInferenceUnits。

如需 Lookout for Vision 和篩選維度傳回指標的詳細資訊，請參閱使用 Amazon CloudWatch 監控 Lookout for Vision。

若要了解您為模型請求的推論單位數量上限，請呼叫 DescribeModel 並檢查回應中的 MaxInferenceUnits 欄位。

可用區域

Amazon Lookout for Vision； 將 AWS 推論單位分佈到 區域內的多個可用區域，以提供更高的可用性。如需更多詳細資訊，請參閱 可用區域。為了協助保護您的生產模型免於可用區域中斷和推論單元故障的影響，請至少使用兩個推論單元來啟動生產模型。

如果發生可用區域中斷的情況，則可用區域中的所有推論單元將無法使用，且模型容量也會降低。DetectAnomalies 的呼叫會重新分配到剩餘的推論單位。如果這類呼叫未超過其餘推論單元所支援的每秒交易數 (TPS)，則此類呼叫就會成功。 AWS 修復可用區域後，推論單位會重新啟動，並還原完整容量。

如果單一推論單元失敗，Amazon Lookout for Vision 會自動在相同的可用區域中啟動新的推論單元。模型容量會減少，直到新的推論單元啟動為止。