測試您的部署 - Amazon SageMaker AI
測試自訂模型部署測試 JumpStart 基礎模型部署

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

測試您的部署

您可以透過 Amazon SageMaker Canvas 應用程式叫用端點或提出單一預測請求來測試模型部署。在生產環境中以程式設計方式調用端點之前，您可以使用此功能來確認端點是否回應請求。

測試自訂模型部署

您可以透過 ML Ops 頁面存取自訂模型部署並進行單一調用，以傳回預測以及預測正確的機率。

注意

執行長度是在 Canvas 中調用和從端點獲取回應所花費的時間的估計值。如需詳細的延遲指標，請參閱 SageMaker AI 端點調用指標。

若要透過 Canvas 應用程式測試端點，請執行以下動作：

  1. 開啟 SageMaker Canvas 應用程式。

  2. 在左側導覽面板中，選擇 ML Ops。

  3. 選擇 Deployment (部署) 索引標籤。

  4. 從部署清單中選擇具有您要調用之端點的部署。

  5. 在部署詳細資料頁面上，選擇 Test deployment (測試部署) 索引標籤。

  6. 在部署測試頁面上，您可以修改 Value (值) 欄位以指定新資料點。對於時間序列預測模型，您可以指定要進行預測的項目 ID。

  7. 修改值後，選擇 Update (更新) 以取得預測結果。

預測會連同以及 Invocation result (調用結果) 欄位一同載入，這些欄位指出調用是否成功，以及要求處理請求所花費的時間。

下列螢幕擷取畫面顯示在 Test deployment (測試部署) 索引標籤的 Canvas 應用程式中執行的預測。

Canvas 應用程式會顯示已部署模型的測試預測。

對於數值預測和時間序列預測以外的所有模型類型，預測會傳回下列欄位：

  • predicted_label - 預測的輸出

  • 機率 - 預測標籤正確的概率

  • 標籤 - 所有可能的標籤清單

  • 概率 - 與每個標籤對應的概率 (此清單的順序與標籤的順序符合)

針對數字預測模型，預測僅包含分數欄位，即模型的預測輸出，例如房屋的預測定價。

對於時間序列預測模型，預測是顯示依四分位數預測的圖表。您可以選擇結構描述檢視，以查看每個四分位數的預測數值。

您可以透過部署測試頁面繼續進行單一預測，或者您可以檢視下方調用您的端點區段，了解如何以程式設計方式從應用程式調用端點。

測試 JumpStart 基礎模型部署

您可以透過 Canvas 應用程式與部署的 JumpStart 基礎模型聊天，以在透過程式碼叫用它之前測試其功能。

若要與部署的 JumpStart 基礎模型聊天，請執行下列動作：

  1. 開啟 SageMaker Canvas 應用程式。

  2. 在左側導覽面板中，選擇 ML Ops。

  3. 選擇 Deployment (部署) 索引標籤。

  4. 從部署清單中，尋找您要叫用的選項，然後選擇其更多選項圖示 ( More options icon for a model deployment. )。

  5. 從內容功能表中，選擇測試部署。

  6. 新的產生、擷取和摘要內容聊天會開啟 JumpStart 基礎模型，您可以開始輸入提示。請注意，來自此聊天的提示會以請求的形式傳送至 SageMaker AI 託管端點。