故障診斷指南 - Amazon SageMaker AI

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

故障診斷指南

如果您在使用 SageMaker Clarify 線上可解釋性功能時遇到錯誤，請參閱本節的主題。

InvokeEndpoint API 失敗，並顯示錯誤 “ReadTimeoutError:Read timeout on endpoint (端點讀取逾時)…”

此錯誤表示無法在請求逾時設定的 60 秒時間限制內完成請求。

若要減少請求延遲，請嘗試以下操作：

  • 在推斷期間調整模型的效能。例如，SageMaker AI Neo 可以最佳化模型以進行推論。

  • 允許模型容器處理批次請求。

  • 使用較大的 MaxRecordCount 來減少從解釋器到模型容器的呼叫次數。這將減少網路延遲和開銷。

  • 使用已配置更多資源的執行個體類型。或者，將更多執行個體指派給端點，以協助平衡負載。

  • 減少單一 InvokeEndpoint 請求內的記錄數量。

  • 減少基準資料中的記錄數量。

  • 使用較小的 NumberOfSamples 值來減少合成資料集的大小。如需範例數量如何影響您的合成資料集的詳細資訊，請參閱 綜合資料集。