編譯模型 (Amazon SageMaker SDK) - Amazon SageMaker

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

編譯模型 (Amazon SageMaker SDK)

您可以在 Amazon SageMaker SDK for Python compile_modelAPI中使用 來編譯訓練過的模型,並針對特定目標硬體進行最佳化。API 應在模型訓練期間使用的估算器物件上叫用 。

注意

使用 MXNet或 編譯模型500時,您必須將MMS_DEFAULT_RESPONSE_TIMEOUT環境變數設定為 PyTorch。不需要環境變數 TensorFlow。

以下是如何使用 trained_model_estimator 物件編譯模型的範例:

# Replace the value of expected_trained_model_input below and # specify the name & shape of the expected inputs for your trained model # in json dictionary form expected_trained_model_input = {'data':[1, 784]} # Replace the example target_instance_family below to your preferred target_instance_family compiled_model = trained_model_estimator.compile_model(target_instance_family='ml_c5', input_shape=expected_trained_model_input, output_path='insert s3 output path', env={'MMS_DEFAULT_RESPONSE_TIMEOUT': '500'})

程式碼會編譯模型、在 儲存最佳化模型output_path,並建立可部署到端點的 SageMaker 模型。使用 SDK for Python 的範例筆記本提供於 Neo 模型編譯範例筆記本一節。