编辑扩展策略 - Amazon SageMaker

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

编辑扩展策略

创建扩展策略后,您可以编辑其任何设置,但名称除外。

编辑扩展策略(控制台)

要使用编辑目标跟踪扩展策略 AWS Management Console,请使用与以前相同的步骤使用控制台配置模型自动扩缩

编辑扩展策略(AWS CLI 或 Application Auto Scaling API)

您可以使用 AWS CLI 或 Application Auto Scaling API 来编辑扩展策略,就像创建新的扩展策略一样。有关更多信息,请参阅 应用扩缩策略

暂时关闭扩展策略

配置 auto Scaling 后,如果您需要在不受扩展策略干扰的情况下调查问题(动态扩展),则可以使用以下选项:

  • 通过调用 register-scalable-targetCLI 命令或 RegisterScalableTargetAPI 操作,为和指定布尔值,暂时暂停扩展活动,然后恢复扩展活动DynamicScalingOutSuspendedDynamicScalingInSuspended

    以下示例说明如何暂停在my-endpoint终端节点上运行的名my-variant为的变体的扩展策略。

    aws application-autoscaling register-scalable-target \ --service-namespace sagemaker \ --resource-id endpoint/my-endpoint/variant/my-variant \ --scalable-dimension sagemaker:variant:DesiredInstanceCount \ --suspended-state '{"DynamicScalingInSuspended":true,"DynamicScalingOutSuspended":true}'
  • 通过禁用策略的缩减部分,防止特定目标跟踪扩展策略在变体中进行扩展。此方法可防止扩展策略删除实例,同时仍允许其根据需要创建实例。

    使用 CLI 命令或 PutScalingPolicyAP put-scaling-policyI 操作编辑策略,为指定布尔值,从而暂时禁用并启用缩减活动。DisableScaleIn

    以下是扩展策略的目标跟踪配置示例,该策略将向外扩展,但不会向内扩展。

    { "TargetValue": 70.0, "PredefinedMetricSpecification": { "PredefinedMetricType": "SageMakerVariantInvocationsPerInstance" }, "DisableScaleIn": true }