多容器端点 - Amazon SageMaker

多容器端点

通过使用 SageMaker 多容器端点,客户可在单个 SageMaker 端点上部署多个使用不同模型或框架的容器。可以将容器作为推理管线按顺序运行它们,也可以使用直接调用来单独访问每个容器,以提高端点利用率并优化成本。

有关按顺序调用多容器端点中容器的信息,请参阅Amazon SageMaker 中的推理管道

有关调用多容器端点中的特定容器的信息,请参阅通过直接调用来调用多容器端点

仅在 TargetContainerHostname 字段的值与指定的正则表达式之一匹配时,以下策略才允许发出 invoke_endpoint 请求:

{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Allow", "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["customIps*", "common*"] } } } ] }

TargetContainerHostname 字段的值与 Deny 语句中指定的正则表达式之一匹配时,以下策略拒绝发出 invoke_endpoint 请求。

{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Allow", "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["*"] } } }, { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Deny", "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["special*"] } } } ] }

有关 SageMaker 条件键的信息,请参阅《AWS Identity and Access Management 用户指南》中的 SageMaker 条件键