多容器端点
通过使用 SageMaker 多容器端点,客户可在单个 SageMaker 端点上部署多个使用不同模型或框架的容器。可以将容器作为推理管线按顺序运行它们,也可以使用直接调用来单独访问每个容器,以提高端点利用率并优化成本。
有关按顺序调用多容器端点中容器的信息,请参阅Amazon SageMaker 中的推理管道。
有关调用多容器端点中的特定容器的信息,请参阅通过直接调用来调用多容器端点
仅在 TargetContainerHostname
字段的值与指定的正则表达式之一匹配时,以下策略才允许发出 invoke_endpoint
请求:
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Allow", "Resource": "arn:aws:sagemaker:
region
:account-id
:endpoint/endpoint_name
", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["customIps*", "common*"] } } } ] }
在 TargetContainerHostname
字段的值与 Deny
语句中指定的正则表达式之一匹配时,以下策略拒绝发出 invoke_endpoint
请求。
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Allow", "Resource": "arn:aws:sagemaker:
region
:account-id
:endpoint/endpoint_name
", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["*"] } } }, { "Action": [ "sagemaker:InvokeEndpoint" ], "Effect": "Deny", "Resource": "arn:aws:sagemaker:region
:account-id
:endpoint/endpoint_name
", "Condition": { "StringLike": { "sagemaker:TargetContainerHostname": ["special*"] } } } ] }
有关 SageMaker 条件键的信息,请参阅《AWS Identity and Access Management 用户指南》中的 SageMaker 条件键。