マルチコンテナエンドポイント

SageMaker AI マルチコンテナエンドポイントを使用すると、異なるモデルやフレームワークを使用する複数のコンテナを単一の SageMaker AI エンドポイントにデプロイできます。コンテナは、推論パイプラインとして順番に実行することも、エンドポイントの使用率を向上させ、コストを最適化するために直接呼び出しを使って各コンテナに個別にアクセスすることもできます。

マルチコンテナエンドポイントのコンテナを順番に呼び出す方法については、「Amazon SageMaker AI の推論パイプライン」を参照してください。

マルチコンテナエンドポイントの特定のコンテナを呼び出す方法については、「直接呼び出しが設定されたマルチコンテナエンドポイントを呼び出す」を参照してください。

次のポリシーでは、指定された正規表現のいずれかに TargetContainerHostname フィールドの値が一致する場合にのみ invoke_endpoint リクエストを許可します。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["customIps*", "common*"]
                }
            }
        }
    ]
}

次のポリシーでは、Deny ステートメントで指定された正規表現のいずれかに TargetContainerHostname フィールドの値が一致する場合は invoke_endpoint リクエストを拒否します。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["*"]
                }
            }
        },
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Deny",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["special*"]
                }
            }
        }
    ]
}

SageMaker AI 条件キーの詳細については、「 AWS Identity and Access Management ユーザーガイド」の SageMaker 「AI の条件キー」を参照してください。