Points de terminaison multi-conteneurs

SageMaker les points de terminaison multi-conteneurs permettent aux clients de déployer plusieurs conteneurs, qui utilisent différents modèles ou frameworks, sur un seul SageMaker point de terminaison. Les conteneurs peuvent être exécutés en séquence en tant que pipeline d'inférence, ou être appelés directement pour un accès individuel afin d'améliorer l'utilisation du point de terminaison et optimiser les coûts.

Pour obtenir des informations sur l'appel des conteneurs dans un point de terminaison multi-conteneurs en séquence, veuillez consulter Pipelines d'inférence sur Amazon SageMaker.

Pour obtenir des informations sur l'appel d'un conteneur spécifique dans un point de terminaison multi-conteneurs, veuillez consulter Appel d'un point de terminaison multi-conteneurs avec appel direct

La politique suivante autorise les demandes invoke_endpoint uniquement lorsque la valeur du champ TargetContainerHostname correspond à l'une des expressions régulières spécifiées.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["customIps*", "common*"]
                }
            }
        }
    ]
}

La politique suivante refuse les demandes invoke_endpoint lorsque la valeur du champ TargetContainerHostname correspond à l'une des expressions régulières spécifiées dans l'énoncé Deny.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Allow",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["*"]
                }
            }
        },
        {
            "Action": [
                "sagemaker:InvokeEndpoint"
            ],
            "Effect": "Deny",
            "Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
            "Condition": {
                "StringLike": {
                    "sagemaker:TargetContainerHostname": ["special*"]
                }
            }
        }
    ]
}

Pour plus d'informations sur les clés de SageMaker condition, voir Clés de condition pour SageMaker dans le guide de AWS Identity and Access Management l'utilisateur.