Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
SageMaker Les points de terminaison multi-conteneurs basés sur l'IA permettent aux clients de déployer plusieurs conteneurs, qui utilisent différents modèles ou frameworks, sur un seul point de terminaison d' SageMaker IA. Les conteneurs peuvent être exécutés en séquence en tant que pipeline d'inférence, ou être appelés directement pour un accès individuel afin d'améliorer l'utilisation du point de terminaison et optimiser les coûts.
Pour obtenir des informations sur l'appel des conteneurs dans un point de terminaison multi-conteneurs en séquence, veuillez consulter Pipelines d'inférence dans Amazon AI SageMaker .
Pour obtenir des informations sur l'appel d'un conteneur spécifique dans un point de terminaison multi-conteneurs, veuillez consulter Appel d'un point de terminaison multi-conteneurs avec appel direct
Rubriques
Pour créer un point de terminaison multi-conteneurs (Boto 3)
Appel d'un point de terminaison multi-conteneurs avec appel direct
Métriques pour les points de terminaison multi-conteneurs avec appel direct
Scalabilité automatique de points de terminaison multi-conteneurs
Résolution des erreurs associées aux points de terminaison multi-conteneurs
La politique suivante autorise les demandes invoke_endpoint uniquement lorsque la valeur du champ TargetContainerHostname correspond à l'une des expressions régulières spécifiées.
{
"Version": "2012-10-17",
"Statement": [
{
"Action": [
"sagemaker:InvokeEndpoint"
],
"Effect": "Allow",
"Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
"Condition": {
"StringLike": {
"sagemaker:TargetContainerHostname": ["customIps*", "common*"]
}
}
}
]
}La politique suivante refuse les demandes invoke_endpoint lorsque la valeur du champ TargetContainerHostname correspond à l'une des expressions régulières spécifiées dans l'énoncé Deny.
{
"Version": "2012-10-17",
"Statement": [
{
"Action": [
"sagemaker:InvokeEndpoint"
],
"Effect": "Allow",
"Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
"Condition": {
"StringLike": {
"sagemaker:TargetContainerHostname": ["*"]
}
}
},
{
"Action": [
"sagemaker:InvokeEndpoint"
],
"Effect": "Deny",
"Resource": "arn:aws:sagemaker:region:account-id:endpoint/endpoint_name",
"Condition": {
"StringLike": {
"sagemaker:TargetContainerHostname": ["special*"]
}
}
}
]
}Pour plus d'informations sur les clés de condition SageMaker AI, voir Clés de condition pour SageMaker IA dans le guide de AWS Identity and Access Management l'utilisateur.
