Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Remplir les conditions préalables
La rubrique suivante décrit les conditions préalables que vous devez remplir avant de créer un point de terminaison asynchrone. Ces conditions préalables incluent le stockage correct des artefacts de votre modèle, la configuration AWS IAM avec les autorisations appropriées et la sélection d'une image de conteneur.
Pour remplir les prérequis
-
Créez un IAM rôle pour Amazon SageMaker AI.
Asynchronous Inference a besoin d'accéder à votre compartiment Amazon S3. URI Pour faciliter cela, créez un IAM rôle capable d'exécuter l' SageMaker IA et autorisé à accéder à Amazon S3 et AmazonSNS. Grâce à ce rôle, l' SageMaker IA peut s'exécuter sous votre compte et accéder à votre compartiment Amazon S3 et à SNS des rubriques Amazon.
Vous pouvez créer un IAM rôle à l'aide de la IAM console AWS SDK for Python (Boto3), ou AWS CLI. L'exemple suivant montre comment créer un IAM rôle et associer les politiques nécessaires à la IAM console.
Connectez-vous à la IAM console AWS Management Console et ouvrez-la à l'adresse https://console.aws.amazon.com/iam/
. -
Dans le panneau de navigation de la console IAM, choisissez Rôles, puis Créer un rôle.
-
Pour Select type of trusted entity (Sélectionner le type d'entité de confiance), choisissez Service AWS .
-
Choisissez le service que vous voulez autoriser à endosser ce rôle. Dans ce cas, choisissez SageMaker AI. Choisissez ensuite Suivant : Autorisations.
-
Cela crée automatiquement une IAM politique qui accorde l'accès aux services connexes tels qu'Amazon S3ECR, Amazon et CloudWatch Logs.
-
-
Choisissez Next: Tags (Suivant : Identifications).
-
(Facultatif) Ajoutez des métadonnées au rôle en associant les identifications sous forme de paires clé-valeur. Pour plus d'informations sur l'utilisation des balisesIAM, consultez la section IAMRessources de balisage.
-
Choisissez Suivant : Examiner.
-
Saisissez un Role name (Nom de rôle).
-
Si possible, saisissez un nom de rôle ou un suffixe de nom de rôle. Les noms de rôles doivent être uniques au sein de votre AWS compte. Ils ne sont pas sensibles à la casse. Par exemple, vous ne pouvez pas créer deux rôles nommés
PRODROLE
etprodrole
. Dans la mesure AWS où d'autres ressources peuvent faire référence au rôle, vous ne pouvez pas modifier le nom du rôle une fois celui-ci créé. -
(Facultatif) Dans le champ Role description (Description du rôle), saisissez la description du nouveau rôle.
-
Passez en revue les informations du rôle, puis choisissez Créer un rôle.
Notez le rôle de l' SageMaker IAARN. Pour rechercher le rôle à ARN l'aide de la console, procédez comme suit :
-
Accédez à la IAM console : https://console.aws.amazon.com/iam/
-
Sélectionnez Roles (Rôles).
-
Recherchez le rôle que vous venez de créer en saisissant son nom dans le champ Recherche.
-
Sélectionnez le rôle.
-
Le rôle ARN se trouve en haut de la page Résumé.
-
-
Ajoutez des SNS autorisations Amazon SageMaker AI, Amazon S3 et Amazon à votre IAM rôle.
Une fois le rôle créé, accordez à SageMaker AI, Amazon S3 et éventuellement Amazon SNS des autorisations pour votre IAM rôle.
Choisissez Rôles dans la IAM console. Recherchez le rôle que vous avez créé en saisissant son nom dans le champ Search (Recherche).
Choisissez votre rôle.
Ensuite, choisissez Attach Policies (Attacher des politiques).
-
Amazon SageMaker Asynchronous Inference a besoin d'une autorisation pour effectuer les actions suivantes :
"sagemaker:CreateModel"
,"sagemaker:CreateEndpointConfig"
,"sagemaker:CreateEndpoint"
et."sagemaker:InvokeEndpointAsync"
Ces actions sont incluses dans la politique
AmazonSageMakerFullAccess
. Ajoutez cette politique à votre IAM rôle. RecherchezAmazonSageMakerFullAccess
dans le champ Search (Recherche). SélectionnezAmazonSageMakerFullAccess
. Choisissez Attach policy (Attacher une politique).
Ensuite, choisissez Attach Policies (Attacher des politiques) pour ajouter des autorisations Amazon S3.
Sélectionnez Create Policy (Créer une politique).
Sélectionnez l'onglet
JSON
.Ajoutez la déclaration de politique suivante :
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:GetObject", "s3:PutObject", "s3:AbortMultipartUpload", "s3:ListBucket" ], "Effect": "Allow", "Resource": "arn:aws:s3:::
bucket_name/*
" } ] }Choisissez Suivant : Balises.
Saisissez un Policy name (Nom de politique).
Choisissez Create Policy (Créer une politique).
Répétez les mêmes étapes que celles que vous avez effectuées pour ajouter des autorisations Amazon S3 afin d'ajouter SNS des autorisations Amazon. Pour la déclaration de politique, attachez les éléments suivants :
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sns:Publish" ], "Effect": "Allow", "Resource": "arn:aws:sns:
<region>:<Account_ID>:<SNS_Topic>
" } ] }
-
Chargez vos données d'inférence (par exemple, modèle de machine learning, exemples de données) sur Amazon S3.
-
Sélectionnez une image d'inférence Docker prédéfinie ou créez votre propre image Docker d'inférence.
SageMaker L'IA fournit des conteneurs pour ses algorithmes intégrés et des images Docker prédéfinies pour certains des frameworks d'apprentissage automatique les plus courants, tels qu'ApacheMXNet, TensorFlow PyTorch, et Chainer. Pour une liste complète des images d' SageMaker IA disponibles, consultez Available Deep Learning Containers Images
. Si vous choisissez d'utiliser un conteneur fourni par l' SageMaker IA, vous pouvez augmenter le délai d'expiration du point de terminaison et la taille de la charge utile par rapport à la valeur par défaut en définissant les variables d'environnement dans le conteneur. Pour savoir comment définir les différentes variables d'environnement pour chaque framework, consultez l'étape de création de modèle de la création d'un point de terminaison asynchrone. Si aucun des conteneurs SageMaker AI existants ne répond à vos besoins et que vous n'avez pas de conteneur existant, vous devrez peut-être créer un nouveau conteneur Docker. Veuillez consulter Conteneurs avec code d'inférence personnalisé pour savoir comment créer votre image Docker.
-
Créer un SNS sujet Amazon (facultatif)
Créez une rubrique Amazon Simple Notification Service (AmazonSNS) qui envoie des notifications concernant les demandes dont le traitement est terminé. Amazon SNS est un service de notification pour les applications orientées vers la messagerie, plusieurs abonnés demandant et recevant des notifications « push » pour les messages urgents via un choix de protocoles de transport, notamment HTTP Amazon SQS et le courrier électronique. Vous pouvez spécifier SNS des sujets Amazon lorsque vous créez un
EndpointConfig
objet lorsque vous le spécifiezAsyncInferenceConfig
à l'aide duEndpointConfig
API.Suivez les étapes pour créer un SNS sujet Amazon et vous y abonner.
-
À l'aide de SNS la console Amazon, créez un sujet. Pour obtenir des instructions, consultez la section Création d'une SNS rubrique Amazon dans le guide du développeur Amazon Simple Notification Service.
Abonnez-vous à la rubrique. Pour obtenir des instructions, consultez la section Abonnement à une SNS rubrique Amazon dans le guide du développeur Amazon Simple Notification Service.
-
Lorsque vous recevez un e-mail vous invitant à confirmer votre abonnement à la rubrique, confirmez l'abonnement.
Notez le sujet Amazon Resource Name (ARN). Le SNS sujet Amazon que vous avez créé est une autre ressource de votre AWS compte, et il possède un caractère uniqueARN. Le format ARN est le suivant :
arn:aws:sns:
aws-region:account-id:topic-name
Pour plus d'informations sur AmazonSNS, consultez le manuel du SNS développeur Amazon.
-