Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Completa i prerequisiti
Il seguente argomento descrive i prerequisiti che è necessario completare prima di creare un endpoint asincrono. Questi prerequisiti includono la corretta memorizzazione degli artefatti del modello, la configurazione di un sistema AWS IAM con le autorizzazioni corrette e la selezione di un'immagine del contenitore.
Per completare i prerequisiti
-
Crea un IAM ruolo per Amazon SageMaker.
L'inferenza asincrona richiede l'accesso al tuo bucket Amazon S3. URI Per facilitare questa operazione, crea un IAM ruolo che possa essere eseguito SageMaker e che disponga dell'autorizzazione per accedere ad Amazon S3 e Amazon. SNS Utilizzando questo ruolo, SageMaker puoi eseguire con il tuo account e accedere al tuo bucket Amazon S3 e agli argomenti di Amazon. SNS
Puoi creare un IAM ruolo utilizzando la IAM console AWS SDK for Python (Boto3), o. AWS CLI Di seguito è riportato un esempio di come creare un IAM ruolo e allegare le politiche necessarie alla IAM console.
Accedi a AWS Management Console e apri la IAM console all'indirizzo https://console.aws.amazon.com/iam/
. -
Nel riquadro di navigazione della IAM console, scegli Ruoli, quindi scegli Crea ruolo.
-
Per Seleziona tipo di entità attendibile, seleziona Servizio AWS .
-
Scegliere il servizio a cui concedere l'autorizzazione ad assumere il ruolo. In questo caso, scegli SageMaker. Quindi scegliere Next: Permissions (Successivo: Autorizzazioni).
-
Questo crea automaticamente una IAM policy che garantisce l'accesso a servizi correlati come Amazon S3, ECR CloudWatch Amazon e Logs.
-
-
Scegli Successivo: Tag.
-
(Facoltativo) Aggiungere metadati al ruolo collegando i tag come coppie chiave-valore. Per ulteriori informazioni sull'utilizzo dei tag inIAM, consulta Tagging resources. IAM
-
Scegli Prossimo: Rivedi.
-
Digita un Nome ruolo.
-
Se possibile, digitare un nome del ruolo o un suffisso del nome del ruolo. I nomi dei ruoli devono essere univoci all'interno del tuo AWS account. Non fanno distinzione tra maiuscole e minuscole. Ad esempio, non è possibile creare ruoli denominati sia
PRODROLE
cheprodrole
. Poiché altre AWS risorse potrebbero fare riferimento al ruolo, non è possibile modificare il nome del ruolo dopo che è stato creato. -
(Facoltativo) In Role description (Descrizione ruolo), immettere una descrizione per il nuovo ruolo.
-
Rivedere il ruolo e scegliere Crea ruolo.
Nota il SageMaker ruoloARN. Per trovare il ruolo ARN utilizzando la console, procedi come segue:
-
Vai alla IAM console: https://console.aws.amazon.com/iam/
-
Seleziona Ruoli.
-
Cerca il ruolo appena creato digitando il nome del ruolo nel campo di ricerca.
-
Seleziona il ruolo.
-
Il ruolo ARN si trova nella parte superiore della pagina di riepilogo.
-
-
Aggiungi le SNS autorizzazioni Amazon SageMaker, Amazon S3 e Amazon al tuo ruolo. IAM
Una volta creato il ruolo, concedi ad Amazon S3 e SageMaker, facoltativamente, ad SNS Amazon le autorizzazioni per il tuo ruolo. IAM
Scegli Ruoli nella console. IAM Cerca il ruolo creato digitando il nome del ruolo nel campo Cerca.
Scegli il tuo ruolo.
Quindi, scegli Collega policy.
-
Amazon SageMaker Asynchronous Inference necessita dell'autorizzazione per eseguire le seguenti azioni:
"sagemaker:CreateModel"
,,"sagemaker:CreateEndpointConfig"
e."sagemaker:CreateEndpoint"
"sagemaker:InvokeEndpointAsync"
Queste azioni sono incluse nella policy.
AmazonSageMakerFullAccess
Aggiungi questa politica al tuo ruolo. IAM CercaAmazonSageMakerFullAccess
nel campo Cerca. SelezionaAmazonSageMakerFullAccess
. Scegli Collega policy.
Quindi, scegli Collega policy per aggiungere le autorizzazioni Amazon S3.
Seleziona Crea policy.
Seleziona la scheda
JSON
.Aggiungi la seguente dichiarazione di policy:
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:GetObject", "s3:PutObject", "s3:AbortMultipartUpload", "s3:ListBucket" ], "Effect": "Allow", "Resource": "arn:aws:s3:::
bucket_name/*
" } ] }Scegli Successivo: Tag.
Digitare un Nome policy.
Scegli Create Policy (Crea policy).
Ripeti gli stessi passaggi che hai completato per aggiungere le autorizzazioni Amazon S3 per aggiungere le autorizzazioni Amazon. SNS Per la dichiarazione sulla policy, collega quanto segue:
{ "Version": "2012-10-17", "Statement": [ { "Action": [ "sns:Publish" ], "Effect": "Allow", "Resource": "arn:aws:sns:
<region>:<Account_ID>:<SNS_Topic>
" } ] }
-
Carica i tuoi dati di inferenza (ad es. modello di machine learning, dati di esempio) su Amazon S3.
-
Seleziona un'immagine di inferenza Docker predefinita o crea la tua immagine Docker di inferenza.
SageMaker fornisce contenitori per i suoi algoritmi integrati e immagini Docker predefinite per alcuni dei framework di machine learning più comuni, come Apache, e Chainer. MXNet TensorFlow PyTorch Per un elenco completo delle SageMaker immagini disponibili, consulta Available Deep Learning Containers Images
. Se scegli di utilizzare un contenitore SageMaker fornito, puoi aumentare il timeout dell'endpoint e le dimensioni del payload rispetto ai valori predefiniti impostando le variabili di ambiente nel contenitore. Per informazioni su come impostare le diverse variabili di ambiente per ogni framework, consulta la fase Creazione di un modello per la creazione di un endpoint asincrono. Se nessuno dei SageMaker contenitori esistenti soddisfa le tue esigenze e non disponi di un contenitore personale, potresti dover creare un nuovo contenitore Docker. Per informazioni su come creare un'immagine Docker, consulta Contenitori con codice di inferenza personalizzato.
-
Crea un SNS argomento Amazon (opzionale)
Crea un argomento Amazon Simple Notification Service (AmazonSNS) che invii notifiche sulle richieste che hanno completato l'elaborazione. Amazon SNS è un servizio di notifica per applicazioni orientate alla messaggistica, con più abbonati che richiedono e ricevono notifiche «push» di messaggi urgenti tramite una scelta di protocolli di trasporto, HTTP tra cui Amazon ed e-mail. SQS Puoi specificare SNS argomenti Amazon quando crei un
EndpointConfig
oggetto quando lo specifichiAsyncInferenceConfig
utilizzandoEndpointConfig
API.Segui i passaggi per creare e iscriverti a un SNS argomento Amazon.
-
Utilizzando la SNS console Amazon, crea un argomento. Per istruzioni, consulta Creazione di un SNS argomento Amazon nella Guida per gli sviluppatori di Amazon Simple Notification Service.
Effettuare la sottoscrizione all'argomento. Per istruzioni, consulta Abbonamento a un SNS argomento Amazon nella Guida per gli sviluppatori di Amazon Simple Notification Service.
-
Quando ricevi un'e-mail in cui è richiesto di confermare la sottoscrizione all'argomento, conferma l'iscrizione.
Nota l'argomento Amazon Resource Name (ARN). L'SNSargomento Amazon che hai creato è un'altra risorsa AWS del tuo account e ha un argomento unicoARN. ARNÈ nel seguente formato:
arn:aws:sns:
aws-region:account-id:topic-name
Per ulteriori informazioni su AmazonSNS, consulta l'Amazon SNS Developer Guide.
-