Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Collegamento di EI a un'istanza del notebook
Per testare e valutare le prestazioni di inferenza utilizzando EI, puoi collegare EI a un'istanza del notebook quando crei o aggiorni un'istanza del notebook. Puoi quindi utilizzare EI in modalità locale per ospitare un modello in un endpoint ospitato nell'istanza del notebook. È consigliabile testare varie dimensioni di istanze del notebook e acceleratori EI per valutare la configurazione più adatta per il tuo caso d'uso.
Configurazione per l'utilizzo di EI
Per utilizzare EI in locale in un'istanza del notebook, crea un'istanza del notebook con un'istanza EI.
Per creare un'istanza del notebook con un'istanza EI
-
Apri la SageMaker console Amazon all'indirizzo https://console.aws.amazon.com/sagemaker/
. -
Nel riquadro di navigazione, scegli Istanze del notebook.
-
Scegli Crea un'istanza del notebook.
-
In Nome istanza del notebook, inserisci un nome univoco per l'istanza del notebook.
-
In Tipo di istanza del notebook, scegli un'istanza CPU, ad esempio ml.t2.medium.
-
In Elastic Inference (EI), scegli un'istanza dall'elenco, ad esempio ml.eia2.medium.
-
Per il ruolo IAM, scegli un ruolo IAM con le autorizzazioni necessarie per l'uso SageMaker e l'EI.
-
(Facoltativo) In VPC (Facoltativo), se desideri che l'istanza del notebook utilizzi un VPC, scegline uno dall'elenco. In caso contrario, lascia Nessun VPC. Se utilizzi un VPC, segui le istruzioni in Utilizzo di un VPC personalizzato per connettersi a EI.
-
(Facoltativo) In Configurazione del ciclo di vita (facoltativo), lascia inalterata l'opzione Nessuna configurazione o scegli una configurazione del ciclo di vita. Per ulteriori informazioni, consulta Personalizza un'istanza di SageMaker notebook utilizzando uno LCC script.
-
(Facoltativo) Per la chiave di crittografia: facoltativa, facoltativa) Se desideri SageMaker utilizzare una chiave AWS Key Management Service (AWS KMS) per crittografare i dati nel volume di archiviazione ML collegato all'istanza del notebook, specifica la chiave.
-
(Facoltativo) In Dimensioni del volume in GB (facoltativo), lascia il valore predefinito 5.
-
(Facoltativo) In Tag, aggiungi i tag all'istanza del notebook. Un tag è un'etichetta assegnata per facilitare la gestione delle istanze del notebook. Un tag consiste di una chiave e di un valore che definisci.
-
Scegli Crea un'istanza del notebook.
Dopo aver creato l'istanza del notebook con EI collegato, puoi creare un notebook Jupyter e configurare un endpoint EI ospitato localmente sull'istanza del notebook.
Usa EI in modalità locale in SageMaker
Per utilizzare EI localmente in un endpoint ospitato su un'istanza notebook, utilizza la modalità locale con le versioni Amazon SageMaker Python
Argomenti
Usa EI in modalità locale con SageMaker TensorFlow stimatori e modelli
Per utilizzare EI TensorFlow in modalità locale, specificate local for instance_type e local_sagemaker_notebook for accelerator_type quando chiamate il deploy metodo di uno stimatore o di un oggetto del modello. Per ulteriori informazioni sugli TensorFlow stimatori e i modelli di Amazon SageMaker Python SDK
Il codice seguente mostra come utilizzare la modalità locale con un oggetto dello strumento di valutazione. Per chiamare il metodo deploy, sono necessarie le operazioni preliminari seguenti:
-
Addestrare il modello chiamando il metodo
fitdi uno strumento di valutazione. -
Inoltrare un artefatto del modello quando inizializzi l'oggetto model.
# Deploys the model to a local endpoint tf_predictor = tf_model.deploy(initial_instance_count=1, instance_type='local', accelerator_type='local_sagemaker_notebook')
Usa EI in modalità locale con stimatori e SageMaker modelli Apache MXNet
Per utilizzare EI con MXNet in modalità locale, specifica local per instance_type e local_sagemaker_notebook per accelerator_type quando chiami il metodo deploy di un oggetto dello strumento di valutazione o del modello. Per ulteriori informazioni sugli stimatori e i modelli MXNet di Amazon SageMaker Python SDK
Il codice seguente mostra come utilizzare la modalità locale con un oggetto dello strumento di valutazione. Per eseguire l’addestramento del modello, devi aver precedentemente chiamato il metodo fit dello strumento di valutazione.
# Deploys the model to a local endpoint mxnet_predictor = mxnet_estimator.deploy(initial_instance_count=1, instance_type='local', accelerator_type='local_sagemaker_notebook')
Usa EI in modalità locale con SageMaker PyTorch stimatori e modelli
Per utilizzare EI PyTorch in modalità locale, quando chiamate il deploy metodo di uno stimatore o di un oggetto del modello, specificate local for instance_type e local_sagemaker_notebook for. accelerator_type Per ulteriori informazioni sugli stimatori e i modelli di Amazon SageMaker Python SDK
Il codice seguente mostra come utilizzare la modalità locale con un oggetto dello strumento di valutazione. Per eseguire l’addestramento del modello, devi aver precedentemente chiamato il metodo fit dello strumento di valutazione.
# Deploys the model to a local endpoint pytorch_predictor = pytorch_estimator.deploy(initial_instance_count=1, instance_type='local', accelerator_type='local_sagemaker_notebook')
