Compila un modello (Amazon SageMaker Console)

Puoi creare un processo di compilazione Amazon SageMaker Neo nella SageMaker console Amazon.

Nella SageMaker console Amazon, scegli Lavori di compilazione, quindi scegli Crea processo di compilazione.
Nella pagina Crea un processo di compilazione, per Nome del processo, immetti un nome. Quindi seleziona un IAM ruolo.
Se non hai un IAM ruolo, scegli Crea un nuovo ruolo.
Nella pagina Crea un IAM ruolo, scegli Qualsiasi bucket S3 e scegli Crea ruolo.
Non PyTorch Frameworks

Nella sezione Configurazione di input, inserisci il percorso completo del bucket Amazon S3 URI che contiene gli artefatti del modello nel campo di input Posizione degli artefatti del modello. Gli artefatti del modello devono essere in un formato di file tarball compresso (.tar.gz).

Per il campo di configurazione dell'input dei dati, inserisci la JSON stringa che specifica la forma dei dati di input.

Per Framework di machine learning, scegli il framework a tua scelta.

Per trovare esempi di JSON stringhe di forme di dati di input che dipendono dai framework, vedi Quali forme di dati di input Neo si aspetta.

PyTorch Framework
Istruzioni simili si applicano alla compilazione dei modelli. PyTorch Tuttavia, se ti sei allenato con PyTorch e stai cercando di compilare il modello per ml_* (eccettoml_inf) target, puoi facoltativamente specificare la versione che hai usato. PyTorch

Per trovare esempi di JSON stringhe di forme di dati di input che dipendono dai framework, vedi Quali forme di dati di input Neo si aspetta.
Note

Se hai salvato il modello utilizzando la PyTorch versione 2.0 o successiva, il campo di configurazione dell'immissione dei dati è facoltativo. SageMaker Neo ottiene la configurazione di input dal file di definizione del modello con cui crei PyTorch. Per ulteriori informazioni su come creare il file di definizione, consulta la PyTorch sezione sotto Salvare modelli per SageMaker Neo.

Durante la compilazione di ml_* istanze utilizzando il PyTorch framework, utilizzate il campo delle opzioni del compilatore in Output Configuration per fornire il tipo di dati corretto (dtype) dell'input del modello. Il valore predefinito è impostato su "float32".
avvertimento
Se specifichi un URI percorso del bucket Amazon S3 che porta al .pth file, riceverai il seguente errore dopo l'avvio della compilazione: ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
Vai alla sezione Configurazione di output. Scegli dove vuoi distribuire il modello. Puoi distribuire il tuo modello su un dispositivo di destinazione o su una piattaforma di destinazione. I dispositivi di destinazione includono dispositivi cloud ed edge. Le piattaforme di destinazione si riferiscono a sistemi operativi, architetture e acceleratori specifici su cui si desidera che il modello venga eseguito.

Per Posizione di output S3, immetti il percorso verso il bucket S3 in cui desideri memorizzare il modello. Facoltativamente, puoi aggiungere opzioni del compilatore in JSON formato nella sezione Opzioni del compilatore.
Verifica lo stato del processo di compilazione quando viene avviato. Questo stato del processo è disponibile nella parte superiore della pagina Processi di compilazione, come mostrato nello screenshot seguente. Puoi anche controllarne lo stato nella colonna Stato.
Verifica lo stato del processo di compilazione quando è completato. Puoi controllare lo stato nella colonna Stato, come mostrato nello screenshot seguente.