Come creare un endpoint di inferenza asincrono - Amazon SageMaker AI

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Come creare un endpoint di inferenza asincrono

Crea un endpoint asincrono nello stesso modo in cui creeresti un endpoint utilizzando i servizi di hosting AI: SageMaker

  • Crea un modello in AI con. SageMaker CreateModel

  • Crea una configurazione endpoint con CreateEndpointConfig.

  • Crea un HTTPS endpoint conCreateEndpoint.

Per creare un endpoint, devi prima creare un modello con CreateModel, in cui punti all'artefatto del modello e a un percorso di registro Docker (immagine). Quindi crei una configurazione specificando uno o più modelli creati utilizzando la da distribuire e CreateModel API le risorse di CreateEndpointConfigcui desideri che l' SageMaker IA fornisca. Crea un endpoint con CreateEndpoint utilizzando la configurazione specificata nella richiesta. È possibile aggiornare un endpoint asincrono con. UpdateEndpointAPI Invia e ricevi richieste di inferenza dal modello ospitato sull'endpoint con InvokeEndpointAsync. Puoi eliminare i tuoi endpoint con. DeleteEndpointAPI

Per un elenco completo delle immagini SageMaker AI disponibili, consulta Available Deep Learning Containers Images. Per informazioni su come creare un'immagine Docker, consulta Contenitori con codice di inferenza personalizzato.