Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Pipeline di inferenza in Amazon AI SageMaker
Una pipeline di inferenza è un modello Amazon SageMaker AI composto da una sequenza lineare da due a quindici contenitori che elaborano richieste di inferenza sui dati. Utilizzi una pipeline di inferenza per definire e implementare qualsiasi combinazione di algoritmi di SageMaker intelligenza artificiale preaddestrati e algoritmi personalizzati confezionati in contenitori Docker. Puoi utilizzare una pipeline di inferenza per combinare attività data science di pre-elaborazione, previsioni e post-elaborazione. Le pipeline di inferenza sono completamente gestite.
Puoi aggiungere contenitori SageMaker AI Spark ML Serving e scikit-learn che riutilizzano i trasformatori di dati sviluppati per i modelli di addestramento. L'intera pipeline di inferenza assemblata può essere considerata un modello di SageMaker intelligenza artificiale che puoi utilizzare per fare previsioni in tempo reale o per elaborare trasformazioni batch direttamente senza alcuna preelaborazione esterna.
All'interno di un modello di pipeline di inferenza, l' SageMaker IA gestisce le chiamate come una sequenza di richieste HTTP. Il primo contenitore della pipeline gestisce la richiesta iniziale, quindi la risposta intermedia viene inviata come richiesta al secondo contenitore e così via per ogni contenitore nella pipeline. SageMaker L'intelligenza artificiale restituisce la risposta finale al client.
Quando si distribuisce il modello di pipeline, l' SageMaker IA installa ed esegue tutti i contenitori su ogni istanza di Amazon Elastic Compute Cloud (Amazon EC2) nell'endpoint o nel job di trasformazione. Elaborazione delle caratteristiche e inferenze vengono eseguite con bassa latenza perché i container si trovano nelle stesse istanze EC2. Definisci i container per un modello di pipeline utilizzando l'operazione CreateModel o dalla console. Invece di impostare un PrimaryContainer, utilizza il parametro Containers per impostare i container che compongono la pipeline. Specifica anche l’ordine di esecuzione dei container.
Un modello di pipeline è non modificabile, ma puoi aggiornare una pipeline di inferenza distribuendone una nuova utilizzando l'operazione UpdateEndpoint. Questa modularità supporta una maggiore flessibilità durante la sperimentazione.
Per informazioni su come creare una pipeline di inferenza con il Model Registry, consulta. SageMaker Implementazione della registrazione del modello con il registro dei modelli
Questa caratteristica non comporta costi supplementari. Paghi solo per le istanze in esecuzione su un endpoint.
Argomenti
Notebook di esempio per pipeline di inferenza
Per un esempio che mostra come creare e distribuire pipeline di inferenza, consultate il taccuino di esempio Inference Pipeline with and Linear Learner. Scikit-learn
Per visualizzare un elenco di tutti gli esempi di SageMaker intelligenza artificiale, dopo aver creato e aperto un'istanza del notebook, scegli la SageMaker scheda Esempi di intelligenza artificiale. Esistono tre notebook sulle pipeline di inferenza. I primi due notebook sulle pipeline di inferenza appena descritti si trovano nella cartella advanced_functionality, mentre il terzo si trova nella cartella sagemaker-python-sdk. Per aprire un notebook, seleziona la relativa scheda Utilizza, quindi scegli Crea copia.
