Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Raccomandazione Amazon SageMaker Inference

Amazon SageMaker Inference Recommender è una funzionalità di Amazon. SageMaker Riduce il tempo necessario per mettere in produzione i modelli di machine learning (ML) automatizzando i test di carico e l'ottimizzazione dei modelli tra le istanze ML. SageMaker Puoi usare il suggeritore di inferenza per implementare il tuo modello su un endpoint di inferenza in tempo reale o senza server che offre le migliori prestazioni al minor costo. Inference Recommender ti aiuta a selezionare il tipo di istanza e la configurazione migliori per i tuoi modelli e carichi di lavoro ML. Considera fattori come il numero di istanze, i parametri del contenitore, le ottimizzazioni del modello, la concorrenza massima e la dimensione della memoria.

Amazon SageMaker Inference Recommender ti addebita solo le istanze utilizzate durante l'esecuzione dei lavori.

Come funziona

Per utilizzare Amazon SageMaker Inference Recommender, puoi creare un SageMaker modello o registrarlo nel registro dei modelli con gli SageMaker artefatti del modello. Usa la console AWS SDK for Python (Boto3) o la SageMaker console per eseguire lavori di benchmarking per diverse configurazioni di endpoint. SageMaker I processi di suggerimento delle inferenze ti aiutano a raccogliere e visualizzare i parametri relative di tutte le prestazioni e sull'utilizzo delle risorse per aiutarti a decidere quale tipo e configurazione di endpoint scegliere.

Come iniziare

Se sei un utente alle prime armi di Amazon SageMaker Inference Recommender, ti consigliamo di fare quanto segue:

Notebook di esempio

Il seguente esempio di notebook Jupyter può aiutarti con i flussi di lavoro per diversi casi d'uso nel suggeritore di inferenza: