Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Framework supportati, Regioni AWS, tipi di istanza e modelli testati

Prima di utilizzare SageMaker Training Compiler, controlla se il framework che hai scelto è supportato, i tipi di istanza sono disponibili nel tuo AWS account e il tuo AWS account è incluso in uno dei supportati. Regioni AWS

Framework supportati

SageMaker Training Compiler supporta i seguenti framework di deep learning ed è disponibile tramite Deep Learning Containers. AWS

PyTorch

TensorFlow

Per ulteriori informazioni, consulta Immagini disponibili nel repository Deep Learning Containers. https://github.com/aws/deep-learning-containers/blob/master/available_images.md AWS GitHub

Regioni AWS

I SageMaker Training Compiler Container sono disponibili nei paesi in Regioni AWS cui i AWS Deep Learning Container sono in servizio, ad eccezione delle regioni della Cina.

Tipi di istanze supportati

SageMaker Training Compiler è testato e supporta i seguenti tipi di istanze ML.

Per le specifiche dei tipi di istanza, consultare la sezione Accelerated Computing nella pagina Amazon EC2 Instance Types. Per informazioni sui prezzi delle istanze, consulta Amazon SageMaker Pricing.

Se hai ricevuto un messaggio di errore simile al seguente, segui le istruzioni in Richiedi un aumento della quota di servizio per le risorse di SageMaker intelligenza artificiale.

ResourceLimitExceeded: An error occurred (ResourceLimitExceeded) when calling
the CreateTrainingJob operation: The account-level service limit 'ml.p3dn.24xlarge
for training job usage' is 0 Instances, with current utilization of 0 Instances
and a request delta of 1 Instances.
Please contact AWS support to request an increase for this limit.

Modelli testati

La tabella seguente include un elenco dei modelli che sono stati testati con SageMaker Training Compiler. A titolo di riferimento, insieme ad altri parametri di addestramento è inclusa anche la dimensione del batch più grande che è in grado di contenere in memoria. SageMaker Training Compiler può modificare l'impronta di memoria del processo di addestramento del modello; di conseguenza, durante il processo di addestramento è spesso possibile utilizzare un batch di dimensioni maggiori, riducendo ulteriormente il tempo totale di addestramento. In alcuni casi, SageMaker Training Compiler promuove in modo intelligente la memorizzazione nella cache, il che porta a una riduzione della dimensione massima del batch che può contenere la GPU. È necessario ottimizzare nuovamente gli iperparametri del modello e trovare dimensioni del batch ottimale per il proprio caso. Per risparmiare tempo, utilizzare le seguenti tabelle di riferimento per cercare dimensioni del batch che possa essere un buon punto di partenza per il proprio caso d'uso.