Ottimizza un modello TabTransformer - Amazon SageMaker

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Ottimizza un modello TabTransformer

L'ottimizzazione automatica dei modelli, nota anche come ottimizzazione degli iperparametri, trova la versione migliore di un modello eseguendo molti processi che testano un intervallo di iperparametri sul set di dati di addestramento e di convalida. L'ottimizzazione del modello si concentra sui seguenti iperparametri:

Nota

La funzione obiettivo di apprendimento e il parametro di valutazione sono entrambi assegnati automaticamente in base al tipo di attività di classificazione, che è determinata dal numero di numeri interi univoci nella colonna dell'etichetta. Per ulteriori informazioni, consulta TabTransformer iperparametri.

  • Una funzione dell’obiettivo di apprendimento da ottimizzare durante l’addestramento dei modelli

  • Un parametro di valutazione utilizzato per valutare le prestazioni del modello durante la convalida

  • Un insieme di iperparametri e un intervallo di valori per ciascuno da utilizzare quando si ottimizza automaticamente il modello

L'ottimizzazione automatica del modello ricerca gli iperparametri scelti per trovare la combinazione di valori che restituisce il modello che ottimizza il parametro di valutazione scelto.

Nota

La regolazione automatica del modello TabTransformer è disponibile solo su Amazon SageMaker SDKs, non sulla SageMaker console.

Per ulteriori informazioni sull'ottimizzazione del modello, consulta Ottimizzazione automatica del modello con SageMaker.

Metriche di valutazione calcolate dall'algoritmo TabTransformer

L' SageMaker TabTransformer algoritmo calcola le seguenti metriche da utilizzare per la convalida del modello. Il parametro di valutazione viene assegnato automaticamente in base al tipo di attività di classificazione, che è determinata dal numero di numeri interi univoci nella colonna dell'etichetta.

Nome parametro Descrizione Direzione dell'ottimizzazione Modello regex
r2 r quadrato massimizza "metrics={'r2': (\\S+)}"
f1_score entropia binaria incrociata massimizza "metrics={'f1': (\\S+)}"
accuracy_score entropia incrociata multiclasse massimizza "metrics={'accuracy': (\\S+)}"

TabTransformer Iperparametri regolabili

Ottimizza il TabTransformer modello con i seguenti iperparametri. Gli iperparametri che hanno il maggiore effetto sull'ottimizzazione delle metriche di TabTransformer valutazione sono:learning_rate,,, input_dimn_blocks, attn_dropout e. mlp_dropout frac_shared_embed Per un elenco di tutti gli TabTransformer iperparametri, vedere. TabTransformer iperparametri

Nome parametro Tipo parametro Intervalli consigliati
learning_rate ContinuousParameterRanges MinValue: 0,001, MaxValue: 0,01
input_dim CategoricalParameterRanges [16, 32, 64, 128, 256, 512]
n_blocks IntegerParameterRanges MinValue: 1, MaxValue: 12
attn_dropout ContinuousParameterRanges MinValue: 0,0, MaxValue 0,8
mlp_dropout ContinuousParameterRanges MinValue: 0,0, MaxValue 0,8
frac_shared_embed ContinuousParameterRanges MinValue: 0,0, MaxValue 0,5