Ajustar um TabTransformer modelo - Amazon SageMaker

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Ajustar um TabTransformer modelo

O ajuste de modelo automático, também conhecido como ajuste de hiperparâmetros, localiza a melhor versão de um modelo executando vários trabalhos que testam uma série de hiperparâmetros no seu conjunto de dados de treinamento e validação. O ajuste do modelo se concentra nos seguintes hiperparâmetros:

nota

A função de objetivo de aprendizagem e a métrica de avaliação são ambas atribuídas automaticamente com base no tipo de tarefa de classificação, que é determinado pelo número de números inteiros exclusivos na coluna do rótulo. Para obter mais informações, consulte TabTransformer hiperparâmetros.

  • Uma função de objetivo de aprendizado para otimizar durante o treinamento do modelo

  • Uma métrica de avaliação usada para avaliar o desempenho do modelo durante a validação

  • Um conjunto de hiperparâmetros e uma faixa de valores para cada um usar ao ajustar o modelo automaticamente

O ajuste de modelo automático pesquisa os seus hiperparâmetros escolhidos para encontrar a combinação de valores que resultam no modelo que otimiza a métrica escolhida.

nota

O ajuste automático do modelo TabTransformer está disponível somente na Amazon SageMaker SDKs, não no SageMaker console.

Para mais informações sobre o ajuste de modelos, consulte Ajuste automático do modelo com SageMaker.

Métricas de avaliação calculadas pelo algoritmo TabTransformer

O SageMaker TabTransformer algoritmo calcula as seguintes métricas para usar na validação do modelo. A métrica de avaliação é atribuída automaticamente com base no tipo de tarefa de classificação, que é determinado pelo número de números inteiros exclusivos na coluna do rótulo.

Nome da métrica Descrição Direção de otimização Padrão Regex
r2 r quadrado maximizar "metrics={'r2': (\\S+)}"
f1_score entropia cruzada binária maximizar "metrics={'f1': (\\S+)}"
accuracy_score entropia cruzada multiclasse maximizar "metrics={'accuracy': (\\S+)}"

Hiperparâmetros ajustáveis TabTransformer

Ajuste o TabTransformer modelo com os seguintes hiperparâmetros. Os hiperparâmetros que têm o maior efeito na otimização das métricas de TabTransformer avaliação são:learning_rate,input_dim,n_blocks, attn_dropoutmlp_dropout, e. frac_shared_embed Para obter uma lista de todos os TabTransformer hiperparâmetros, consulteTabTransformer hiperparâmetros.

Nome do parâmetro Tipo de parâmetro Intervalos recomendados
learning_rate ContinuousParameterRanges MinValue: 0,001, MaxValue: 0,01
input_dim CategoricalParameterRanges [16, 32, 64, 128, 256, 512]
n_blocks IntegerParameterRanges MinValue: 1, MaxValue 12
attn_dropout ContinuousParameterRanges MinValue: 0,0, MaxValue 0,8
mlp_dropout ContinuousParameterRanges MinValue: 0,0, MaxValue 0,8
frac_shared_embed ContinuousParameterRanges MinValue: 0,0, MaxValue 0,5