調校 TabTransformer 模型 - Amazon SageMaker
指標可調校的超參數

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

調校 TabTransformer 模型

自動模型調校，又稱為超參數調校，會透過在您的訓練和驗證資料集上，執行許多測試超參數範圍的任務，來尋找最佳版本的模型。模型調整著重於以下超參數：

注意

學習目標函式和評估指標會基於分類任務的類型自動指派，這是由標籤欄中唯一整數的數量所決定。如需詳細資訊，請參閱TabTransformer 超參數。

  • 要在模型訓練期間最佳化的學習目標函式

  • 用於在驗證期間評估模型效能的評估指標

  • 自動調整模型時要使用的一組超參數和一系列值

自動模型調整會搜尋您選擇的超參數，以找到產生可最佳化所選評估指標之模型的值組合。

注意

的自動模型調校 TabTransformer 只能從 Amazon 取得 SageMaker SDKs，不能從 SageMaker 主控台取得。

如需模型調校的詳細資訊，請參閱使用 自動模型調校 SageMaker。

演算法計算 TabTransformer的評估指標

SageMaker TabTransformer 演算法會計算下列指標，以用於模型驗證。評估指標會根據分類任務的類型自動指派，該類型由標籤欄中的唯一整數數目決定。

指標名稱 描述 最佳化方向 正則表達式
r2 R 平方 最大化 "metrics={'r2': (\\S+)}"
f1_score 二進位交叉熵 最大化 "metrics={'f1': (\\S+)}"
accuracy_score 多類交叉熵 最大化 "metrics={'accuracy': (\\S+)}"

可調 TabTransformer 超參數

使用下列超參數調整 TabTransformer 模型。對最佳化 TabTransformer評估指標影響最大的超參數為：learning_rate、input_dim、n_blocks、attn_dropout、 mlp_dropout和 frac_shared_embed。如需所有 TabTransformer超參數的清單，請參閱 TabTransformer 超參數。

參數名稱 參數類型 建議範圍
learning_rate ContinuousParameterRanges MinValue：0.001， MaxValue：0.01
input_dim CategoricalParameterRanges [16, 32, 64, 128, 256, 512]
n_blocks IntegerParameterRanges MinValue：1、 MaxValue：12
attn_dropout ContinuousParameterRanges MinValue：0.0， MaxValue：0.8
mlp_dropout ContinuousParameterRanges MinValue：0.0， MaxValue：0.8
frac_shared_embed ContinuousParameterRanges MinValue：0.0， MaxValue：0.5