Menyetel TabTransformer model - Amazon SageMaker

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menyetel TabTransformer model

Penyetelan model otomatis, juga dikenal sebagai tuning hyperparameter, menemukan versi terbaik dari model dengan menjalankan banyak pekerjaan yang menguji berbagai hiperparameter pada kumpulan data pelatihan dan validasi Anda. Penyetelan model berfokus pada hiperparameter berikut:

catatan

Fungsi tujuan pembelajaran dan metrik evaluasi keduanya secara otomatis ditetapkan berdasarkan jenis tugas klasifikasi, yang ditentukan oleh jumlah bilangan bulat unik di kolom label. Untuk informasi selengkapnya, lihat TabTransformer hiperparameter.

  • Fungsi tujuan pembelajaran untuk mengoptimalkan selama pelatihan model

  • Metrik evaluasi yang digunakan untuk mengevaluasi kinerja model selama validasi

  • Satu set hyperparameters dan rentang nilai untuk masing-masing untuk digunakan saat menyetel model secara otomatis

Penyetelan model otomatis mencari hiperparameter pilihan Anda untuk menemukan kombinasi nilai yang menghasilkan model yang mengoptimalkan metrik evaluasi yang dipilih.

catatan

Penyetelan model otomatis hanya TabTransformer tersedia dari Amazon SageMaker SDKs, bukan dari SageMaker konsol.

Untuk informasi selengkapnya tentang penyetelan model, lihatPenyetelan model otomatis dengan SageMaker.

Metrik evaluasi dihitung oleh algoritme TabTransformer

SageMaker TabTransformer Algoritma menghitung metrik berikut untuk digunakan untuk validasi model. Metrik evaluasi secara otomatis ditetapkan berdasarkan jenis tugas klasifikasi, yang ditentukan oleh jumlah bilangan bulat unik di kolom label.

Nama Metrik Deskripsi Arah Optimasi Pola Regex
r2 r persegi memaksimalkan "metrics={'r2': (\\S+)}"
f1_score entropi silang biner memaksimalkan "metrics={'f1': (\\S+)}"
accuracy_score entropi silang multiclass memaksimalkan "metrics={'accuracy': (\\S+)}"

Hiperparameter yang dapat disetel TabTransformer

Setel TabTransformer model dengan hyperparameters berikut. Hiperparameter yang memiliki efek terbesar dalam mengoptimalkan metrik TabTransformer evaluasi adalah:learning_rate,,,, input_dim n_blocksattn_dropout, mlp_dropout dan. frac_shared_embed Untuk daftar semua TabTransformer hyperparameters, lihatTabTransformer hiperparameter.

Nama Parameter Jenis Parameter Rentang yang Direkomendasikan
learning_rate ContinuousParameterRanges MinValue: 0,001, MaxValue: 0,01
input_dim CategoricalParameterRanges [16, 32, 64, 128, 256, 512]
n_blocks IntegerParameterRanges MinValue: 1, MaxValue: 12
attn_dropout ContinuousParameterRanges MinValue: 0.0, MaxValue: 0.8
mlp_dropout ContinuousParameterRanges MinValue: 0.0, MaxValue: 0.8
frac_shared_embed ContinuousParameterRanges MinValue: 0.0, MaxValue: 0.5