View a markdown version of this page

TabTransformer hiperparameter - Amazon SageMaker AI

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

TabTransformer hiperparameter

Tabel berikut berisi subset hyperparameter yang diperlukan atau paling umum digunakan untuk algoritma Amazon SageMaker AI TabTransformer . Pengguna mengatur parameter ini untuk memfasilitasi estimasi parameter model dari data. TabTransformerAlgoritma SageMaker AI adalah implementasi dari TabTransformer paket open-source.

catatan

Hyperparameter default didasarkan pada contoh kumpulan data di. TabTransformer contoh notebook

TabTransformer Algoritma SageMaker AI secara otomatis memilih metrik evaluasi dan fungsi objektif berdasarkan jenis masalah klasifikasi. TabTransformer Algoritma mendeteksi jenis masalah klasifikasi berdasarkan jumlah label dalam data Anda. Untuk masalah regresi, metrik evaluasi adalah r kuadrat dan fungsi objektifnya adalah kesalahan kuadrat rata-rata. Untuk masalah klasifikasi biner, metrik evaluasi dan fungsi objektif keduanya entropi silang biner. Untuk masalah klasifikasi multiclass, metrik evaluasi dan fungsi objektif keduanya merupakan entropi silang multiclass.

catatan

Metrik TabTransformer evaluasi dan fungsi objektif saat ini tidak tersedia sebagai hyperparameter. Sebaliknya, algoritma TabTransformer bawaan SageMaker AI secara otomatis mendeteksi jenis tugas klasifikasi (regresi, biner, atau multiclass) berdasarkan jumlah bilangan bulat unik di kolom label dan menetapkan metrik evaluasi dan fungsi objektif.

Nama Parameter Deskripsi
n_epochs

Jumlah zaman untuk melatih jaringan saraf dalam.

Nilai yang valid: integer, rentang: Integer positif.

Nilai default:5.
patience

Pelatihan akan berhenti jika satu metrik dari satu titik data validasi tidak membaik di patience babak terakhir.

Nilai yang valid: integer, range: (2,60).

Nilai default:10.
learning_rate

Tingkat pembaruan bobot model setelah mengerjakan setiap batch contoh pelatihan.

Nilai yang valid: float, range: Nomor float point positif.

Nilai default:0.001.
batch_size

Jumlah contoh yang disebarkan melalui jaringan.

Nilai yang valid: integer, range: (1,2048).

Nilai default:256.
input_dim

Dimensi penyematan untuk mengkodekan kolom kontinu kategoris and/or.

Nilai yang valid: string, salah satu dari berikut ini: "16""32","64",,"128","256", atau"512".

Nilai default:"32".
n_blocks

Jumlah blok encoder Transformer.

Nilai yang valid: integer, range: (1,12).

Nilai default:4.
attn_dropout

Tingkat putus sekolah diterapkan pada lapisan Per Multi-Head hatian.

Nilai yang valid: float, range: (0,1).

Nilai default:0.2.
mlp_dropout

Tingkat dropout diterapkan ke FeedForward jaringan dalam lapisan encoder dan lapisan MLP akhir di atas encoder Transformer.

Nilai yang valid: float, range: (0,1).

Nilai default:0.1.
frac_shared_embed

Fraksi penyematan yang dibagikan oleh semua kategori yang berbeda untuk satu kolom tertentu.

Nilai yang valid: float, range: (0,1).

Nilai default:0.25.