Memutar log - Amazon EMR

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memutar log

Amazon EMR Serverless dapat memutar log aplikasi Spark dan log peristiwa. Rotasi log membantu masalah pekerjaan yang berjalan lama menghasilkan file log besar yang dapat menghabiskan semua ruang disk Anda. Memutar log membantu Anda menghemat penyimpanan disk dan mengurangi jumlah kegagalan pekerjaan karena Anda tidak memiliki lebih banyak ruang tersisa di disk Anda.

Rotasi log diaktifkan secara default dan hanya tersedia untuk pekerjaan Spark.

Log peristiwa percikan

catatan

Rotasi log peristiwa percikan tersedia di semua label EMR rilis Amazon.

Alih-alih menghasilkan satu file log peristiwa, EMR Serverless memutar log peristiwa pada interval waktu reguler dan menghapus file log peristiwa yang lebih lama. Memutar log tidak memengaruhi log yang diunggah ke bucket S3.

Log aplikasi percikan

catatan

Rotasi log aplikasi Spark tersedia di semua label EMR rilis Amazon.

EMRServerless juga memutar log aplikasi spark untuk driver dan pelaksana, seperti dan file. stdout stderr Anda dapat mengakses file log terbaru dengan memilih tautan log di Studio dengan menggunakan tautan Spark History Server dan Live UI. File log adalah versi terpotong dari log terbaru. Untuk melihat log yang diputar lebih lama, Anda harus menentukan lokasi Amazon S3 saat menyimpan log. Lihat Logging untuk EMR Tanpa Server dengan bucket Amazon S3 untuk informasi selengkapnya.

Anda dapat menemukan file log terbaru di lokasi berikut. EMRTanpa server menyegarkan file setiap 15 detik. File-file ini dapat berkisar dari 0 MB hingga 128 MB.

<example-S3-logUri>/applications/<application-id>/jobs/<job-id>/SPARK_DRIVER/stderr.gz

Lokasi berikut berisi file yang diputar yang lebih lama. Setiap file berukuran 128 MB.

<example-S3-logUri>/applications/<application-id>/jobs/<job-id>/SPARK_DRIVER/archived/stderr_<index>.gz

Perilaku yang sama berlaku untuk pelaksana Spark juga. Perubahan ini hanya berlaku untuk logging S3. Rotasi log tidak memperkenalkan perubahan apa pun pada aliran log yang diunggah ke Amazon. CloudWatch

EMRRilis tanpa server 7.1.0 dan mendukung upaya coba lagi yang lebih tinggi untuk streaming dan pekerjaan batch. Jika Anda mengaktifkan percobaan ulang dengan pekerjaan Anda, EMR Tanpa Server menambahkan awalan ke jalur log untuk pekerjaan tersebut sehingga Anda dapat melacak dan membedakan log satu sama lain dengan lebih baik. Jalur ini berisi semua log yang diputar.

'/applications/<applicationId>/jobs/<jobId>/attempts/<attemptNumber>/'.