Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Amazon EMR merilis 6.8.1
6.8.1 versi aplikasi
Aplikasi berikut didukung dalam rilis ini: Flink
Tabel di bawah ini mencantumkan versi aplikasi yang tersedia dalam rilis Amazon ini EMR dan versi aplikasi di tiga EMR rilis Amazon sebelumnya (bila berlaku).
Untuk riwayat lengkap versi aplikasi untuk setiap rilis AmazonEMR, lihat topik berikut:
emr-6.8.1 | emr-6.8.0 | emr-6.7.0 | emr-6.6.0 | |
---|---|---|---|---|
AWS SDK untuk Java | 1.12.170 | 1.12.170 | 1.12.170 | 1.12.170 |
Python | 2.7, 3.7 | 2.7, 3.7 | 2.7, 3.7 | 2.7, 3.7 |
Skala | 2.12.15 | 2.12.15 | 2.12.15 | 2.12.10 |
AmazonCloudWatchAgent | - | - | - | - |
kuala | - | - | - | - |
Flink | 1.15.1 | 1.15.1 | 1.14.2 | 1.14.2 |
Ganglia | 3.7.2 | 3.7.2 | 3.7.2 | 3.7.2 |
HBase | 2.4.12 | 2.4.12 | 2.4.4 | 2.4.4 |
HCatalog | 3.1.3 | 3.1.3 | 3.1.3 | 3.1.2 |
Hadoop | 3.2.1 | 3.2.1 | 3.2.1 | 3.2.1 |
Hive | 3.1.3 | 3.1.3 | 3.1.3 | 3.1.2 |
Hudi | 0.11.1-amzn-0 | 0.11.1-amzn-0 | 0.11.0-amzn-0 | 0.10.1-amzn-0 |
Hue | 4.10.0 | 4.10.0 | 4.10.0 | 4.10.0 |
Gunung es | 0.14.0-amzn-0 | 0.14.0-amzn-0 | 0.13.1-amzn-0 | 0.13.1 |
JupyterEnterpriseGateway | 2.1.0 | 2.1.0 | 2.1.0 | 2.1.0 |
JupyterHub | 1.4.1 | 1.4.1 | 1.4.1 | 1.4.1 |
Livy | 0.7.1 | 0.7.1 | 0.7.1 | 0.7.1 |
MXNet | 1.9.1 | 1.9.1 | 1.8.0 | 1.8.0 |
Mahout | - | - | - | - |
Oozie | 5.2.1 | 5.2.1 | 5.2.1 | 5.2.1 |
Phoenix | 5.1.2 | 5.1.2 | 5.1.2 | 5.1.2 |
Pig | 0.17.0 | 0.17.0 | 0.17.0 | 0.17.0 |
Presto | 0,273 | 0,273 | 0,272 | 0,267 |
Spark | 3.3.0 | 3.3.0 | 3.2.1 | 3.2.0 |
Sqoop | 1.4.7 | 1.4.7 | 1.4.7 | 1.4.7 |
TensorFlow | 2.9.1 | 2.9.1 | 2.4.1 | 2.4.1 |
Tez | 0.9.2 | 0.9.2 | 0.9.2 | 0.9.2 |
Trino (PrestoSQL) | 388 | 388 | 378 | 367 |
Zeppelin | 0.10.1 | 0.10.1 | 0.10.0 | 0.10.0 |
ZooKeeper | 3.5.10 | 3.5.10 | 3.5.7 | 3.5.7 |
6.8.1 catatan rilis
Catatan rilis berikut mencakup informasi untuk EMR rilis Amazon 6.8.1. Perubahan relatif terhadap 6.8.0. Untuk informasi tentang timeline rilis, lihat. 6.8.1 perubahan log
Perubahan, penyempurnaan, dan masalah yang diselesaikan
-
Hadoop 3.3.3 memperkenalkan perubahan pada YARN (YARN-9608
) yang membuat node tempat kontainer berjalan dalam status penonaktifan hingga aplikasi selesai. Perubahan ini memastikan bahwa data lokal seperti data acak tidak hilang, dan Anda tidak perlu menjalankan kembali pekerjaan. Pendekatan ini juga dapat menyebabkan kurangnya pemanfaatan sumber daya pada cluster dengan atau tanpa penskalaan terkelola diaktifkan. Dengan Amazon EMR merilis 6.11.0 dan yang lebih tinggi serta 6.8.1, 6.9.1, dan 6.10.1, nilai ditetapkan untuk mengatasi masalah
yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-applications
ini.false
yarn-site.xml
Sementara perbaikan mengatasi masalah yang diperkenalkan oleh YARN -9608, hal itu dapat menyebabkan pekerjaan Hive gagal karena kehilangan data acak pada cluster yang telah mengelola penskalaan diaktifkan. Kami telah mengurangi risiko itu dalam rilis ini dengan juga menyetel
yarn.resourcemanager.decommissioning-nodes-watcher.wait-for-shuffle-data
beban kerja Hive. Konfigurasi ini hanya tersedia dengan EMR rilis Amazon 6.11.0 dan yang lebih tinggi. -
Kolektor metrik tidak akan mengirim metrik apa pun ke bidang kontrol setelah failover node primer dalam cluster dengan konfigurasi grup instance.
-
Rilis ini menghilangkan percobaan ulang pada HTTP permintaan gagal ke titik akhir kolektor metrik.
-
Rilis ini mencakup perubahan yang memungkinkan kluster ketersediaan tinggi pulih dari status gagal setelah restart.
-
Rilis ini memperbaiki masalah di mana pengguna besar yang dibuat UIDs menyebabkan pengecualian overflow.
-
Rilis ini memperbaiki masalah batas waktu dengan proses konfigurasi EMR ulang Amazon.
-
Rilis ini mencegah masalah di mana konfigurasi ulang yang gagal dapat merusak proses lain yang tidak terkait.
-
Rilis ini mencakup perbaikan keamanan.
-
Rilis ini memperbaiki masalah di mana klaster yang menjalankan beban kerja di Spark dengan EMR Amazon mungkin secara diam-diam menerima hasil yang salah
contains
denganstartsWith
,,, dan.endsWith
like
Masalah ini terjadi saat Anda menggunakan ekspresi pada bidang yang dipartisi yang memiliki metadata di Amazon EMR Hive3 Metastore Server (). HMS Dengan Amazon EMR 6.6.0 hingga 6.9.x, INSERT kueri dengan partisi dinamis dan klausa ORDER BY atau SORT BY akan selalu memiliki dua reduksi. Masalah ini disebabkan oleh OSS perubahan HIVE-20703
, yang menempatkan optimasi partisi pengurutan dinamis di bawah keputusan berbasis biaya. Jika beban kerja Anda tidak memerlukan penyortiran partisi dinamis, kami sarankan Anda mengatur hive.optimize.sort.dynamic.partition.threshold
properti-1
untuk menonaktifkan fitur baru dan mendapatkan jumlah reduksi yang dihitung dengan benar. Masalah ini diperbaiki di OSS Hive sebagai bagian dari HIVE-22269dan diperbaiki di Amazon 6.10.0. EMR -
Hive mungkin mengalami kehilangan data ketika Anda menggunakan HDFS sebagai direktori awal dan Anda telah mengaktifkan menggabungkan file kecil, dan tabel berisi jalur partisi statis.
-
Rilis ini memperbaiki masalah kinerja dengan Hive jika menggabungkan file kecil (dinonaktifkan secara default) diaktifkan di akhir pekerjaan. ETL
-
Rilis ini memperbaiki masalah dengan pelambatan di sisi Glue ketika tidak ada fungsi yang ditentukan pengguna (). UDF
-
Rilis ini memperbaiki masalah yang menghapus log kontainer oleh layanan agregasi log node sebelum pendorong log dapat mendorongnya ke S3 jika terjadi penonaktifan. YARN
-
Rilis ini memperbaiki penanganan file yang dipadat/diarsipkan dengan pelacakan file penyimpanan persisten untuk. HBase
-
Rilis ini memperbaiki masalah yang memengaruhi kinerja Spark saat Anda menetapkan
true
nilai default untuk konfigurasi.spark.yarn.heterogeneousExecutors.enabled
spark-defaults.conf
-
Rilis ini memperbaiki masalah dengan Mengurangi Tugas yang gagal membaca data acak. Masalah ini menyebabkan kegagalan kueri Hive dengan kesalahan memori yang rusak.
-
Rilis ini memperbaiki masalah yang menyebabkan penyedia node gagal jika layanan HDFS NameNode (NN) macet di safemode selama penggantian node.
-
Rilis ini menambahkan mekanisme coba lagi baru ke alur kerja penskalaan klaster untuk EMR cluster yang menjalankan Presto atau Trino. Peningkatan ini mengurangi risiko bahwa pengubahan ukuran cluster akan terhenti tanpa batas karena satu operasi pengubahan ukuran yang gagal. Ini juga meningkatkan pemanfaatan cluster, karena klaster Anda naik dan turun lebih cepat.
-
Rilis ini meningkatkan logika penskalaan klaster sehingga klaster Anda tidak mencoba penskalaan node inti di bawah pengaturan faktor HDFS replikasi untuk cluster. Ini sejalan dengan persyaratan redundansi data Anda, dan mengurangi kemungkinan operasi penskalaan mungkin terhenti.
-
Daemon manajemen log telah ditingkatkan untuk mengidentifikasi semua log yang digunakan secara aktif dengan pegangan file terbuka pada penyimpanan instance lokal, dan proses terkait. Peningkatan ini memastikan bahwa Amazon menghapus file EMR dengan benar dan merebut kembali ruang penyimpanan setelah log diarsipkan ke Amazon S3.
-
Rilis ini mencakup peningkatan daemon manajemen log yang menghapus direktori langkah kosong dan tidak terpakai di sistem file cluster lokal. Sejumlah besar direktori kosong dapat menurunkan kinerja EMR daemon Amazon dan mengakibatkan pemanfaatan disk yang berlebihan.
-
Rilis ini memperbaiki masalah yang mungkin terjadi saat Anda membuat simpul tepi dengan mereplikasi salah satu node utama dari cluster dengan beberapa node primer. Node tepi yang direplikasi dapat menyebabkan penundaan dengan operasi penskalaan, atau mengakibatkan pemanfaatan memori yang tinggi pada node utama. Untuk informasi selengkapnya tentang cara membuat simpul tepi untuk berkomunikasi dengan EMR cluster Anda, lihat Edge Node Creator
di aws-samples
repo. GitHub -
Rilis ini meningkatkan proses otomatisasi yang EMR digunakan Amazon untuk memasang kembali EBS volume Amazon ke instance setelah reboot.
-
Rilis ini memperbaiki masalah yang mengakibatkan celah intermiten dalam metrik Hadoop yang diterbitkan Amazon ke Amazon. EMR CloudWatch
-
Rilis ini memperbaiki masalah dengan EMR cluster di mana pembaruan ke file YARN konfigurasi yang berisi daftar pengecualian node untuk cluster terganggu karena pemanfaatan disk yang berlebihan. Pembaruan yang tidak lengkap menghalangi operasi penskalaan klaster masa depan. Rilis ini memastikan bahwa klaster Anda tetap sehat, dan operasi penskalaan berfungsi seperti yang diharapkan.
-
Rilis ini meningkatkan daemon manajemen log on-cluster untuk memantau folder log tambahan di cluster Anda. EMR Peningkatan ini meminimalkan skenario pemanfaatan disk yang berlebihan.
-
Rilis ini secara otomatis memulai ulang daemon manajemen log on-cluster ketika berhenti. Peningkatan ini mengurangi risiko node tampak tidak sehat karena pemanfaatan disk yang berlebihan.
Rilis ini menambahkan dukungan untuk pengarsipan log ke Amazon S3 selama penskalaan klaster turun. Sebelumnya, Anda hanya dapat mengarsipkan file log ke Amazon S3 selama penghentian klaster. Kemampuan baru memastikan bahwa file log yang dihasilkan di cluster tetap ada di Amazon S3 bahkan setelah node dihentikan. Untuk informasi selengkapnya, lihat Mengkonfigurasi logging dan debug klaster.
Rilis ini memperbaiki masalah yang terjadi ketika Amazon URI S3 untuk tindakan bootstrap diakhiri dengan nomor port, misalnya:.
a.b.c.d:4345
Amazon EMR salah menguraikan iniURIs, jadi tindakan bootstrap terkait apa pun akan gagal.Rilis ini memperbaiki masalah ketidakcocokan urutan waktu antara Apache dan Amazon BigTop EMR pada urutan startup EC2 cluster. Ketidakcocokan urutan waktu ini terjadi ketika sistem mencoba melakukan dua atau lebih operasi pada saat yang sama alih-alih melakukannya dalam urutan yang tepat. Akibatnya, konfigurasi cluster tertentu mengalami timeout startup instance dan waktu startup cluster yang lebih lambat.
Saat Anda meluncurkan cluster dengan rilis patch terbaru Amazon EMR 5.36 atau lebih tinggi, 6.6 atau lebih tinggi, atau 7.0 atau lebih tinggi, Amazon EMR menggunakan rilis Amazon Linux 2023 atau Amazon Linux 2 terbaru untuk Amazon default. EMR AMI Untuk informasi selengkapnya, lihat Menggunakan Amazon Linux default AMI untuk Amazon EMR.
OsReleaseLabel (Versi Amazon Linux) Versi Kernel Amazon Linux Tanggal Tersedia Wilayah yang Didukung 2.0.20241001.0 4.14.352 Oktober 4, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Timur Tengah (Bahrain), Kanada (Tengah), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), China AWS GovCloud (Ningxia) 2.0.20240816.0 4.14.350 Agustus 21, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Timur Tengah (Bahrain), Kanada (Tengah), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), China AWS GovCloud (Ningxia) 2.0.20240809.0 4.14.349 Agustus 20, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Timur Tengah (Bahrain), Kanada (Tengah), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), China AWS GovCloud (Ningxia) 2.0.20240719.0 4.14.348 Juli 25, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Timur Tengah (Bahrain), Kanada (Tengah), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), China AWS GovCloud (Ningxia) 2.0.20240709.1 4.14.348 Juli 23, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Timur Tengah (Bahrain), Kanada (Tengah), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), China AWS GovCloud (Ningxia), Asia Pasifik (Hyderabad), Timur Tengah (), Eropa (SpanyolUAE), Eropa (Zurich), Asia Pasifik (Melbourne), Israel (Tel Aviv), 2.0.20240223.0 4.14.336 8 Maret 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20240131.0 4.14.336 Februari 14, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20240124.0 4.14.336 Februari 7, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20240109.0 4.14.334 Januari 24, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20231218.0 4.14.330 Januari 2, 2024 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20231206.0 4.14.330 22 Desember 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20231116.0 4.14.328 Desember 11, 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20231101.0 4.14.327 16 November 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20231020.1 4.14.326 7 November 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20231012.1 4.14.326 26 Oktober 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20230926.0 4.14.322 19 Oktober 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah), Israel (Tel Aviv), (AS-Barat), (AS-Timur), China AWS GovCloud (Beijing), AWS GovCloud Tiongkok (Ningxia) 2.0.20230906.0 4.14.322 4 Oktober 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah) 2.0.20230822.0 4.14.322 Agustus 30, 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah) 2.0.20230808.0 4.14.320 24 Agustus 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Asia Pasifik (Melbourne), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Kanada (Tengah) 2.0.20230727.0 4.14.320 Agustus 14, 2023 AS Timur (Virginia N.), AS Timur (Ohio), AS Barat (California N.), AS Barat (Oregon), Eropa (Stockholm), Eropa (Milan), Eropa (Frankfurt), Eropa (Irlandia), Eropa (London), Eropa (Paris), Asia Pasifik (Hong Kong), Asia Pasifik (Mumbai), Asia Pasifik (Tokyo), Asia Pasifik (Seoul), Asia Pasifik (Osaka), Asia Pasifik (Singapura), Asia Pasifik (Sydney), Asia Pasifik (Jakarta), Afrika (Cape Town), Amerika Selatan (Sao Paulo), Timur Tengah (Bahrain), Kanada (Tengah)
6.8.1 versi komponen
Komponen yang EMR diinstal Amazon dengan rilis ini tercantum di bawah ini. Beberapa komponen diinstal sebagai bagian dari paket aplikasi big data. Lainnya unik untuk Amazon EMR dan diinstal untuk proses dan fitur sistem. Ini biasanya dimulai dengan emr
atau aws
. Paket aplikasi data besar dalam EMR rilis Amazon terbaru biasanya merupakan versi terbaru yang ditemukan di komunitas. Kami membuat rilis komunitas tersedia di Amazon EMR secepat mungkin.
Beberapa komponen di Amazon EMR berbeda dari versi komunitas. Komponen ini mempunyai label versi dalam bentuk
. CommunityVersion
-amzn-EmrVersion
dimulai dari 0. Misalnya, jika komponen komunitas open source bernama EmrVersion
myapp-component
dengan versi 2.2 telah dimodifikasi tiga kali untuk dimasukkan dalam EMR rilis Amazon yang berbeda, versi rilisnya terdaftar sebagai2.2-amzn-2
.
Komponen | Versi | Deskripsi |
---|---|---|
aws-sagemaker-spark-sdk | 1.4.2 | Amazon SageMaker Spark SDK |
emr-ddb | 4.16.0 | Konektor Amazon DynamoDB untuk aplikasi ekosistem Hadoop. |
emr-goodies | 3.2.0 | Perpustakaan kenyamanan ekstra untuk ekosistem Hadoop. |
emr-kinesis | 3.5.0 | Konektor Amazon Kinesis untuk aplikasi ekosistem Hadoop. |
emr-notebook-env | 1.7.0 | Conda env untuk emr notebook yang mencakup gateway jupyter korporasi |
emr-s3-dist-cp | 2.22.0 | Aplikasi salinan terdistribusi yang dioptimalkan untuk Amazon S3. |
emr-s3-select | 2.1.0 | EMRKonektor S3Select |
emrfs | 2.53.0 | Konektor Amazon S3 untuk aplikasi ekosistem Hadoop. |
flink-client | 1.15.1 | Skrip dan aplikasi klien baris perintah Apache Flink. |
flink-jobmanager-config | 1.15.1 | Mengelola sumber daya pada EMR node untuk Apache JobManager Flink. |
ganglia-monitor | 3.7.2 | Agen Ganglia tertanam untuk aplikasi ekosistem Hadoop bersama dengan agen pemantauan Ganglia. |
ganglia-metadata-collector | 3.7.2 | Kolektor metadata Ganglia untuk menggabungkan metrik dari agen pemantauan Ganglia. |
ganglia-web | 3.7.1 | Aplikasi web untuk melihat metrik yang dikumpulkan oleh kolektor metadata Ganglia. |
hadoop-client | 3.2.1-amzn-8.1 | Klien baris perintah Hadoop seperti 'hdfs', 'Hadoop', atau 'yarn'. |
hadoop-hdfs-datanode | 3.2.1-amzn-8.1 | HDFSlayanan tingkat simpul untuk menyimpan blok. |
hadoop-hdfs-library | 3.2.1-amzn-8.1 | HDFSklien baris perintah dan pustaka |
hadoop-hdfs-namenode | 3.2.1-amzn-8.1 | HDFSlayanan untuk melacak nama file dan lokasi blok. |
hadoop-hdfs-journalnode | 3.2.1-amzn-8.1 | HDFSlayanan untuk mengelola jurnal filesystem Hadoop pada klaster HA. |
hadoop-httpfs-server | 3.2.1-amzn-8.1 | HTTPtitik akhir untuk HDFS operasi. |
hadoop-kms-server | 3.2.1-amzn-8.1 | Server manajemen kunci kriptografi berdasarkan Hadoop. KeyProvider API |
hadoop-mapred | 3.2.1-amzn-8.1 | MapReduce pustaka mesin eksekusi untuk menjalankan MapReduce aplikasi. |
hadoop-yarn-nodemanager | 3.2.1-amzn-8.1 | YARNlayanan untuk mengelola kontainer pada node individu. |
hadoop-yarn-resourcemanager | 3.2.1-amzn-8.1 | YARNlayanan untuk mengalokasikan dan mengelola sumber daya cluster dan aplikasi terdistribusi. |
hadoop-yarn-timeline-server | 3.2.1-amzn-8.1 | Layanan untuk mengambil informasi terkini dan historis untuk YARN aplikasi. |
hbase-hmaster | 2.4.12-amzn-0.1 | Layanan untuk HBase cluster yang bertanggung jawab untuk koordinasi Daerah dan pelaksanaan perintah administratif. |
hbase-region-server | 2.4.12-amzn-0.1 | Layanan untuk melayani satu atau lebih HBase wilayah. |
hbase-client | 2.4.12-amzn-0.1 | HBaseklien baris perintah. |
hbase-rest-server | 2.4.12-amzn-0.1 | Layanan menyediakan RESTful HTTP titik akhir untukHBase. |
hbase-thrift-server | 2.4.12-amzn-0.1 | Layanan menyediakan titik akhir Thrift ke. HBase |
hbase-operator-tools | 2.4.12-amzn-0.1 | Alat perbaikan untuk HBase cluster Apache. |
hcatalog-client | 3.1.3-amzn-1.1 | Klien baris perintah 'hcat' untuk memanipulasi hcatalog-server. |
hcatalog-server | 3.1.3-amzn-1.1 | Penyediaan layananHCatalog, tabel dan lapisan manajemen penyimpanan untuk aplikasi terdistribusi. |
hcatalog-webhcat-server | 3.1.3-amzn-1.1 | HTTPendpoint menyediakan REST antarmuka keHCatalog. |
hive-client | 3.1.3-amzn-1.1 | Klien baris perintah Hive. |
hive-hbase | 3.1.3-amzn-1.1 | Klien Hive-hbase. |
hive-metastore-server | 3.1.3-amzn-1.1 | Layanan untuk mengakses metastore Hive, repositori semantik menyimpan metadata untuk operasi Hadoop. SQL |
hive-server2 | 3.1.3-amzn-1.1 | Layanan untuk menerima kueri Hive sebagai permintaan web. |
hudi | 0.11.1-amzn-0 | Kerangka pemrosesan tambahan untuk memberi daya pada pipa data pada latensi rendah dan efisiensi tinggi. |
hudi-presto | 0.11.1-amzn-0 | Perpustakaan paket untuk menjalankan Presto dengan Hudi. |
hudi-trino | 0.11.1-amzn-0 | Perpustakaan bundel untuk menjalankan Trino dengan Hudi. |
hudi-spark | 0.11.1-amzn-0 | Perpustakaan paket untuk menjalankan Spark dengan Hudi. |
hue-server | 4.10.0 | Aplikasi web untuk menganalisis data menggunakan aplikasi ekosistem Hadoop |
iceberg | 0.14.0-amzn-0 | Apache Iceberg adalah format tabel terbuka untuk kumpulan data analitik besar |
jupyterhub | 1.4.1 | Server multi-pengguna untuk notebook Jupyter |
livy-server | 0.7.1-inkubasi | RESTantarmuka untuk berinteraksi dengan Apache Spark |
nginx | 1.12.1 | nginx [engine x] adalah server proxy HTTP terbalik |
mxnet | 1.9.1 | Perpustakaan yang fleksibel, dapat diskalakan, dan efisien untuk deep learning. |
mariadb-server | 5.5.68+ | Server basis data MariaDB. |
nvidia-cuda | 11.7.0 | Driver Nvidia dan kit alat Cuda |
oozie-client | 5.2.1 | Klien baris perintah Oozie. |
oozie-server | 5.2.1 | Layanan untuk menerima permintaan alur kerja Oozie. |
opencv | 4.5.0 | Perpustakaan Visi Komputer Sumber Terbuka. |
phoenix-library | 5.1.2 | Perpustakaan phoenix untuk server dan klien |
phoenix-connectors | 5.1.2 | Konektor Apache Phoenix untuk Spark-3 |
phoenix-query-server | 5.1.2 | Server ringan yang menyediakan JDBC akses serta Protocol Buffer dan akses JSON format ke Avatica API |
presto-coordinator | 0.273.3-amzn-0 | Layanan untuk menerima kueri dan mengelola eksekusi kueri antara presto-worker. |
presto-worker | 0.273.3-amzn-0 | Layanan untuk mengeksekusi potongan kueri. |
presto-client | 0.273.3-amzn-0 | Klien baris perintah Presto yang diinstal pada master klaster HA yang siaga di mana server Presto server tidak dimulai. |
trino-coordinator | 388-amzn-0 | Layanan untuk menerima kueri dan mengelola eksekusi kueri di antara trino-workers. |
trino-worker | 388-amzn-0 | Layanan untuk mengeksekusi potongan kueri. |
trino-client | 388-amzn-0 | Klien baris perintah Trino yang diinstal pada master siaga cluster HA di mana server Trino tidak dimulai. |
pig-client | 0.17.0 | Klien baris perintah Pig. |
r | 4.0.2 | Proyek R untuk Komputasi Statistik |
ranger-kms-server | 2.0.0 | Sistem Pengelolaan Kunci Ranger Apache |
spark-client | 3.3.0-amzn-0.1 | Klien baris perintah Spark. |
spark-history-server | 3.3.0-amzn-0.1 | Web UI untuk melihat log acara untuk seluruh masa pakai aplikasi Spark. |
spark-on-yarn | 3.3.0-amzn-0.1 | Mesin eksekusi dalam memori untukYARN. |
spark-yarn-slave | 3.3.0-amzn-0.1 | Perpustakaan Apache Spark dibutuhkan oleh budak. YARN |
spark-rapids | 22.06.0-amzn-0 | RAPIDSPlugin Nvidia Spark yang mempercepat Apache Spark dengan. GPUs |
sqoop-client | 1.4.7 | Klien baris perintah Apache Sqoop. |
tensorflow | 2.9.1 | TensorFlow pustaka perangkat lunak open source untuk perhitungan numerik kinerja tinggi. |
tez-on-yarn | 0.9.2 | YARNAplikasi tez dan perpustakaan. |
webserver | 2.4.41+ | HTTPServer Apache. |
zeppelin-server | 0.10.1 | Notebook berbasis web yang memungkinkan analisis data interaktif. |
zookeeper-server | 3.5.10 | Layanan terpusat untuk menjaga informasi konfigurasi, penamaan, yang menyediakan sinkronisasi terdistribusi, dan menyediakan layanan grup. |
zookeeper-client | 3.5.10 | ZooKeeper klien baris perintah. |
6.8.1 klasifikasi konfigurasi
Klasifikasi konfigurasi memungkinkan Anda menyesuaikan aplikasi. Ini sering sesuai dengan XML file konfigurasi untuk aplikasi, sepertihive-site.xml
. Untuk informasi selengkapnya, lihat Konfigurasikan aplikasi.
Tindakan konfigurasi ulang terjadi ketika Anda menentukan konfigurasi untuk grup instans di klaster yang sedang berjalan. Amazon EMR hanya memulai tindakan konfigurasi ulang untuk klasifikasi yang Anda modifikasi. Untuk informasi selengkapnya, lihat Lakukan konfigurasi ulang pada grup instans di klaster yang sedang berjalan.
Klasifikasi | Deskripsi | Tindakan Konfigurasi Ulang |
---|---|---|
capacity-scheduler | Ubah nilai dalam file capacity-scheduler.xml Hadoop. | Restarts the ResourceManager service. |
container-executor | Ubah nilai dalam file container-executor.cfg YARN Hadoop. | Not available. |
container-log4j | Ubah nilai dalam file container-log4j.properties YARN Hadoop. | Not available. |
core-site | Ubah nilai dalam file core-site.xml Hadoop. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Ranger KMS, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
docker-conf | Ubah pengaturan terkait docker. | Not available. |
emrfs-site | Ubah EMRFS pengaturan. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts HBaseRegionserver, HBaseMaster, HBaseThrift, HBaseRest, HiveServer2, Hive MetaStore, Hadoop Httpfs, and MapReduce-HistoryServer. |
flink-conf | Ubah pengaturan flink-conf.yaml. | Restarts Flink history server. |
flink-log4j | Ubah pengaturan log4j.properties Flink. | Restarts Flink history server. |
flink-log4j-session | Ubah pengaturan Flink log4j-session.properties untuk sesi Kubernetes/Yarn. | Restarts Flink history server. |
flink-log4j-cli | Ubah pengaturan log4j-cli.properties Flink. | Restarts Flink history server. |
hadoop-env | Ubah nilai dalam lingkungan Hadoop untuk semua komponen Hadoop. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts PhoenixQueryserver, HiveServer2, Hive MetaStore, and MapReduce-HistoryServer. |
hadoop-log4j | Ubah nilai dalam file log4j.properties Hadoop ini. | Restarts the Hadoop HDFS services SecondaryNamenode, Datanode, and Journalnode. Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Hadoop KMS, Hadoop Httpfs, and MapReduce-HistoryServer. |
hadoop-ssl-server | Ubah konfigurasi server ssl hadoop | Not available. |
hadoop-ssl-client | Ubah konfigurasi klien ssl hadoop | Not available. |
hbase | Pengaturan EMR yang dikurasi Amazon untuk Apache. HBase | Custom EMR specific property. Sets emrfs-site and hbase-site configs. See those for their associated restarts. |
hbase-env | Ubah nilai HBase di lingkungan. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-log4j | Ubah nilai dalam file HBase hbase-log4j.properties. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-metrics | Ubah nilai dalam file HBase hadoop-metrics2-hbase.properties. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. |
hbase-policy | Ubah nilai dalam HBase file hbase-policy.xml. | Not available. |
hbase-site | Ubah nilai dalam HBase file hbase-site.xml. | Restarts the HBase services RegionServer, HBaseMaster, ThriftServer, RestServer. Additionally restarts Phoenix QueryServer. |
hdfs-encryption-zones | Konfigurasikan zona HDFS enkripsi. | This classification should not be reconfigured. |
hdfs-env | Ubah nilai di HDFS lingkungan. | Restarts Hadoop HDFS services Namenode, Datanode, and ZKFC. |
hdfs-site | Ubah nilai dalam HDFS hdfs-site.xml. | Restarts the Hadoop HDFS services Namenode, SecondaryNamenode, Datanode, ZKFC, and Journalnode. Additionally restarts Hadoop Httpfs. |
hcatalog-env | Ubah nilai HCatalog di lingkungan. | Restarts Hive HCatalog Server. |
hcatalog-server-jndi | Ubah nilai di HCatalog jndi.properties. | Restarts Hive HCatalog Server. |
hcatalog-server-proto-hive-site | Ubah nilai HCatalog proto-hive-site dalam.xml's. | Restarts Hive HCatalog Server. |
hcatalog-webhcat-env | Ubah nilai di lingkungan HCatalog WebHCat. | Restarts Hive WebHCat server. |
hcatalog-webhcat-log4j2 | Ubah nilai di ebHCat log4j2.properties HCatalog W. | Restarts Hive WebHCat server. |
hcatalog-webhcat-site | Ubah nilai dalam file webhcat-site.xml HCatalog WebHCat. | Restarts Hive WebHCat server. |
hive | Pengaturan EMR yang dikurasi Amazon untuk Apache Hive. | Sets configurations to launch Hive LLAP service. |
hive-beeline-log4j2 | Ubah nilai dalam file beeline-log4j2.properties Hive. | Not available. |
hive-parquet-logging | Ubah nilai dalam file parquet-logging.properties Hive. | Not available. |
hive-env | Ubah nilai dalam lingkungan Hive. | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. |
hive-exec-log4j2 | Ubah nilai dalam file hive-exec-log 4j2.properties Hive. | Not available. |
hive-llap-daemon-log4j2 | Ubah nilai dalam file llap-daemon-log 4j2.properties Hive. | Not available. |
hive-log4j2 | Ubah nilai dalam file hive-log4j2.properties Hive. | Not available. |
hive-site | Ubah nilai dalam file hive-site.xml Hive | Restarts HiveServer2, HiveMetastore, and Hive HCatalog-Server. Runs Hive schemaTool CLI commands to verify hive-metastore. Also restarts Oozie and Zeppelin. |
hiveserver2-site | Ubah nilai dalam file hiveserver2-site.xml Hive Server2 | Not available. |
hue-ini | Ubah nilai dalam file ini Hue | Restarts Hue. Also activates Hue config override CLI commands to pick up new configurations. |
httpfs-env | Ubah nilai di HTTPFS lingkungan. | Restarts Hadoop Httpfs service. |
httpfs-site | Ubah nilai dalam file httpfs-site.xml Hadoop. | Restarts Hadoop Httpfs service. |
hadoop-kms-acls | Ubah nilai dalam file kms-acls.xml Hadoop. | Not available. |
hadoop-kms-env | Ubah nilai di lingkungan HadoopKMS. | Restarts Hadoop-KMS service. |
hadoop-kms-log4j | Ubah nilai dalam file kms-log4j.properties Hadoop. | Not available. |
hadoop-kms-site | Ubah nilai dalam file kms-site.xml Hadoop. | Restarts Hadoop-KMS and Ranger-KMS service. |
hudi-env | Ubah nilai di lingkungan Hudi. | Not available. |
hudi-defaults | Ubah nilai dalam file hudi-defaults.conf Hudi. | Not available. |
iceberg-defaults | Ubah nilai dalam file iceberg-defaults.conf Iceberg. | Not available. |
jupyter-notebook-conf | Ubah nilai dalam file jupyter_notebook_config.py Jupyter Notebook. | Not available. |
jupyter-hub-conf | Ubah nilai dalam JupyterHubs file jupyterhub_config.py. | Not available. |
jupyter-s3-conf | Konfigurasikan persistensi Jupyter Notebook S3. | Not available. |
jupyter-sparkmagic-conf | Ubah nilai dalam file config.json Sparkmagic. | Not available. |
livy-conf | Ubah nilai dalam file livy.conf Livy. | Restarts Livy Server. |
livy-env | Ubah nilai di lingkungan Livy. | Restarts Livy Server. |
livy-log4j | Ubah pengaturan Livy log4j.properties. | Restarts Livy Server. |
mapred-env | Ubah nilai di lingkungan MapReduce aplikasi. | Restarts Hadoop MapReduce-HistoryServer. |
mapred-site | Ubah nilai dalam file mapred-site.xml MapReduce aplikasi. | Restarts Hadoop MapReduce-HistoryServer. |
oozie-env | Ubah nilai di lingkungan Oozie. | Restarts Oozie. |
oozie-log4j | Ubah nilai dalam file oozie-log4j.properties Oozie. | Restarts Oozie. |
oozie-site | Ubah nilai dalam file oozie-site.xml Oozie. | Restarts Oozie. |
phoenix-hbase-metrics | Ubah nilai dalam file hadoop-metrics2-hbase.properties Phoenix. | Not available. |
phoenix-hbase-site | Ubah nilai dalam file hbase-site.xml Phoenix. | Not available. |
phoenix-log4j | Ubah nilai dalam file log4j.properties Phoenix. | Restarts Phoenix-QueryServer. |
phoenix-metrics | Ubah nilai dalam file hadoop-metrics2-phoenix.properties Phoenix. | Not available. |
pig-env | Ubah nilai di lingkungan Pig. | Not available. |
pig-properties | Ubah nilai dalam file pig.properties Pig. | Restarts Oozie. |
pig-log4j | Ubah nilai dalam file log4j.properties Pig. | Not available. |
presto-log | Ubah nilai dalam file log.properties Presto. | Restarts Presto-Server (for PrestoDB) |
presto-config | Ubah nilai dalam file config.properties Presto. | Restarts Presto-Server (for PrestoDB) |
presto-password-authenticator | Ubah nilai dalam file password-authenticator.properties Presto. | Not available. |
presto-env | Ubah nilai dalam file presto-env.sh Presto. | Restarts Presto-Server (for PrestoDB) |
presto-node | Ubah nilai dalam file node.properties Presto. | Not available. |
presto-connector-blackhole | Ubah nilai dalam file blackhole.properties Presto. | Not available. |
presto-connector-cassandra | Ubah nilai dalam file cassandra.properties Presto. | Not available. |
presto-connector-hive | Ubah nilai dalam file hive.properties Presto. | Restarts Presto-Server (for PrestoDB) |
presto-connector-jmx | Ubah nilai dalam file jmx.properties Presto. | Not available. |
presto-connector-kafka | Ubah nilai dalam file kafka.properties Presto. | Not available. |
presto-connector-localfile | Ubah nilai dalam file localfile.properties Presto. | Not available. |
presto-connector-memory | Ubah nilai dalam file memory.properties Presto. | Not available. |
presto-connector-mongodb | Ubah nilai dalam file mongodb.properties Presto. | Not available. |
presto-connector-mysql | Ubah nilai dalam file mysql.properties Presto. | Not available. |
presto-connector-postgresql | Ubah nilai dalam file postgresql.properties Presto. | Not available. |
presto-connector-raptor | Ubah nilai dalam file raptor.properties Presto. | Not available. |
presto-connector-redis | Ubah nilai dalam file redis.properties Presto. | Not available. |
presto-connector-redshift | Ubah nilai dalam file redshift.properties Presto. | Not available. |
presto-connector-tpch | Ubah nilai dalam file tpch.properties Presto. | Not available. |
presto-connector-tpcds | Ubah nilai dalam file tpcds.properties Presto. | Not available. |
trino-log | Ubah nilai dalam file log.properties Trino. | Restarts Trino-Server (for Trino) |
trino-config | Ubah nilai dalam file config.properties Trino. | Restarts Trino-Server (for Trino) |
trino-password-authenticator | Ubah nilai dalam file password-authenticator.properties Trino. | Restarts Trino-Server (for Trino) |
trino-env | Ubah nilai dalam file trino-env.sh Trino. | Restarts Trino-Server (for Trino) |
trino-node | Ubah nilai dalam file node.properties Trino. | Not available. |
trino-connector-blackhole | Ubah nilai dalam file blackhole.properties Trino. | Not available. |
trino-connector-cassandra | Ubah nilai dalam file cassandra.properties Trino. | Not available. |
trino-connector-hive | Ubah nilai dalam file hive.properties Trino. | Restarts Trino-Server (for Trino) |
trino-connector-iceberg | Ubah nilai dalam file iceberg.properties Trino. | Restarts Trino-Server (for Trino) |
trino-connector-jmx | Ubah nilai dalam file jmx.properties Trino. | Not available. |
trino-connector-kafka | Ubah nilai dalam file kafka.properties Trino. | Not available. |
trino-connector-localfile | Ubah nilai dalam file localfile.properties Trino. | Not available. |
trino-connector-memory | Ubah nilai dalam file memory.properties Trino. | Not available. |
trino-connector-mongodb | Ubah nilai dalam file mongodb.properties Trino. | Not available. |
trino-connector-mysql | Ubah nilai dalam file mysql.properties Trino. | Not available. |
trino-connector-postgresql | Ubah nilai dalam file postgresql.properties Trino. | Not available. |
trino-connector-raptor | Ubah nilai dalam file raptor.properties Trino. | Not available. |
trino-connector-redis | Ubah nilai dalam file redis.properties Trino. | Not available. |
trino-connector-redshift | Ubah nilai dalam file redshift.properties Trino. | Not available. |
trino-connector-tpch | Ubah nilai dalam file tpch.properties Trino. | Not available. |
trino-connector-tpcds | Ubah nilai dalam file tpcds.properties Trino. | Not available. |
ranger-kms-dbks-site | Ubah nilai dalam file dbks-site.xml dari Ranger. KMS | Restarts Ranger KMS Server. |
ranger-kms-site | Ubah nilai dalam ranger-kms-site file.xml.Ranger. KMS | Restarts Ranger KMS Server. |
ranger-kms-env | Ubah nilai di KMS lingkungan Ranger. | Restarts Ranger KMS Server. |
ranger-kms-log4j | Ubah nilai dalam file kms-log4j.properties dari Ranger. KMS | Not available. |
ranger-kms-db-ca | Ubah nilai untuk file CA di S3 untuk SQL SSL koneksi Saya dengan RangerKMS. | Not available. |
spark | Pengaturan EMR yang dikurasi Amazon untuk Apache Spark. | This property modifies spark-defaults. See actions there. |
spark-defaults | Ubah nilai dalam file spark-defaults.conf Spark. | Restarts Spark history server and Spark thrift server. |
spark-env | Ubah nilai di lingkungan Spark. | Restarts Spark history server and Spark thrift server. |
spark-hive-site | Ubah nilai dalam file hive-site.xml Spark | Not available. |
spark-log4j2 | Ubah nilai dalam file log4j2.properties Spark. | Restarts Spark history server and Spark thrift server. |
spark-metrics | Ubah nilai dalam file metrics.properties Spark. | Restarts Spark history server and Spark thrift server. |
sqoop-env | Ubah nilai dalam lingkungan Sqoop. | Not available. |
sqoop-oraoop-site | Ubah nilai dalam file oraoop-site.xml Sqoop OraOop ini. | Not available. |
sqoop-site | Ubah nilai dalam file sqoop-site.xml Sqoop. | Not available. |
tez-site | Ubah nilai dalam file tez-site.xml Tez. | Restart Oozie and HiveServer2. |
yarn-env | Ubah nilai di YARN lingkungan. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts MapReduce-HistoryServer. |
yarn-site | Ubah nilai dalam YARN file yarn-site.xml. | Restarts the Hadoop YARN services ResourceManager, NodeManager, ProxyServer, and TimelineServer. Additionally restarts Livy Server and MapReduce-HistoryServer. |
zeppelin-env | Ubah nilai di lingkungan Zeppelin. | Restarts Zeppelin. |
zeppelin-site | Ubah pengaturan konfigurasi di zeppelin-site.xml. | Restarts Zeppelin. |
zookeeper-config | Ubah nilai dalam ZooKeeper file zoo.cfg. | Restarts Zookeeper server. |
zookeeper-log4j | Ubah nilai dalam file ZooKeeper log4j.properties. | Restarts Zookeeper server. |
6.8.1 perubahan log
Tanggal | Peristiwa | Deskripsi |
---|---|---|
2023-08-30 | Perbarui catatan rilis | Menambahkan beberapa perbaikan terkait bidang kontrol ke catatan rilis |
2023-08-21 | Publikasi Docs | Catatan rilis Amazon EMR 6.8.1 pertama kali diterbitkan |
2023-08-16 | Penerapan selesai | Amazon EMR 6.8.1 sepenuhnya digunakan untuk semua Wilayah yang didukung |
2023-08-04 | Rilis awal | Amazon EMR 6.8.1 pertama kali dikerahkan ke Wilayah komersial terbatas |