Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menggunakan Katalog Data AWS Glue sebagai metastore untuk Hive

Menggunakan Amazon EMR rilis 5.8.0 atau yang lebih baru, Anda dapat mengonfigurasi Hive untuk menggunakan Katalog Data AWS Glue sebagai metastore. Kami merekomendasikan konfigurasi ini ketika Anda memerlukan metastore persisten atau metastore bersama oleh kelompok yang berbeda, Layanan, aplikasi, atau AWS rekening.

AWS Glue adalah layanan ekstrak, transformasi, dan beban (ETL) yang dikelola sepenuhnya yang membuatnya sederhana dan hemat biaya untuk mengkategorikan data Anda, membersihkannya, memperkayanya, dan memindahkannya dengan andal di antara berbagai penyimpanan data. Katalog Data AWS Glue menyediakan repositori metadata terpadu di berbagai sumber data dan format data, terintegrasi dengan Amazon EMR serta Amazon RDS, Amazon Redshift, Redshift Spectrum, Athena, dan aplikasi apa pun yang kompatibel dengan metastore Apache Hive. AWS Glue crawler dapat secara otomatis menyimpulkan skema dari data sumber di Amazon S3 dan menyimpan metadata terkait dalam Katalog Data. Untuk informasi selengkapnya tentang Katalog Data, lihat Mengisi Katalog Data AWS Glue di Panduan Pengembang AWS Glue.

Biaya terpisah berlaku untuk AWS Glue. Ada tarif bulanan untuk menyimpan dan mengakses metadata di Katalog Data, tarif per jam yang ditagih per menit untuk pekerjaan AWS Glue ETL dan runtime crawler, dan tarif per jam yang ditagih per menit untuk setiap titik akhir pengembangan yang disediakan. Katalog Data memungkinkan Anda untuk menyimpan hingga satu juta objek tanpa biaya. Jika Anda menyimpan lebih dari satu juta objek, Anda dikenakan biaya USD$1 untuk setiap 100.000 objek lebih dari satu juta. Sebuah objek dalam Katalog Data adalah tabel, partisi, atau database. Untuk informasi lebih lanjut, lihat Harga Glue.

Menentukan Katalog Data AWS Glue sebagai metastore

Anda dapat menentukan Katalog Data AWS Glue sebagai metastore menggunakan AWS Management Console, AWS CLI, atau Amazon EMR API. Bila Anda menggunakan CLI atau API, Anda menggunakan klasifikasi konfigurasi untuk Hive untuk menentukan Katalog Data. Selain itu, dengan Amazon EMR 5.16.0 dan yang lebih baru, Anda dapat menggunakan klasifikasi konfigurasi untuk menentukan Katalog Data yang berbeda. Akun AWS Bila menggunakan konsol, Anda dapat menentukan Katalog Data menggunakan Opsi lanjutan atau Opsi cepat.

Console

Untuk menentukan AWS Glue Data Catalog sebagai metastore Hive dengan konsol

1. Masuk ke AWS Management Console, dan buka konsol EMR Amazon di https://console.aws.amazon.com /emr.

2. Di bawah EMR EC2 di panel navigasi kiri, pilih Clusters, lalu pilih Create cluster.

3. Di bawah Bundel aplikasi, pilih Core Hadoop, HBase, atau Custom. Jika Anda menyesuaikan cluster Anda, pastikan Anda memilih Hive atau HCatalog sebagai salah satu aplikasi Anda.

4. Di bawah Pengaturan AWS Glue Data Catalog, pilih kotak centang Use for Hive table metadata.

5. Pilih opsi lain yang berlaku untuk cluster Anda.

6. Untuk meluncurkan cluster Anda, pilih Create cluster.

CLI

Untuk menentukan Katalog Data AWS Glue sebagai metastore Hive dengan AWS CLI

Untuk informasi selengkapnya tentang menentukan klasifikasi konfigurasi menggunakan API EMR AWS CLI dan EMR, lihat. Konfigurasikan aplikasi

• Tentukan nilai untuk hive.metastore.client.factory.class menggunakan hive-site klasifikasi konfigurasi seperti yang ditunjukkan dalam contoh berikut:

  [
    {
      "Classification": "hive-site",
      "Properties": {
        "hive.metastore.client.factory.class": "com.amazonaws.glue.catalog.metastore.AWSGlueDataCatalogHiveClientFactory"
      }
    }
  ]
  						

  Pada versi rilis EMR 5.28.0, 5.28.1, 5.29.0, atau 6.x, jika Anda membuat cluster menggunakan Glue AWS Data Catalog sebagai metastore, atur ke. hive.metastore.schema.verification false Ini mencegah Hive dan HCatalog memvalidasi skema metastore terhadap MySQL. Tanpa konfigurasi ini, grup instance utama akan ditangguhkan setelah konfigurasi ulang di Hive atau. HCatalog

  [
    {
      "Classification": "hive-site",
      "Properties": {
        "hive.metastore.client.factory.class": "com.amazonaws.glue.catalog.metastore.AWSGlueDataCatalogHiveClientFactory",
        "hive.metastore.schema.verification": "false"
      }
    }
  ]
  					

  Jika Anda sudah memiliki cluster pada rilis EMR versi 5.28.0, 5.28.1, atau 5.29.0, Anda dapat mengatur grup instans utama dengan informasi berikut: hive.metastore.schema.verification false

     
      Classification = hive-site
      Property       = hive.metastore.schema.verification
      Value          = false
  					

  Untuk menentukan Katalog Data di AWS akun yang berbeda, tambahkan hive.metastore.glue.catalogid properti seperti yang ditunjukkan pada contoh berikut. Ganti acct-id dengan AWS akun Katalog Data.

  [
    {
      "Classification": "hive-site",
      "Properties": {
        "hive.metastore.client.factory.class": "com.amazonaws.glue.catalog.metastore.AWSGlueDataCatalogHiveClientFactory",
        "hive.metastore.schema.verification": "false",
        "hive.metastore.glue.catalogid": "acct-id"
      }
    }
  ]
  				

Izin IAM

Profil EC2 instance untuk cluster harus memiliki izin IAM untuk tindakan AWS Glue. Selain itu, jika Anda mengaktifkan enkripsi untuk objek AWS Glue Data Catalog, peran juga harus diizinkan untuk mengenkripsi, mendekripsi, dan menghasilkan yang AWS KMS key digunakan untuk enkripsi.

Izin untuk tindakan AWS Glue

Jika Anda menggunakan profil EC2 instans default untuk Amazon EMR, tindakan tidak diperlukan. Kebijakan AmazonElasticMapReduceforEC2Role terkelola yang dilampirkan pada EMR_EC2_DefaultRole memungkinkan semua tindakan AWS Glue yang diperlukan. Namun, jika Anda menentukan profil dan izin EC2 instance khusus, Anda harus mengonfigurasi tindakan AWS Glue yang sesuai. Gunakan AmazonElasticMapReduceforEC2Role Kebijakan yang dikelola sebagai titik awal. Untuk informasi selengkapnya, lihat Peran layanan untuk EC2 instance klaster (profil EC2 instance) di Panduan Manajemen EMR Amazon.

Izin untuk mengenkripsi dan mendekripsi Katalog Data Glue AWS

Profil instans Anda memerlukan izin untuk mengenkripsi dan mendekripsi data menggunakan kunci Anda. Anda tidak perlu mengonfigurasi izin ini jika kedua pernyataan berikut berlaku:

Jika tidak, Anda harus menambahkan pernyataan berikut ke kebijakan izin yang dilampirkan ke profil EC2 instans Anda.

[
    {
        "Version": "2012-10-17",
        "Statement": [
            {
                "Effect": "Allow",
                "Action": [
                    "kms:Decrypt",
                    "kms:Encrypt",
                    "kms:GenerateDataKey"
                ],
                "Resource": "arn:aws:kms:region:acct-id:key/12345678-1234-1234-1234-123456789012"
            }
        ]
    }
]

Untuk informasi selengkapnya tentang enkripsi AWS Glue Data Catalog, lihat Mengenkripsi katalog data Anda di Panduan Pengembang AWS Glue.

Izin berbasiskan sumber daya

Jika Anda menggunakan AWS Glue bersama dengan Hive, Spark, atau Presto di Amazon EMR AWS , Glue mendukung kebijakan berbasis sumber daya untuk mengontrol akses ke sumber daya Katalog Data. Sumber daya ini termasuk database, tabel, koneksi, dan fungsi yang ditetapkan pengguna. Untuk informasi lebih lanjut, lihat AWS Kebijakan sumber daya Glue di AWS Panduan Developer Glue.

Saat menggunakan kebijakan berbasis sumber daya untuk membatasi akses ke Glue AWS dari dalam Amazon EMR, prinsip yang Anda tentukan dalam kebijakan izin harus berupa ARN peran yang terkait dengan profil EC2 instance yang ditentukan saat kluster dibuat. Misalnya, untuk kebijakan berbasis sumber daya yang dilampirkan ke katalog, Anda dapat menentukan peran ARN untuk peran layanan default untuk EC2 instance klaster, EMR_EC2_DefaultRole sepertiPrincipal, menggunakan format yang ditampilkan dalam contoh berikut:

arn:aws:iam::acct-id:role/EMR_EC2_DefaultRole

acct-idBisa berbeda dari ID akun AWS Glue. Hal ini memungkinkan akses dari cluster EMR di account yang berbeda. Anda dapat menentukan beberapa kepala sekolah, masing-masing dari akun yang berbeda.

Pertimbangan ketika menggunakan AWS Katalog data Glue

Pertimbangkan item berikut saat menggunakan AWS Glue Data Catalog sebagai metastore dengan Hive: