View a markdown version of this page

Buat lingkungan Amazon MWAA - Amazon Managed Workflows for Apache Airflow

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Buat lingkungan Amazon MWAA

Alur Kerja Terkelola Amazon untuk Apache Airflow mengatur Apache Airflow di lingkungan dalam versi pilihan Anda menggunakan Apache Airflow open-source yang sama dan antarmuka pengguna yang tersedia dari Apache. Panduan ini menjelaskan langkah-langkah untuk membuat lingkungan Amazon MWAA.

Sebelum Anda mulai

  • Jaringan VPC yang Anda tentukan untuk lingkungan Anda tidak dapat dimodifikasi setelah lingkungan dibuat.

  • Anda memerlukan bucket Amazon S3 yang dikonfigurasi untuk Mem blokir semua akses publik, dengan Bucket Versioning diaktifkan.

  • Anda memerlukan izin Akun AWS dengan untuk menggunakan Amazon MWAA, dan izin di AWS Identity and Access Management (IAM) untuk membuat peran IAM. Jika Anda memilih mode akses jaringan pribadi untuk server web Apache Airflow, yang membatasi akses Apache Airflow dalam Amazon VPC Anda, Anda memerlukan izin di IAM untuk membuat titik akhir Amazon VPC.

catatan

Amazon MWAA secara dinamis menentukan jaringan selama pembuatan. Jika Anda menggunakan subnet IPv6, Amazon MWAA membuat konektivitas tautan pribadi IPv6 ke database dan server web. Amazon MWAA tidak mendukung transisi antar jenis jaringan dan tidak dapat meningkatkan lingkungan yang ada ke IPv6.

Versi Apache Airflow

Versi Apache Airflow berikut didukung di Amazon Managed Workflow untuk Apache Airflow.

catatan
  • Efektif 30 Desember 2025, Amazon MWAA akan mengakhiri dukungan untuk Apache Airflow versi v2.4.3, v2.5.1, dan v2.6.3. Untuk informasi lebih lanjut, lihatDukungan dan FAQ versi Apache Airflow.

  • Dimulai dengan Apache Airflow v2.2.2, Amazon MWAA mendukung penginstalan persyaratan Python, paket penyedia, dan plugin khusus langsung di server web Apache Airflow.

  • Dimulai dengan Apache Airflow v2.7.2, file persyaratan Anda harus menyertakan --constraint pernyataan. Jika Anda tidak memberikan batasan, Amazon MWAA akan menentukannya untuk memastikan paket yang tercantum dalam persyaratan Anda kompatibel dengan versi Apache Airflow yang Anda gunakan.

    Untuk informasi selengkapnya tentang menyiapkan batasan dalam file persyaratan Anda, lihat Meng instal dependensi Python.

Untuk informasi selengkapnya tentang migrasi penerapan Apache Airflow yang dikelola sendiri, atau migrasi lingkungan Amazon MWAA yang ada, termasuk petunjuk untuk membuat cadangan database metadata Anda, lihat Panduan Migrasi Amazon MWAA. https://docs.aws.amazon.com/mwaa/latest/migrationguide/index.html

Buat lingkungan

Bagian berikut menjelaskan langkah-langkah untuk membuat lingkungan Amazon MWAA.

Langkah satu: Tentukan detail

Untuk menentukan detail untuk lingkungan
  1. Buka konsol Amazon MWAA.

  2. Pilih milik Anda Wilayah AWS.

  3. Pilih Buat lingkungan.

  4. Pada halaman T entukan detail, di bawah Detail lingkungan:

    1. Masukkan nama unik untuk lingkungan Anda di Nama.

    2. Pilih versi Apache Airflow di bagian Versi Airflow.

      catatan

      Jika tidak ada nilai yang ditentukan, default ke versi Apache Airflow terbaru. Versi terbaru yang tersedia adalah Apache Airflow v3.2.1.

    3. Masukkan periode pemeliharaan untuk lingkungan Anda di jendela pemeliharaan mingguan.

      catatan

      Amazon MWAA melakukan dua jenis pemeliharaan di lingkungan Anda:

      Pemeliharaan database rutin

      Amazon MWAA meneruskan jendela pemeliharaan ke database metadata Aurora PostgreSQL yang mendasarinya. Pemeliharaan ini tidak mengganggu DAG Anda yang sedang berjalan, tugas, atau operasi Apache Airflow lainnya.

      Penambalan kritis

      Dalam kasus yang jarang terjadi, Amazon MWAA menerapkan patch keamanan atau stabilitas ke lingkungan Anda. Anda menerima pemberitahuan melalui Dasbor AWS Kesehatan sebelum patch diterapkan. Lingkungan Anda dimulai ulang selama tambalan dan sementara tidak tersedia.

      Anda tidak dapat memilih keluar dari pemeliharaan pada layanan terkelola.

  5. Di bawah kode DAG di Amazon S3 tentukan hal berikut:

    1. Ember S3. Pilih Browse S3 dan pilih bucket Amazon S3 Anda, atau masukkan URI Amazon S3.

    2. Folder DAGs. Pilih Browse S3 dan pilih dags folder di bucket Amazon S3 Anda, atau masukkan URI Amazon S3.

    3. File plugin - opsional . Pilih Browse S3 dan pilih plugins.zip file di bucket Amazon S3 Anda, atau masukkan URI Amazon S3.

    4. File persyaratan - opsional . Pilih Browse S3 dan pilih requirements.txt file di bucket Amazon S3 Anda, atau masukkan URI Amazon S3.

    5. File skrip startup - opsional , Pilih Jelajahi S3 dan pilih file skrip di bucket Amazon S3 Anda, atau masukkan URI Amazon S3.

  6. Pilih Berikutnya.

Langkah dua: Konfigurasikan pengaturan lanjutan

Untuk mengonfigurasi pengaturan lanjutan
  1. Pada halaman Konfigurasi pengaturan lanjutan, di bawah Jaringan:

    1. Pilih Amazon VPC Anda.

      Langkah ini mengisi dua subnet pribadi di Amazon VPC Anda.

  2. Di bawah akses server web, pilih mode akses Apache Airflow pilihan Anda:

    1. Jaringan pribadi. Ini membatasi akses UI Apache Airflow untuk pengguna dalam Amazon VPC Anda yang telah diberikan akses ke kebijakan IAM untuk lingkungan Anda. Anda memerlukan izin untuk membuat titik akhir Amazon VPC untuk langkah ini.

      catatan

      Pilih opsi Jaringan pribadi jika UI Apache Airflow Anda hanya diakses dalam jaringan perusahaan, dan Anda tidak memerlukan akses ke repositori publik untuk instalasi persyaratan server web. Jika Anda memilih opsi mode akses ini, Anda perlu membuat mekanisme untuk mengakses server web Apache Airflow Anda di Amazon VPC Anda. Untuk informasi lebih lanjut, lihatMengakses titik akhir VPC untuk server web Apache Airflow Anda (akses jaringan pribadi).

    2. Jaringan publik. Hal ini memungkinkan Apache Airflow UI diakses melalui internet oleh pengguna yang diberikan akses ke kebijakan IAM untuk lingkungan Anda.

    3. Akses jaringan publik dan pribadi. Tersedia untuk Apache Airflow versi 3.2.1 dan yang lebih baru. Hal ini memungkinkan Apache Airflow UI diakses melalui internet, sementara pekerja berkomunikasi dengan server web melalui titik akhir VPC pribadi. Pilih opsi ini jika Amazon VPC yang menghosting lingkungan Anda tidak memiliki akses internet.

  3. Di bawah Grup keamanan, pilih grup keamanan yang digunakan untuk mengamankan Amazon VPC Anda:

    1. Secara default, Amazon MWAA membuat grup keamanan di Amazon VPC Anda dengan aturan masuk dan keluar tertentu di Buat grup keamanan baru.

    2. Opsional. Hapus centang kotak di Buat grup keamanan baru untuk memilih hingga 5 grup keamanan.

      catatan

      Grup keamanan Amazon VPC yang ada harus dikonfigurasi dengan aturan masuk dan keluar tertentu untuk mengizinkan lalu lintas jaringan. Untuk mempelajari lebih lanjut, lihatKeamanan di VPC Anda di Amazon MWAA.

  4. Di bawah kelas Lingkungan, pilih kelas lingkungan.

    Sebaiknya pilih ukuran terkecil yang diperlukan untuk mendukung beban kerja Anda. Anda dapat mengubah kelas lingkungan kapan saja.

  5. Untuk Jumlah pekerja maksimum, tentukan jumlah maksimum pekerja Apache Airflow yang akan dijalankan di lingkungan.

    Untuk informasi lebih lanjut, lihatContoh kasus penggunaan kinerja tinggi.

  6. Tentukan Jumlah server web maksimum dan Jumlah server web minimum untuk mengonfigurasi cara Amazon MWAA menskalakan server web Apache Airflow di lingkungan Anda.

    Untuk informasi selengkapnya tentang penskalaan otomatis server web, lihatMengkonfigurasi penskalaan otomatis server web Amazon MWAA.

  7. Di bawah Enkripsi, pilih opsi enkripsi data:

    1. Secara default, Amazon MWAA menggunakan kunci AWS milik -untuk mengenkripsi data Anda.

    2. Opsional. Pilih Sesuaikan pengaturan enkripsi (lanjutan) untuk memilih AWS KMS kunci yang berbeda. Jika Anda memilih untuk menentukan Customer-managed kunci pada langkah ini, Anda harus menentukan ID AWS KMS kunci atau ARN. AWS KMS Alias dan kunci multi-wilayah tidak didukung oleh Amazon MWAA. Jika Anda menentukan kunci Amazon S3 untuk enkripsi sisi server di bucket Amazon S3 Anda, Anda harus menentukan kunci yang sama untuk lingkungan Amazon MWAA Anda.

      catatan

      Anda harus memiliki izin ke kunci untuk memilihnya di konsol Amazon MWAA. Anda juga harus memberikan izin bagi Amazon MWAA untuk menggunakan kunci dengan melampirkan kebijakan yang dijelaskan diLampirkan kebijakan kunci.

  8. Direkomendasikan. Di bawah Pemantauan, pilih satu atau beberapa kategori log untuk konfigurasi pencatatan aliran udara untuk mengirim log Apache Airflow ke CloudWatch Log:

    1. Log tugas aliran udara. Pilih jenis log tugas Apache Airflow untuk dikirim ke tingkat CloudWatch Log in Log.

    2. Log server web aliran udara. Pilih jenis log server web Apache Airflow untuk dikirim ke tingkat CloudWatch Log in Log.

    3. Log penjadwal aliran udara. Pilih jenis log penjadwal Apache Airflow untuk dikirim ke tingkat CloudWatch Log in Log.

    4. Log pekerja aliran udara. Pilih jenis log pekerja Apache Airflow yang akan dikirim ke tingkat CloudWatch Log in Log.

    5. Log pemrosesan DAG aliran udara. Pilih jenis log pemrosesan Apache Airflow DAG untuk dikirim ke tingkat CloudWatch Log in Log.

  9. Opsional. Untuk opsi konfigurasi Aliran Udara, pilih Tambahkan opsi konfigurasi khusus.

    Anda dapat memilih dari daftar dropdown pilihan konfigurasi Apache Airflow yang disarankan untuk versi Apache Airflow Anda, atau tentukan opsi konfigurasi khusus. Misalnya, core.default_task_retries : 3.

  10. Opsional. Di bawah Tag, pilih Tambahkan tag baru untuk mengaitkan tag ke lingkungan Anda. Misalnya, Environment : Staging.

  11. Di bawah Iz in, pilih peran eksekusi:

    1. Secara default, Amazon MWAA membuat peran eksekusi di Buat peran baru. Anda harus memiliki izin untuk membuat peran IAM untuk menggunakan opsi ini.

    2. Opsional. Pilih Masukkan peran ARN untuk memasukkan Nama Sumber Daya Amazon (ARN) dari peran eksekusi yang ada.

  12. Pilih Berikutnya.

Langkah ketiga: Tinjau dan buat

Untuk meninjau ringkasan lingkungan
  • Tinjau ringkasan lingkungan, pilih Buat lingkungan.

    catatan

    Dibutuhkan sekitar dua puluh hingga tiga puluh menit untuk menciptakan lingkungan.