在亞馬遜 MWAA 與 DAG 工作 - Amazon Managed Workflows for Apache Airflow

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

在亞馬遜 MWAA 與 DAG 工作

若要在適用於 Apache 氣流環境的 Amazon 受管工作流程上執行定向無環圖 (DAG),請將檔案複製到連接到環境的 Amazon S3 儲存貯體,然後讓 Amazon MWAA 知道您的 DAG 和支援檔案位於 Amazon MWAA 主控台上的位置。Amazon MWAA 負責同步工作者、排程器和 Web 伺服器之間的 DAG。本指南說明如何在 Amazon MWAA 環境中新增或更新您的 DAG,以及如何安裝自訂外掛程式和 Python 相依性。

Amazon S3 存儲桶概述

亞馬遜 MWAA 環境的 Amazon S3 儲存貯體必須封鎖公開存取。根據預設,所有 Amazon S3 資源 (儲存貯體、物件和相關子資源 (例如生命週期組態) 都是私有的。

  • 只有資源擁有者 (建立值區的AWS帳號) 可以存取資源。資源擁有者 (例如,您的管理員) 可以透過撰寫存取控制原則,將存取權限授與其他人。

  • 您設定的存取政策必須具有將 DAG、自訂外掛程式和 Python 相依性新增requirements.txt至 Amazon S3 儲存貯體的權限。plugins.zip如需包含所需權限的範例政策,請參閱 Amazon FullConsoleAccess mWAA。

亞馬遜 MWAA 環境的 Amazon S3 儲存貯體必須啟用版本控制。啟用 Amazon S3 儲存貯體版本控制後,只要建立新版本,就會建立新副本。

  • 已為 a 中的自訂外掛程式啟用版本控制plugins.zip,並在 Amazon S3 儲存貯體requirements.txt上啟用 Python 相依性。

  • 每次在 Amazon S3 儲存貯體requirements.txt上更新這些檔案時plugins.zip,您都必須在 Amazon MWAA 主控台上指定和版本。