Pacotes do provedor Apache Airflow instalados em ambientes Amazon MWAA
O Amazon MWAA instala extras do provedorrequirements.txt
. Esta página lista os pacotes do provedor Apache Airflow instalados pelo Amazon MWAA para todos os ambientes do Apache Airflow v2.
nota
No Apache Airflow v2 e superior, o Amazon MWAA instala o Watchtower versão 2.0.1pip3 install -r requirements.txt
para garantir que a compatibilidade com o registro em log do CloudWatch não seja substituída por outras instalações da biblioteca Python.
Sumário
- Pacotes de provedores para conexões do Apache Airflow v2.10.1
- Pacotes de provedores para conexões do Apache Airflow v2.9.2
- Pacotes de provedores para conexões do Apache Airflow v2.8.1
- Pacotes de provedores para conexões Apache Airflow v2.7.2
- Pacotes de provedores para conexões Apache Airflow v2.6.3
- Pacotes de provedores para conexões Apache Airflow v2.5.1
- Pacotes de provedores para conexões Apache Airflow v2.4.3
- Pacotes de provedores para conexões Apache Airflow v2.2.2
- Pacotes de provedores para conexões Apache Airflow v2.0.2
- Como especificar pacotes de fornecedores mais novos
Pacotes de provedores para conexões do Apache Airflow v2.10.1
Quando você cria um ambiente do Amazon MWAA no Apache Airflow v2.10.1, o Amazon MWAA instala os pacotes de provedores a seguir, usados em conexões do Apache Airflow.
nota
É possível especificar a versão mais recente compatível de apache-airflow-providers-amazon
para atualizar este provedor. Para obter mais informações sobre como especificar versões mais novas, consulte Como especificar pacotes de fornecedores mais novos.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Fab |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
SQL comum |
|
Conexão SQLite |
|
Conexão SMTP |
Pacotes de provedores para conexões do Apache Airflow v2.9.2
Quando você cria um ambiente do Amazon MWAA no Apache Airflow v2.9.2, o Amazon MWAA instala os pacotes de provedores a seguir, usados em conexões do Apache Airflow.
nota
É possível especificar a versão mais recente compatível de apache-airflow-providers-amazon
para atualizar este provedor. Para obter mais informações sobre como especificar versões mais novas, consulte Como especificar pacotes de fornecedores mais novos.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Fab |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
SQL comum |
|
Conexão SQLite |
|
Conexão SMTP |
Pacotes de provedores para conexões do Apache Airflow v2.8.1
Quando você cria um ambiente do Amazon MWAA no Apache Airflow v2.8.1, o Amazon MWAA instala os pacotes de provedores a seguir, usados em conexões do Apache Airflow.
nota
É possível especificar a versão mais recente compatível de apache-airflow-providers-amazon
para atualizar este provedor. Para obter mais informações sobre como especificar versões mais novas, consulte Como especificar pacotes de fornecedores mais novos.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
SQL comum |
|
Conexão SQLite |
Pacotes de provedores para conexões Apache Airflow v2.7.2
Quando você cria um ambiente Amazon MWAA no Apache Airflow v2.7.2, o Amazon MWAA instala os seguintes pacotes de provedores usados para conexões do Apache Airflow.
nota
É possível especificar a versão mais recente compatível de apache-airflow-providers-amazon
para atualizar este provedor. Para obter mais informações sobre como especificar versões mais novas, consulte Como especificar pacotes de fornecedores mais novos.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
SQL comum |
|
Conexão SQLite |
Pacotes de provedores para conexões Apache Airflow v2.6.3
Quando você cria um ambiente Amazon MWAA no Apache Airflow v2.6.3, o Amazon MWAA instala os seguintes pacotes de provedores usados para conexões do Apache Airflow.
nota
É possível especificar a versão mais recente compatível de apache-airflow-providers-amazon
para atualizar este provedor. Para obter mais informações sobre como especificar versões mais novas, consulte Como especificar pacotes de fornecedores mais novos.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
SQL comum |
|
Conexão SQLite |
Pacotes de provedores para conexões Apache Airflow v2.5.1
Quando você cria um ambiente Amazon MWAA no Apache Airflow v2.5.1, o Amazon MWAA instala os seguintes pacotes de provedores usados para conexões do Apache Airflow.
nota
É possível especificar a versão mais recente compatível de apache-airflow-providers-amazon
para atualizar este provedor. Para obter mais informações sobre como especificar versões mais novas, consulte Como especificar pacotes de fornecedores mais novos.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
SQL comum |
|
Conexão SQLite |
Pacotes de provedores para conexões Apache Airflow v2.4.3
Quando você cria um ambiente Amazon MWAA no Apache Airflow v2.4.3, o Amazon MWAA instala os seguintes pacotes de provedores usados para conexões do Apache Airflow.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
SQL comum |
|
Conexão SQLite |
Pacotes de provedores para conexões Apache Airflow v2.2.2
Quando você cria um ambiente Amazon MWAA no Apache Airflow v2.2.2, o Amazon MWAA instala os seguintes pacotes de provedores usados para conexões do Apache Airflow.
Connection type | Pacote |
---|---|
Conexão do AWS |
|
Conexão com o Postgres |
|
Conexão FTP |
|
Conexão Celery |
|
Conexão HTTP |
|
Conexão IMAP |
|
Conexão SQLite |
Pacotes de provedores para conexões Apache Airflow v2.0.2
Quando você cria um ambiente Amazon MWAA no Apache Airflow v2.0.2, o Amazon MWAA instala os seguintes pacotes de provedores usados para conexões do Apache Airflow.
Connection type | Pacote |
---|---|
Conexão Tableau |
|
Conexão Databricks |
|
Conexão SSH |
|
Conexão com o Postgres |
|
Conexão Docker |
|
Conexão Oracle |
|
Conexão Presto |
|
Conexão SFTP |
Como especificar pacotes de fornecedores mais novos
A partir do Apache Airflow v2.7.2, seu arquivo de requisitos deve incluir uma declaração --constraint
. Se você não fornecer uma restrição, o Amazon MWAA especificará uma para garantir que os pacotes listados em seus requisitos sejam compatíveis com a versão do Apache Airflow que você está usando.
Os arquivos de restrições do Apache Airflow especificam as versões do provedor disponíveis no momento de um lançamento do Apache Airflow. No entanto, em muitos casos os provedores mais novos são compatíveis com essa versão do Apache Airflow. Como você deve usar restrições, para especificar uma versão mais recente de um pacote de provedor, é possível modificar o arquivo de restrições para uma versão específica do provedor:
-
Baixe o arquivo de restrições específicas da versão em https://raw.githubusercontent.com/apache/airflow/constraints-2.7.2/constraints-3.11.txt"
-
Modifique a versão
apache-airflow-providers-amazon
no arquivo de restrições para a versão que você deseja usar. -
Salve o arquivo de restrições modificado na pasta DAGs do Amazon S3 do seu ambiente Amazon MWAA, por exemplo, como
constraints-3.11-updated.txt
-
Especifique seus requisitos conforme mostrado a seguir.
--constraint "/usr/local/airflow/dags/constraints-3.11-updated.txt" apache-airflow-providers-amazon==
version-number
nota
Se você estiver usando um servidor web privado, recomendamos que você empacote as bibliotecas necessárias como arquivos WHL usando o executor local
Amazon MWAA.