Criar um ambiente do Amazon MWAA
A solução Workflows gerenciados pela Amazon para Apache Airflow configura o Apache Airflow em um ambiente na versão escolhida usando o mesmo Apache Airflow e a mesma interface de usuário de código aberto disponíveis no Apache. Este guia descreve as etapas para criar um ambiente do Amazon MWAA.
Sumário
Antes de começar
-
A rede da VPC que você especifica para o ambiente não pode ser alterada após a criação dele.
-
Você precisa de um bucket do Amazon S3 configurado para bloquear todo o acesso público, com o controle de versionamento do bucket ativado.
-
Você precisa de uma conta da AWS com permissões para usar o Amazon MWAA e permissão no AWS Identity and Access Management (IAM) para criar perfis do IAM. Caso escolha o modo de acesso Rede privada para o servidor Web do Apache Airflow, que limita o acesso do Apache Airflow na Amazon VPC, você precisará de permissão no IAM para criar endpoints da Amazon VPC.
Versões do Apache Airflow
As seguintes versões do Apache Airflow são compatíveis no Amazon Managed Workflows for Apache Airflow.
nota
-
A partir do Apache Airflow v2.2.2, o Amazon MWAA oferece suporte à instalação de requisitos de Python, pacotes de provedores e plug-ins personalizados diretamente no servidor web Apache Airflow.
-
A partir do Apache Airflow v2.7.2, seu arquivo de requisitos deve incluir uma declaração
--constraint
. Se você não fornecer uma restrição, o Amazon MWAA especificará uma para garantir que os pacotes listados em seus requisitos sejam compatíveis com a versão do Apache Airflow que você está usando.Para obter mais informações sobre como configurar restrições em seu arquivo de requisitos, consulte Instalando dependências do Python.
Versão do Apache Airflow | Guia do Apache Airflow | Restrições do Apache Airflow | Versão do Python |
---|---|---|---|
Para obter mais informações sobre como migrar suas implantações autogerenciadas do Apache Airflow ou migrar um ambiente Amazon MWAA existente, incluindo instruções para fazer backup do seu banco de dados de metadados, consulte Guia de migração do Amazon MWAA.
Criar um ambiente
A seção a seguir descreve as etapas para criar um ambiente do Amazon MWAA.
Etapa um: especificar detalhes
Para especificar detalhes do ambiente
-
Abra o console do Amazon MWAA
. -
Use o seletor de regiões para selecionar uma região da AWS.
-
Selecione Create environment (Criar ambiente).
-
Na página Especificar detalhes, em Detalhes do ambiente:
-
Digite um nome exclusivo para seu ambiente em Nome.
-
Escolha a versão Apache Airflow na versão Airflow.
nota
Se nenhum valor for especificado, a versão será padronizada para a mais recente do Apache Airflow. A versão mais recente disponível é.
-
-
Em Código DAG no Amazon S3, selecione seu bucket do Amazon S3, especifique o seguinte:
-
S3 Bucket. Escolha Browse S3 e selecione seu bucket do Amazon S3 ou insira o URI do Amazon S3.
-
Pasta DAGs. Escolha Browse S3 e selecione a pasta
dags
em seu bucket do Amazon S3 ou insira o URI do Amazon S3. -
Arquivo de plug-ins - opcional. Escolha Browse S3 e selecione o arquivo
plugins.zip
em seu bucket do Amazon S3 ou insira o URI do Amazon S3. -
Arquivo de requisitos - opcional. Escolha Browse S3 e selecione o arquivo
requirements.txt
em seu bucket do Amazon S3 ou insira o URI do Amazon S3. -
Arquivo de script de inicialização - opcional, escolha Browse S3 e selecione o arquivo de script em seu bucket do Amazon S3 ou insira o URI do Amazon S3.
-
-
Escolha Próximo.
Etapa 2: definir as configurações avançadas
Para definir configurações avançadas
-
Na página Definir configurações avançadas, em Rede:
-
Escolha sua Amazon VPC.
Essa etapa preenche duas das sub-redes privadas em seu Amazon VPC.
-
-
Em Acesso ao servidor Web, selecione seu modo de acesso preferido do Apache Airflow:
-
Rede privada. Isso limita o acesso da interface do usuário do Apache Airflow aos usuários dentro de seu Amazon VPC que receberam acesso à política do IAM para seu ambiente. Você precisa de permissão para criar endpoints da VPC Amazon para esta etapa.
nota
Escolha a opção de rede privada se sua IU do Apache Airflow for acessada somente dentro de uma rede corporativa e você não precisar de acesso a repositórios públicos para a instalação dos requisitos do servidor web. Se escolher essa opção de modo de acesso, precisará criar um mecanismo para acessar seu servidor Web do Apache Airflow em seu Amazon VPC. Para ter mais informações, consulte Como acessar o endpoint da VPC para seu servidor Web Apache Airflow (acesso à rede privada).
-
Rede pública. Isso permite que a IU do Apache Airflow seja acessada pela Internet por usuários com acesso à política do IAM do seu ambiente.
-
-
Em Grupo (s) de segurança, escolha o grupo de segurança usado para proteger sua Amazon VPC:
-
Por padrão, o Amazon MWAA cria um grupo de segurança em sua Amazon VPC com regras específicas de entrada e saída em Criar novo grupo de segurança.
-
Opcional. Desmarque a caixa de seleção em Criar novo grupo de segurança para selecionar até 5 grupos de segurança.
nota
Um grupo de segurança existente do Amazon VPC deve ser configurado com regras específicas de entrada e saída para permitir o tráfego na rede. Para saber mais, consulte Segurança em sua VPC no Amazon MWAA.
-
-
Em Classe de ambiente, escolha uma classe de ambiente.
Recomendamos escolher o menor tamanho necessário para dar suporte a sua workload. É possível fazer alterações na classe de ambiente a qualquer momento.
-
Em Contagem máxima de operadores, especifique o número máximo de operadores do Apache Airflow a serem executados no ambiente.
Para ter mais informações, consulte Exemplo de caso de uso de alto desempenho.
-
Especifique a contagem máxima de servidores Web e a contagem mínima de servidores Web para configurar como o Amazon MWAA escala os servidores Web do Apache Airflow no ambiente.
Para obter mais informações sobre o ajuste de escala automático de servidores Web, consulte Como configurar o ajuste de escala automático do servidor Web do Amazon MWAA.
-
Em Criptografia, escolha uma opção de criptografia de dados:
-
Por padrão, o Amazon MWAA usa uma chave pertencente à AWS para criptografar seus dados.
-
Opcional. Escolha Personalizar configurações de criptografia (avançadas) para escolher uma AWS KMS chave diferente. Se optar por especificar uma chave gerenciada pelo cliente nesta etapa, deverá especificar um ID de chave AWS KMS ou ARN. Chaves aliases AWS KMS e multirregionais não são compatíveis com o Amazon MWAA. Se você especificou uma chave Amazon S3 para criptografia do lado do servidor em seu bucket Amazon S3, você deve especificar a mesma chave para seu ambiente Amazon MWAA.
nota
Você deve ter permissões para a chave para selecioná-la no console do Amazon MWAA. Você também deve conceder permissões para que o Amazon MWAA use a chave anexando a política descrita em Anexar política de chave.
-
-
Recomendado. Em Monitoramento, escolha uma ou mais categorias de registro para a configuração de registro do Airflow para enviar os registros do Apache Airflow para o CloudWatch Logs:
-
Logs de tarefas do Airflow. Os tipos de logs do Apache Airflow a serem enviados para o CloudWatch Logs no nível de log.
-
Logs do servidor web Airflow. Os tipos de logs do servidor Web do Apache Airflow a serem enviados para o CloudWatch Logs no nível de log.
-
Logs do agendador de Airflow. Os tipos de logs de programador do Apache Airflow a serem enviados para o CloudWatch Logs no nível de log.
-
Logs de operadores do Airflow. Escolha o tipo de logs do Apache Airflow a serem enviados para o CloudWatch Logs no nível de log.
-
Logs de processamento do Airflow DAG. Os tipos de logs de processamento de DAGs do Apache Airflow a serem enviados para o CloudWatch Logs no nível de log.
-
-
Opcional. Para opções de configuração do Airflow, escolha Adicionar opção de configuração personalizada.
É possível escolher na lista suspensa sugerida das opções de configuração do Apache Airflow para sua versão do Apache Airflow ou especificar opções de configuração personalizadas. Por exemplo,
core.default_task_retries
:3
. -
Opcional. Em Tags, escolha Adicionar nova tag para associar tags ao seu ambiente. Por exemplo,
Environment
:Staging
. -
Em Permissões, escolha um perfil de execução:
-
Por padrão, o Amazon MWAA cria um perfil de execução em Create a new role (Criar um nova perfil). Você deve ter permissão para criar perfis do IAM.
-
Opcional. Escolha Inserir ARN de perfil (ARN) para inserir o nome do recurso da Amazon (ARN) de um perfil de execução existente.
-
-
Escolha Next (Próximo).
Etapa 3: Revisar e criar
Para revisar um resumo do ambiente
-
Revise o resumo do ambiente e escolha Criar ambiente.
nota
Leva cerca de vinte a trinta minutos para criar um ambiente.