As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Crie um MWAA ambiente Amazon
A solução Workflows gerenciados pela Amazon para Apache Airflow configura o Apache Airflow em um ambiente na versão escolhida usando o mesmo Apache Airflow e a mesma interface de usuário de código aberto disponíveis no Apache. Este guia descreve as etapas para criar um MWAA ambiente Amazon.
Sumário
Antes de começar
-
A VPCrede que você especifica para seu ambiente não pode ser modificada após a criação do ambiente.
-
Você precisa de um bucket do Amazon S3 configurado para bloquear todo o acesso público, com o controle de versionamento do bucket ativado.
-
Você precisa de uma AWS conta com permissões para usar a Amazon MWAA e permissão em AWS Identity and Access Management (IAM) para criar IAM funções. Se você escolher o modo de acesso à rede privada para o servidor web Apache Airflow, que limita o acesso ao Apache Airflow na sua AmazonVPC, você precisará de permissão para IAM criar endpoints da Amazon. VPC
Versões do Apache Airflow
As seguintes versões do Apache Airflow são compatíveis no Amazon Managed Workflows for Apache Airflow.
nota
-
A partir do Apache Airflow v2.2.2, a Amazon MWAA suporta a instalação de requisitos de Python, pacotes de provedores e plug-ins personalizados diretamente no servidor web Apache Airflow.
-
A partir do Apache Airflow v2.7.2, seu arquivo de requisitos deve incluir uma declaração
--constraint
. Se você não fornecer uma restrição, a Amazon MWAA especificará uma para garantir que os pacotes listados em seus requisitos sejam compatíveis com a versão do Apache Airflow que você está usando.Para obter mais informações sobre como configurar restrições em seu arquivo de requisitos, consulte Instalando dependências do Python.
Versão do Apache Airflow | Guia do Apache Airflow | Restrições do Apache Airflow | Versão do Python |
---|---|---|---|
Criar um ambiente
A seção a seguir descreve as etapas para criar um MWAA ambiente Amazon.
Etapa um: especificar detalhes
Para especificar detalhes do ambiente
-
Abra o MWAA console da Amazon
. -
Use o seletor de AWS região para selecionar sua região.
-
Selecione Criar ambiente.
-
Na página Especificar detalhes, em Detalhes do ambiente:
-
Digite um nome exclusivo para seu ambiente em Nome.
-
Escolha a versão Apache Airflow na versão Airflow.
nota
Se nenhum valor for especificado, a versão será padronizada para a mais recente do Apache Airflow. A versão mais recente disponível é o Apache Airflow v2.10.3.
-
-
Em DAGcódigo no Amazon S3, especifique o seguinte:
-
S3 Bucket. Escolha Browse S3 e selecione seu bucket do Amazon S3 ou entre no Amazon S3. URI
-
DAGspasta. Escolha Browse S3 e selecione a
dags
pasta em seu bucket do Amazon S3 ou entre no Amazon S3. URI -
Arquivo de plug-ins - opcional. Escolha Browse S3 e selecione o
plugins.zip
arquivo em seu bucket do Amazon S3 ou entre no Amazon S3. URI -
Arquivo de requisitos - opcional. Escolha Browse S3 e selecione o
requirements.txt
arquivo em seu bucket do Amazon S3 ou entre no Amazon S3. URI -
Arquivo de script de inicialização - opcional, escolha Procurar S3e selecione o arquivo de script em seu bucket do Amazon S3 ou entre no Amazon S3. URI
-
-
Escolha Próximo.
Etapa 2: definir as configurações avançadas
Para definir configurações avançadas
-
Na página Definir configurações avançadas, em Rede:
-
Escolha sua Amazon VPC.
Essa etapa preenche duas das sub-redes privadas em sua Amazon. VPC
-
-
Em Acesso ao servidor Web, selecione seu modo de acesso preferido do Apache Airflow:
-
Rede privada. Isso limita o acesso da interface do usuário do Apache Airflow aos usuários da Amazon VPC que receberam acesso à IAMpolítica do seu ambiente. Você precisa de permissão para criar VPC endpoints da Amazon para esta etapa.
nota
Escolha a opção de rede privada se sua IU do Apache Airflow for acessada somente dentro de uma rede corporativa e você não precisar de acesso a repositórios públicos para a instalação dos requisitos do servidor web. Se você escolher essa opção de modo de acesso, precisará criar um mecanismo para acessar seu servidor Web Apache Airflow na Amazon. VPC Para obter mais informações, consulte Como acessar o endpoint da VPC para seu servidor Web Apache Airflow (acesso à rede privada).
-
Rede pública. Isso permite que a interface do usuário do Apache Airflow seja acessada pela Internet por usuários que tenham acesso à IAMpolítica do seu ambiente.
-
-
Em Grupo (s) de segurança, escolha o grupo de segurança usado para proteger sua Amazon VPC:
-
Por padrão, a Amazon MWAA cria um grupo de segurança em sua Amazon VPC com regras específicas de entrada e saída em Criar novo grupo de segurança.
-
Opcional. Desmarque a caixa de seleção em Criar novo grupo de segurança para selecionar até 5 grupos de segurança.
nota
Um grupo de VPC segurança existente da Amazon deve ser configurado com regras específicas de entrada e saída para permitir o tráfego na rede. Para saber mais, consulte Segurança na sua VPC na Amazon MWAA.
-
-
Em Classe de ambiente, escolha uma classe de ambiente.
Recomendamos escolher o menor tamanho necessário para dar suporte a sua workload. É possível fazer alterações na classe de ambiente a qualquer momento.
-
Em Contagem máxima de operadores, especifique o número máximo de operadores do Apache Airflow a serem executados no ambiente.
Para obter mais informações, consulte Exemplo de caso de uso de alto desempenho.
-
Especifique a contagem máxima de servidores web e a contagem mínima de servidores web para configurar como a Amazon MWAA escala os servidores web Apache Airflow em seu ambiente.
Para obter mais informações sobre o ajuste de escala automático de servidores Web, consulte Configurando a escalabilidade automática do servidor MWAA web da Amazon.
-
Em Criptografia, escolha uma opção de criptografia de dados:
-
Por padrão, a Amazon MWAA usa uma AWS chave própria para criptografar seus dados.
-
Opcional. Escolha Personalizar configurações de criptografia (avançadas) para escolher uma AWS KMS chave diferente. Se você optar por especificar uma chave gerenciada pelo cliente nesta etapa, deverá especificar uma ID de AWS KMS chave ouARN. AWS KMS aliases e chaves multirregionais não são compatíveis com a Amazon. MWAA Se você especificou uma chave Amazon S3 para criptografia do lado do servidor em seu bucket Amazon S3, você deve especificar a mesma chave para seu ambiente Amazon. MWAA
nota
Você deve ter permissões para a chave para selecioná-la no MWAA console da Amazon. Você também deve conceder permissões para MWAA que a Amazon use a chave anexando a política descrita emAnexar política de chave.
-
-
Recomendado. Em Monitoramento, escolha uma ou mais categorias de registro para a configuração de registro do Airflow para enviar os registros do Apache Airflow para os registros: CloudWatch
-
Logs de tarefas do Airflow. Escolha o tipo de registros de tarefas do Apache Airflow a serem enviados para CloudWatch Logs no nível de registro.
-
Logs do servidor web Airflow. Escolha o tipo de registros do servidor web Apache Airflow a serem enviados para o nível CloudWatch Logs in Log.
-
Logs do agendador de Airflow. Escolha o tipo de registros do agendador do Apache Airflow a serem enviados para CloudWatch Logs no nível de registro.
-
Logs de operadores do Airflow. Escolha o tipo de registros de trabalho do Apache Airflow a serem enviados para CloudWatch Logs no nível de registro.
-
Registros de DAG processamento do fluxo de ar. Escolha o tipo de registros de DAG processamento do Apache Airflow a serem enviados para CloudWatch Logs no nível de registro.
-
-
Opcional. Para opções de configuração do Airflow, escolha Adicionar opção de configuração personalizada.
É possível escolher na lista suspensa sugerida das opções de configuração do Apache Airflow para sua versão do Apache Airflow ou especificar opções de configuração personalizadas. Por exemplo,
core.default_task_retries
:3
. -
Opcional. Em Tags, escolha Adicionar nova tag para associar tags ao seu ambiente. Por exemplo,
Environment
:Staging
. -
Em Permissões, escolha um perfil de execução:
-
Por padrão, a Amazon MWAA cria uma função de execução em Criar uma nova função. Você deve ter permissão para criar IAM funções para usar essa opção.
-
Opcional. Escolha ARNInserir função para inserir o Amazon Resource Name (ARN) de uma função de execução existente.
-
-
Escolha Próximo.
Etapa 3: Revisar e criar
Para revisar um resumo do ambiente
-
Revise o resumo do ambiente e escolha Criar ambiente.
nota
Leva cerca de vinte a trinta minutos para criar um ambiente.