View a markdown version of this page

Trabalhando com sistemas EFA-enabled de arquivos - FSx para Lustre

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Trabalhando com sistemas EFA-enabled de arquivos

Se você estiver criando um sistema de arquivos com mais de 10 GBps de capacidade de throughput, recomendamos habilitar o Elastic Fabric Adapter (EFA) para otimizar o throughput por instância do cliente. O EFA é uma interface de rede de alto desempenho que usa uma técnica de desvio de sistema operacional personalizada e o protocolo de rede AWS Scalable Reliable Datagram (SRD) para aumentar o desempenho. Para obter informações sobre o EFA, consulte Adaptador de malha elástica para AI/ML cargas de trabalho de HPC no Amazon EC2 no Guia do usuário do Amazon EC2.

EFA-enabled os sistemas de arquivos suportam dois recursos adicionais de desempenho: GPUDirect Storage (GDS) e ENA Express. O suporte ao GDS se baseia no EFA para aprimorar ainda mais o desempenho, permitindo a transferência direta de dados entre o sistema de arquivos e a memória da GPU, ignorando a CPU. Esse caminho direto elimina a necessidade de cópias redundantes da memória e do envolvimento da CPU nas operações de transferência de dados. Com o suporte do EFA e do GDS, você pode obter maior taxa de transferência para instâncias de clientes individuais EFA-enabled . O ENA Express fornece comunicação de rede otimizada para instâncias do Amazon EC2 usando um algoritmo avançado de seleção de caminhos e um mecanismo aprimorado de controle de congestionamento. Com o suporte do ENA Express, você pode obter maior taxa de transferência para instâncias individuais de Express-enabled clientes ENA. Para obter mais informações sobre o ENA Express, consulte Melhorar a performance da rede entre instâncias do EC2 com o ENA Express no Guia do usuário do Amazon EC2.

Considerações ao usar sistemas de EFA-enabled arquivos

Aqui estão alguns itens importantes a serem considerados ao criar sistemas de EFA-enabled arquivos:

  • Várias opções de conectividade: os sistemas de EFA-enabled arquivos podem se comunicar com instâncias do cliente usando ENA, ENA Express e EFA.

  • Tipo de implantação: O EFA é suportado em sistemas de arquivos Persistent 2 com uma configuração de metadados especificada, incluindo sistemas de arquivos usando a classe Intelligent-Tiering de armazenamento.

  • Atualização da configuração do EFA: você pode optar por habilitar o EFA ao criar um novo sistema de arquivos, mas não pode ativar ou desativar o EFA em um sistema de arquivos existente.

  • Dimensionamento da taxa de transferência com capacidade de armazenamento: você pode escalar a capacidade de armazenamento em um sistema de EFA-enabled SSD-based arquivos para aumentar a capacidade de transferência, mas não pode alterar a camada de taxa de transferência de um sistema de arquivos. EFA-enabled

  • Regiões da AWS: para obter uma lista dos Regiões da AWS que suportam sistemas de arquivos EFA-enabled Persistent 2, consulteDisponibilidade do tipo de implantação.

Pré-requisitos para usar sistemas de arquivos EFA-enabled

A seguir estão os pré-requisitos para o uso de sistemas de EFA-enabled arquivos:

Para criar seu sistema EFA-enabled de arquivos:

  • Use um grupo EFA-enabled de segurança. Para obter mais informações, consulte EFA-enabled grupos de segurança.

  • Use a mesma zona de disponibilidade e CIDR /16 que suas instâncias de EFA-enabled cliente em sua Amazon VPC.

  • Em sistemas de Intelligent-Tiering arquivos, o EFA só é suportado com uma capacidade de transferência de 4.000 MBps ou incrementos de 4.000 MBps.

Para acessar seu sistema de arquivos usando o Elastic Fabric Adapter (EFA):

  • Use instâncias do EC2 Nitro v4 (ou superior)compatíveis com o EFA, excluindo a família de instâncias trn2. Consulte Tipos de instância compatíveis no Guia do usuário do Amazon EC2.

  • Execute o AL2023, o RHEL 9.5 e versões mais recentes ou o Ubuntu 22+ com a versão do kernel 6.8 e mais recente. Para obter mais informações, consulte Instalar o   Lustro client.

  • Instale os módulos do EFA e configure as interfaces do EFA nas instâncias do seu cliente. Para obter mais informações, consulte Como configurar clientes do EFA.

Para acessar seu sistema de arquivos usando o GPUDirect Storage (GDS):

  • Use uma instância P5, P5e, P5en ou cliente do Amazon EC2. P6-B200 P6-B300

  • Instale o pacote NVIDIA Compute Unified Device Architecture (CUDA), o driver NVIDIA de código aberto e o driver NVIDIA GPUDirect Storage na sua instância do cliente. Para obter mais informações, consulte Instale o driver GDS (opcional).

Para acessar seu sistema de arquivos usando o ENA Express:

Criação de um sistema EFA-enabled de arquivos

Esta seção contém instruções sobre como criar um sistema de EFA-enabled arquivos FSx for Lustre usando o. AWS CLI Para obter informações sobre como criar um sistema de EFA-enabled arquivos usando o console Amazon FSx, consulteEtapa 1: criar o sistema de arquivos do FSx para Lustre.

Use o comando create-file-system CLI (ou a operação de API equivalente). CreateFileSystem O exemplo a seguir cria um sistema de EFA-enabled arquivos FSx for Lustre com um tipo de PERSISTENT_2 implantação.

aws fsx create-file-system\ --storage-capacity 4800 \ --storage-type SSD \ --file-system-type LUSTRE \ --file-system-type-version 2.15 \ --subnet-ids subnet-01234567890 \ --security-group-ids sg-0123456789abcdefg \ --lustre-configuration '{"DeploymentType": "PERSISTENT_2", "EfaEnabled": true}'

Depois de criar com êxito o sistema de arquivos, o Amazon FSx retorna a descrição do sistema de arquivos no formato JSON.