Armazenar aplicações de alta performance com o FSx para Lustre

Defina algumas variáveis para uso nas etapas restantes. Substitua my-csi-fsx-cluster pelo nome do cluster de teste que você deseja criar e region-code pela região AWS na qual você deseja criar o cluster de teste.

export cluster_name=my-csi-fsx-cluster
export region_code=region-code

Crie um cluster de teste.

eksctl create cluster \
  --name $cluster_name \
  --region $region_code \
  --with-oidc \
  --ssh-access \
  --ssh-public-key my-key

O provisionamento de cluster leva alguns minutos. Durante a criação do cluster, você verá várias linhas de saída. A última linha do resultado é semelhante ao exemplo de linha a seguir.

[✓]  EKS cluster "my-csi-fsx-cluster" in "region-code" region is ready

Crie uma conta de serviço do Kubernetes para o driver e anexe a política gerenciada pela AWS AmazonFSxFullAccess à conta de serviço.

eksctl create iamserviceaccount \
  --name fsx-csi-controller-sa \
  --namespace kube-system \
  --cluster $cluster_name \
  --attach-policy-arn arn:aws:iam::aws:policy/AmazonFSxFullAccess \
  --approve \
  --role-name AmazonEKSFSxLustreCSIDriverFullAccess \
  --region $region_code

Você verá várias linhas de resultado à medida que a conta de serviço é criada. As últimas linhas de saída são semelhantes às seguintes:

[ℹ]  1 task: {
    2 sequential sub-tasks: {
        create IAM role for serviceaccount "kube-system/fsx-csi-controller-sa",
        create serviceaccount "kube-system/fsx-csi-controller-sa",
    } }
[ℹ]  building iamserviceaccount stack "eksctl-my-csi-fsx-cluster-addon-iamserviceaccount-kube-system-fsx-csi-controller-sa"
[ℹ]  deploying stack "eksctl-my-csi-fsx-cluster-addon-iamserviceaccount-kube-system-fsx-csi-controller-sa"
[ℹ]  waiting for CloudFormation stack "eksctl-my-csi-fsx-cluster-addon-iamserviceaccount-kube-system-fsx-csi-controller-sa"
[ℹ]  created serviceaccount "kube-system/fsx-csi-controller-sa"

Observe o nome da pilha do AWS CloudFormation que foi implantada. No resultado do exemplo anterior, a pilha é denominada eksctl-my-csi-fsx-cluster-addon-iamserviceaccount-kube-system-fsx-csi-controller-sa.

Implante o driver com o seguinte comando. Substitua a versão X.XX pela ramificação desejada. A ramificação principal não é aceita porque ela pode conter recursos futuros incompatíveis com a versão estável do driver lançada. Recomendamos o uso da versão mais recente. Para ver uma lista de ramificações, consulte Ramificações do aws-fsx-csi-driver no GitHub.

kubectl apply -k "github.com/kubernetes-sigs/aws-fsx-csi-driver/deploy/kubernetes/overlays/stable/?ref=release-X.XX"

Veja um exemplo de saída abaixo.

serviceaccount/fsx-csi-controller-sa created
serviceaccount/fsx-csi-node-sa created
clusterrole.rbac.authorization.k8s.io/fsx-csi-external-provisioner-role created
clusterrole.rbac.authorization.k8s.io/fsx-external-resizer-role created
clusterrolebinding.rbac.authorization.k8s.io/fsx-csi-external-provisioner-binding created
clusterrolebinding.rbac.authorization.k8s.io/fsx-csi-resizer-binding created
deployment.apps/fsx-csi-controller created
daemonset.apps/fsx-csi-node created
csidriver.storage.k8s.io/fsx.csi.aws.com created

Observe o ARN para a função que ela foi criada. Se você não o observou anteriormente e não o tem mais disponível na saída da AWS CLI, pode fazer o seguinte para vê-lo no AWS Management Console.

Aplique um patch à implantação do driver para adicionar a conta de serviço criada anteriormente com o comando a seguir. Substitua o ARN pelo ARN que você anotou. Substitua 111122223333 pelo ID da sua conta.

kubectl annotate serviceaccount -n kube-system fsx-csi-controller-sa \
  eks.amazonaws.com/role-arn=arn:aws:iam::111122223333:role/AmazonEKSFSxLustreCSIDriverFullAccess --overwrite=true

Veja um exemplo de saída abaixo.

serviceaccount/fsx-csi-controller-sa annotated

Observe o grupo de segurança do seu cluster. Você pode vê-lo em AWS Management Console na seção Networking ou usando o seguinte comando da AWS CLI.

aws eks describe-cluster --name $cluster_name --query cluster.resourcesVpcConfig.clusterSecurityGroupId

Crie um grupo de segurança para seu sistema de arquivos Amazon FSx conforme os critérios mostrados em Grupos de segurança de Amazon VPC, no Guia do usuário do Amazon FSx para Lustre. Para a VPC, selecione a VPC do seu cluster, conforme mostrado na seção Networking (Redes). Para os “grupos de segurança associados aos seus clientes Lustre”, utilize o grupo de segurança do seu cluster. É possível deixar as regras de saída sozinhas para permitir Todo o tráfego.

Baixe o manifesto da classe de armazenamento com o seguinte comando:

curl -O https://raw.githubusercontent.com/kubernetes-sigs/aws-fsx-csi-driver/master/examples/kubernetes/dynamic_provisioning/specs/storageclass.yaml

Edite a seção de parâmetros do arquivo storageclass.yaml. Substitua cada valor de exemplo por seus próprios valores.

parameters:
  subnetId: subnet-0eabfaa81fb22bcaf
  securityGroupIds: sg-068000ccf82dfba88
  deploymentType: PERSISTENT_1
  automaticBackupRetentionDays: "1"
  dailyAutomaticBackupStartTime: "00:00"
  copyTagsToBackups: "true"
  perUnitStorageThroughput: "200"
  dataCompressionType: "NONE"
  weeklyMaintenanceStartTime: "7:09:00"
  fileSystemTypeVersion: "2.12"

Crie o manifesto da classe de armazenamento.

kubectl apply -f storageclass.yaml

Veja um exemplo de saída abaixo.

storageclass.storage.k8s.io/fsx-sc created

Faça download do manifesto de declaração de volume persistente.

curl -O https://raw.githubusercontent.com/kubernetes-sigs/aws-fsx-csi-driver/master/examples/kubernetes/dynamic_provisioning/specs/claim.yaml

(Opcional) Edite o arquivo claim.yaml. Altere o 1200Gi para um dos seguintes valores de incremento, com base em seus requisitos de armazenamento e no deploymentType que você selecionou em uma etapa anterior.

storage: 1200Gi

Crie a declaração de volume persistente.

kubectl apply -f claim.yaml

Veja um exemplo de saída abaixo.

persistentvolumeclaim/fsx-claim created

Confirme se o sistema de arquivos está provisionado.

kubectl describe pvc

Veja um exemplo de saída abaixo.

Name:          fsx-claim
Namespace:     default
StorageClass:  fsx-sc
Status:        Bound
[...]

Implante a aplicação de exemplo.

kubectl apply -f https://raw.githubusercontent.com/kubernetes-sigs/aws-fsx-csi-driver/master/examples/kubernetes/dynamic_provisioning/specs/pod.yaml

Verifique se a aplicação de exemplo está em execução.

kubectl get pods

Veja um exemplo de saída abaixo.

NAME      READY   STATUS              RESTARTS   AGE
fsx-app   1/1     Running             0          8s

Verifique se o sistema de arquivos está montado corretamente pela aplicação.

kubectl exec -ti fsx-app -- df -h

Veja um exemplo de saída abaixo.

Filesystem                   Size  Used Avail Use% Mounted on
overlay                       80G  4.0G   77G   5% /
tmpfs                         64M     0   64M   0% /dev
tmpfs                        3.8G     0  3.8G   0% /sys/fs/cgroup
192.0.2.0@tcp:/abcdef01      1.1T  7.8M  1.1T   1% /data
/dev/nvme0n1p1                80G  4.0G   77G   5% /etc/hosts
shm                           64M     0   64M   0% /dev/shm
tmpfs                        6.9G   12K  6.9G   1% /run/secrets/kubernetes.io/serviceaccount
tmpfs                        3.8G     0  3.8G   0% /proc/acpi
tmpfs                        3.8G     0  3.8G   0% /sys/firmware

Verifique se os dados foram gravados no sistema de arquivos do FSx for Lustre pela aplicação de exemplo.

kubectl exec -it fsx-app -- ls /data

Veja um exemplo de saída abaixo.

out.txt

Essa saída de exemplo indica que a aplicação de amostra gravou com êxito o arquivo out.txt no sistema de arquivos.