As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.
Orquestração de SageMaker HyperPod clusters com o Amazon EKS
SageMaker HyperPod é um SageMaker AI-managed serviço que permite o treinamento em grande escala de modelos básicos em clusters de computação resilientes e de longa execução, integrando-se ao Amazon EKS para orquestrar os recursos computacionais. HyperPod Você pode executar trabalhos de treinamento ininterruptos que abrangem semanas ou meses em grande escala usando clusters do Amazon EKS com recursos de HyperPod resiliência que verificam várias falhas de hardware e recuperam automaticamente os nós defeituosos.
Os principais atributos para usuários administradores de cluster incluem o seguinte:
-
Provisionando HyperPod clusters resilientes e anexando-os a um plano de controle EKS
-
Habilitar o gerenciamento dinâmico da capacidade, como adicionar mais nós, atualizar software e excluir clusters
-
Habilitando o acesso às instâncias do cluster diretamente por meio
kubectlou SSM/SSH -
Oferecendo recursos de resiliência, incluindo verificações básicas de saúde, verificações profundas de saúde, um agente de monitoramento de saúde e suporte para retomada automática do trabalho PyTorch
-
Integração com ferramentas de observabilidade, como Amazon CloudWatch Container Insights, Amazon Managed Service for Prometheus e Amazon Managed Grafana https://docs.aws.amazon.com/grafana/latest/userguide/what-is-Amazon-Managed-Service-Grafana.html
Para usuários de cientistas de dados, o suporte do EKS em HyperPod permite o seguinte.
-
Executando cargas de trabalho em contêineres para treinar modelos básicos no cluster HyperPod
-
Executando inferência no cluster EKS, aproveitando a integração entre HyperPod e o EKS
-
Aproveitando o recurso de retomada automática de tarefas para o treinamento do Kubeflow PyTorch () PyTorchJob
nota
O Amazon EKS permite a orquestração gerenciada pelo usuário de tarefas e infraestrutura SageMaker HyperPod por meio do plano de controle do Amazon EKS. Garanta que o acesso do usuário ao cluster por meio do endpoint do Kubernetes API Server siga o princípio do menor privilégio e que a saída da rede do cluster seja protegida. HyperPod
Para saber mais sobre como proteger o acesso ao servidor de API do Amazon EKS, consulte Control network access to cluster API server endpoint.
Para saber mais sobre como proteger o acesso à rede em HyperPod, consulteConfiguração SageMaker HyperPod com um Amazon VPC personalizado.
A arquitetura de alto nível do suporte do Amazon EKS HyperPod envolve um mapeamento 1 para 1 entre um cluster EKS (plano de controle) e um HyperPod cluster (nós de trabalho) dentro de uma VPC, conforme mostrado no diagrama a seguir.
