As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

SageMaker Operadores de IA para Kubernetes

SageMaker Os operadores de IA para Kubernetes facilitam o treinamento, ajuste e implantação de modelos de aprendizado de máquina (ML) em IA para desenvolvedores e cientistas de dados que usam o Kubernetes. SageMaker Você pode instalar esses operadores de SageMaker IA em seu cluster Kubernetes no Amazon Elastic Kubernetes Service (Amazon EKS) para criar trabalhos de SageMaker IA de forma nativa usando a API Kubernetes e ferramentas de linha de comando do Kubernetes, como. kubectl Este guia mostra como configurar e usar os operadores para executar treinamento de modelos, ajuste de hiperparâmetros ou inferência (em tempo real e em lote) na SageMaker IA a partir de um cluster Kubernetes. Os procedimentos e diretrizes deste capítulo pressupõem que você esteja familiarizado com o Kubernetes e seus comandos básicos.

O que é um operador?

Um operador do Kubernetes é um controlador de aplicações que gerencia aplicações em nome de um usuário do Kubernetes. Os controladores do ambiente de gerenciamento abrangem vários circuitos de controle que atendem a um gerenciador central de estado (ETCD) para regular o estado da aplicação que eles controlam. Exemplos de tais aplicativos incluem o Cloud-controller-manager kube-controller-manager e. Os operadores normalmente fornecem uma abstração de nível mais alto do que a API bruta do Kubernetes, facilitando a implantação e o gerenciamento de aplicações pelos usuários. Para adicionar novos recursos ao Kubernetes, os desenvolvedores podem estender a API do Kubernetes criando um recurso personalizado que contém a lógica e os componentes específicos da aplicação ou do domínio. Os operadores no Kubernetes permitem que os usuários invoquem esses recursos personalizados de forma nativa e automatizem os fluxos de trabalho associados.

Como funciona AWS Os controladores para Kubernetes (ACK) funcionam?

Os operadores de SageMaker IA para Kubernetes permitem que você gerencie trabalhos em SageMaker IA a partir do seu cluster Kubernetes. A versão mais recente do SageMaker AI Operators for Kubernetes é baseada em AWS Controllers for Kubernetes (ACK). O ACK inclui um tempo de execução de controlador comum, um gerador de código e um conjunto de controladores AWS específicos do serviço, um dos quais é o SageMaker controlador de IA.

O diagrama a seguir mostra como o ACK funciona.

Neste diagrama, um usuário do Kubernetes quer executar um treinamento de modelo em SageMaker IA a partir do cluster Kubernetes usando a API Kubernetes. O usuário emite uma chamada parakubectl apply, passando um arquivo que descreve um recurso personalizado do Kubernetes descrevendo o SageMaker trabalho de treinamento. kubectl applypassa esse arquivo, chamado de manifesto, para o servidor da API Kubernetes em execução no nó controlador do Kubernetes (Etapa 1 no diagrama do fluxo de trabalho). O servidor da API Kubernetes recebe o manifesto com a especificação do trabalho de SageMaker treinamento e determina se o usuário tem permissão para criar um recurso personalizado do tipo sageMaker.services.k8s.aws/TrainingJob e se o recurso personalizado está formatado corretamente (Etapa 2). Se o usuário for autorizado e o recurso personalizado for válido, o servidor da API do Kubernetes grava (Etapa 3) o recurso personalizado em seu armazenamento de dados etcd e, em seguida, responde (Etapa 4) ao usuário informando que o recurso personalizado foi criado. O controlador de SageMaker IA, que está sendo executado em um node de trabalho do Kubernetes dentro do contexto de um pod Kubernetes normal, é notificado (Etapa 5) de que um novo recurso personalizado do tipo foi criado. sageMaker.services.k8s.aws/TrainingJob O controlador de SageMaker IA então se comunica (Etapa 6) com a SageMaker API, chamando a CreateTrainingJob API de SageMaker IA para criar o trabalho de treinamento em AWS. Depois de se comunicar com a SageMaker API, o controlador de SageMaker IA chama o servidor da API Kubernetes para atualizar (etapa 7) o status do recurso personalizado com as informações que ele recebeu da IA. SageMaker Portanto, o controlador de SageMaker IA fornece aos desenvolvedores as mesmas informações que eles teriam recebido usando o AWS SDK.

Visão geral das permissões

Os operadores acessam os recursos de SageMaker IA em seu nome. A função do IAM que o operador presume para interagir com AWS os recursos difere das credenciais que você usa para acessar o cluster Kubernetes. A função também difere da função que AWS assume ao executar seus trabalhos de aprendizado de máquina.

A imagem a seguir explica as várias camadas de autenticação.