View a markdown version of this page

Amazon SageMaker Profiler - SageMaker IA da Amazon

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Amazon SageMaker Profiler

nota

Aviso de fim do suporte: em 30 de junho de 2027, o suporte para o Amazon SageMaker Profiler AWS será encerrado. Depois de 30 de junho de 2027, você não poderá mais acessar o console ou os recursos do Profiler. Para obter mais informações, consulte Alteração na disponibilidade do Profiler.

No momento, o Amazon SageMaker Profiler está em versão prévia e disponível gratuitamente em caso de suporte Regiões da AWS. A versão geralmente disponível do Amazon SageMaker Profiler (se houver) pode incluir recursos e preços diferentes dos oferecidos na versão prévia.

O Amazon SageMaker Profiler é um recurso da Amazon SageMaker AI que fornece uma visão detalhada dos recursos AWS computacionais provisionados durante o treinamento de modelos de aprendizado profundo em IA. SageMaker Ele se concentra em traçar o perfil do uso de CPU e GPU, executar o kernel em GPUs, iniciar o kernel em CPUs, operações de sincronização, operações de memória em CPUs e GPUs, latências entre lançamentos de kernel e execuções correspondentes e transferência de dados entre CPUs e GPUs. SageMaker O Profiler também oferece uma interface de usuário (UI) que visualiza o perfil, um resumo estatístico dos eventos perfilados e o cronograma de um trabalho de treinamento para rastrear e compreender a relação temporal dos eventos entre GPUs e CPUs.

nota

SageMaker O Profiler oferece suporte PyTorch TensorFlow e está disponível em contêineres de aprendizado AWS profundo para SageMaker IA. Para saber mais, consulte Imagens de estrutura suportadas, Regiões da AWS e tipos de instância.

Para cientistas de dados

O treinamento de modelos de aprendizado profundo em um grande cluster de computação geralmente apresenta problemas de otimização computacional, como gargalos, latências de inicialização do kernel, limite de memória e baixa utilização de recursos.

Para identificar esses problemas de desempenho computacional, você precisa analisar mais profundamente os recursos de computação para entender quais kernels introduzem latências e quais operações causam gargalos. Os cientistas de dados podem se beneficiar do uso da interface do usuário do SageMaker Profiler para visualizar o perfil detalhado dos trabalhos de treinamento. A interface do usuário fornece um painel com gráficos de resumo e uma interface de linha do tempo para rastrear cada evento nos recursos de computação. Os cientistas de dados também podem adicionar anotações personalizadas para rastrear certas partes do trabalho de treinamento usando os módulos SageMaker Profiler Python.

Para administradores

Por meio da página inicial do Profiler no console do SageMaker SageMaker AI ou no domínio do AI, você pode gerenciar os usuários do aplicativo Profiler se for administrador de uma AWS conta ou domínio do SageMaker AI. Cada usuário do domínio pode acessar o própria aplicação Profiler com as permissões concedidas. Como administrador de domínio e usuário de domínio do SageMaker AI, você pode criar e excluir o aplicativo Profiler de acordo com o nível de permissão que você tem.