View a markdown version of this page

SageMaker Profileur Amazon - Amazon SageMaker AI

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

SageMaker Profileur Amazon

Note

Avis de fin de support : le 30 juin 2027, le support d'Amazon SageMaker Profiler AWS prendra fin. Après le 30 juin 2027, vous ne pourrez plus accéder à la console Profiler ni aux ressources du Profiler. Pour de plus amples informations, veuillez consulter Modification de la disponibilité du profileur.

Amazon SageMaker Profiler est actuellement en version préliminaire et disponible gratuitement dans le cadre de l'assistance. Régions AWS La version généralement disponible d'Amazon SageMaker Profiler (le cas échéant) peut inclure des fonctionnalités et des prix différents de ceux proposés dans la version préliminaire.

Amazon SageMaker Profiler est une fonctionnalité d'Amazon SageMaker AI qui fournit une vue détaillée des ressources de AWS calcul provisionnées lors de la formation de modèles de deep learning sur SageMaker l'IA. Il se concentre sur le profilage de l'utilisation du processeur et du GPU, l'exécution du noyau sur les GPU, les lancements du noyau sur les processeurs, les opérations de synchronisation, les opérations de mémoire entre les processeurs et les GPU, les latences entre les lancements du noyau et les exécutions correspondantes, et le transfert de données entre les processeurs et les GPU. SageMaker Profiler propose également une interface utilisateur (UI) qui visualise le profil, un résumé statistique des événements profilés et la chronologie d'une tâche de formation pour suivre et comprendre la relation temporelle des événements entre les GPU et les processeurs.

Note

SageMaker Profiler prend en charge PyTorch TensorFlow et est disponible dans les conteneurs AWS Deep Learning pour l' SageMaker IA. Pour en savoir plus, veuillez consulter la section images de cadre prises en charge, Régions AWS, et types d'instances.

Pour les scientifiques des données

L’entraînement de modèles de deep learning sur un grand cluster de calcul pose souvent des problèmes d’optimisation du calcul, tels que des goulots d’étranglement, des latences de lancement du noyau, des limites de mémoire et une faible utilisation des ressources.

Pour identifier ces problèmes de performances de calcul, vous devez approfondir le profil des ressources de calcul afin de comprendre quels noyaux sont à l’origine de latences et quelles opérations sont à l’origine de goulots d’étranglement. Les data scientists peuvent tirer parti de l'utilisation de l'interface utilisateur SageMaker Profiler pour visualiser le profil détaillé des emplois de formation. L’interface utilisateur fournit un tableau de bord avec des graphiques récapitulatifs et une interface chronologique pour suivre chaque événement sur les ressources de calcul. Les data scientists peuvent également ajouter des annotations personnalisées pour suivre certaines parties du travail de formation à l'aide des modules Python de SageMaker Profiler.

Pour les administrateurs

Sur la page d'accueil Profiler de la console SageMaker AI ou du domaine SageMaker AI, vous pouvez gérer les utilisateurs de l'application Profiler si vous êtes administrateur d'un AWS compte ou d'un domaine SageMaker AI. Chaque utilisateur de domaine peut accéder à sa propre application Profileur avec les autorisations accordées. En tant qu'administrateur de domaine SageMaker AI et utilisateur de domaine, vous pouvez créer et supprimer l'application Profiler en fonction du niveau d'autorisation dont vous disposez.