Amazon SageMaker Profiler - Amazon SageMaker

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Amazon SageMaker Profiler

Amazon SageMaker Profiler est actuellement en version préliminaire et est disponible gratuitement dans le cadre du support Régions AWS. La version généralement disponible d'Amazon SageMaker Profiler (le cas échéant) peut inclure des fonctionnalités et des prix différents de ceux proposés en version préliminaire.

Amazon SageMaker Profiler est une fonctionnalité d'Amazon SageMaker qui fournit une vue détaillée des ressources de AWS calcul fournies lors de la formation de modèles de deep learning sur. SageMaker Il se concentre sur le profilage de l'GPUutilisation CPU et, le fonctionnement du noyauGPUs, le lancement du noyauCPUs, les opérations de synchronisation, les opérations de mémoire entre CPUs etGPUs, les latences entre les lancements du noyau et les exécutions correspondantes, et le transfert de données entre CPUs etGPUs. SageMaker Profiler propose également une interface utilisateur (UI) qui visualise le profil, un résumé statistique des événements profilés et la chronologie d'un travail de formation pour suivre et comprendre la relation temporelle entre les événements entre et. GPUs CPUs

Note

SageMaker Profiler prend en charge PyTorch TensorFlow et est disponible dans AWS Deep Learning Containers pour SageMaker. Pour en savoir plus, consultez Images de framework et types Régions AWS d'instances pris en charge.

Pour les scientifiques des données

L'entraînement de modèles de deep learning sur un grand cluster de calcul pose souvent des problèmes d'optimisation du calcul, tels que des goulots d'étranglement, des latences de lancement du noyau, des limites de mémoire et une faible utilisation des ressources.

Pour identifier ces problèmes de performances de calcul, vous devez approfondir le profil des ressources de calcul afin de comprendre quels noyaux sont à l'origine de latences et quelles opérations sont à l'origine de goulots d'étranglement. Les data scientists peuvent tirer parti de l'interface utilisateur du SageMaker profileur pour visualiser le profil détaillé des tâches de formation. L'interface utilisateur fournit un tableau de bord avec des graphiques récapitulatifs et une interface chronologique pour suivre chaque événement sur les ressources de calcul. Les data scientists peuvent également ajouter des annotations personnalisées pour suivre certaines parties du travail de formation à l'aide des modules SageMaker Profiler Python.

Pour les administrateurs

Sur la page d'accueil de Profiler de la SageMaker console ou du SageMaker domaine, vous pouvez gérer les utilisateurs de l'application Profiler si vous êtes administrateur d'un AWS compte ou SageMaker d'un domaine. Chaque utilisateur du domaine peut accéder à sa propre application Profiler avec les autorisations accordées. En tant qu'administrateur de SageMaker domaine et utilisateur du domaine, vous pouvez créer et supprimer l'application Profiler en fonction du niveau d'autorisation dont vous disposez.

Rubriques