View a markdown version of this page

SageMaker Amazon-Profiler - Amazon SageMaker KI

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

SageMaker Amazon-Profiler

Anmerkung

Hinweis zum Ende des Supports: Am 30. Juni 2027 AWS wird der Support für Amazon Profiler eingestellt. SageMaker Nach dem 30. Juni 2027 können Sie nicht mehr auf die Profiler-Konsole oder die Profiler-Ressourcen zugreifen. Weitere Informationen finden Sie unter Änderung der Profiler-Verfügbarkeit.

Amazon SageMaker Profiler befindet sich derzeit in der Vorschauversion und wird kostenlos unterstützt. AWS-Regionen Die allgemein verfügbare Version von Amazon SageMaker Profiler (falls vorhanden) kann Funktionen und Preise enthalten, die sich von denen in der Vorversion unterscheiden.

Amazon SageMaker Profiler ist eine Funktion von Amazon SageMaker AI, die einen detaillierten Überblick über die AWS Rechenressourcen bietet, die beim Training von Deep-Learning-Modellen auf KI bereitgestellt werden. SageMaker Es konzentriert sich auf die Profilerstellung der CPU- und GPU-Nutzung, Kernel-Läufe auf GPUs, Kernel-Starts auf CPUs, Synchronisierungsvorgänge, Speicheroperationen zwischen CPUs und GPUs, Latenzen zwischen Kernel-Starts und entsprechenden Ausführungen sowie die Datenübertragung zwischen CPUs und GPUs. SageMaker Profiler bietet auch eine Benutzeroberfläche (UI), die das Profil visualisiert, eine statistische Zusammenfassung der profilierten Ereignisse und den Zeitplan eines Trainingsauftrags, um das Zeitverhältnis der Ereignisse zwischen GPUs und CPUs zu verfolgen und zu verstehen.

Anmerkung

SageMaker Profiler unterstützt PyTorch TensorFlow und ist in AWS Deep Learning-Containern für KI verfügbar. SageMaker Weitere Informationen hierzu finden Sie unter Unterstützte Framework-Images, AWS-Regionen und Instanztypen.

Für Datenwissenschaftler

Bei dem Training von Deep-Learning-Modellen auf einem großen Datenverarbeitungscluster treten häufig Probleme bei der rechnerischen Optimierung auf, z. B. kommt es zu Engpässen, Latenzen beim Kernelstart, Speicherlimits und geringer Ressourcenauslastung.

Um solche Probleme bei der Datenverarbeitungsleistung zu identifizieren, müssen Sie die Datenverarbeitungsressourcen genauer untersuchen, um zu verstehen, welche Kernel Latenzen und welche Operationen Engpässe verursachen. Datenwissenschaftler können die Vorteile der SageMaker Profiler-Benutzeroberfläche nutzen, um das detaillierte Profil der Ausbildungsberufe zu visualisieren. Die Benutzeroberfläche bietet ein Dashboard mit Übersichtsdiagrammen und einer Oberfläche mit einer Zeitrahmen, über die jedes Ereignis auf den Datenverarbeitungsressourcen verfolgt werden kann. Datenwissenschaftler können mithilfe der SageMaker Profiler-Python-Module auch benutzerdefinierte Anmerkungen hinzufügen, um bestimmte Teile der Trainingsarbeit nachzuverfolgen.

Für Administratoren

Über die Profiler-Landingpage in der SageMaker AI-Konsole oder SageMaker AI-Domain können Sie die Benutzer der Profiler-Anwendung verwalten, wenn Sie Administrator eines AWS Kontos oder einer AI-Domain sind. SageMaker Jeder Domain-Benutzer mit den erteilten Berechtigungen kann auf seine eigene Profiler-Anwendung zugreifen. Als SageMaker AI-Domänenadministrator und Domänenbenutzer können Sie die Profiler-Anwendung erstellen und löschen, sofern Sie über die entsprechende Berechtigungsstufe verfügen.