Amazon SageMaker Profiler

Amazon SageMaker Profiler è una funzionalità di Amazon SageMaker AI che fornisce una visione dettagliata delle risorse di AWS calcolo fornite durante l'addestramento dei modelli di deep learning sull'intelligenza artificiale. SageMaker Si concentra sulla profilazione CPU e sull'GPUutilizzo, sull'esecuzione del kernel, sul lancio del kernelGPUs, sulle operazioni di sincronizzazione, sulle operazioni di memoria tra eCPUs, sulle latenze tra i lanci del kernel CPUs e GPUs le esecuzioni corrispondenti e sul trasferimento di dati tra e. CPUs GPUs SageMaker Profiler offre anche un'interfaccia utente (UI) che visualizza il profilo, un riepilogo statistico degli eventi profilati e la cronologia di un processo di formazione per tracciare e comprendere la relazione temporale degli eventi tra e. GPUs CPUs

Per i data scientist

L'addestramento di modelli di deep learning su un cluster di elaborazione di grandi dimensioni presenta spesso dei problemi di ottimizzazione computazionale, come colli di bottiglia, latenze di avvio del kernel, limiti di memoria e basso utilizzo delle risorse.

Per identificare tali problemi di prestazioni computazionali, è necessario analizzare più a fondo le risorse di calcolo per comprendere quali kernel introducono latenze e quali operazioni causano colli di bottiglia. I data scientist possono trarre vantaggio dall'utilizzo dell'interfaccia utente di SageMaker Profiler per visualizzare il profilo dettagliato dei lavori di formazione. L'interfaccia utente fornisce un pannello di controllo dotato di grafici di riepilogo e un'interfaccia di sequenza temporale per tenere traccia di ogni evento sulle risorse di calcolo. I data scientist possono anche aggiungere annotazioni personalizzate per tenere traccia di alcune parti del lavoro di formazione utilizzando i moduli SageMaker Profiler Python.

Per gli amministratori

Tramite la landing page Profiler nella console SageMaker AI o nel dominio SageMaker AI, puoi gestire gli utenti dell'applicazione Profiler se sei amministratore di un account o di un AWS dominio AI. SageMaker Ogni utente del dominio può accedere alla propria applicazione Profiler con le autorizzazioni concesse. In qualità di amministratore di dominio SageMaker AI e utente del dominio, puoi creare ed eliminare l'applicazione Profiler in base al livello di autorizzazione di cui disponi.