Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Amazon SageMaker Profiler
|
Amazon SageMaker Profiler è attualmente in versione di anteprima ed è disponibile gratuitamente nell'assistenza. Regioni AWS La versione generalmente disponibile di Amazon SageMaker Profiler (se disponibile) può includere funzionalità e prezzi diversi da quelli offerti in anteprima. |
Amazon SageMaker Profiler è una funzionalità di Amazon SageMaker AI che fornisce una visione dettagliata delle risorse di AWS calcolo fornite durante l'addestramento dei modelli di deep learning sull'intelligenza artificiale. SageMaker Si concentra sulla profilazione dell'utilizzo di CPU e GPU, sul funzionamento del kernel sulle GPU, sul lancio del kernel sulle CPU, sulle operazioni di sincronizzazione, sulle operazioni di memoria tra CPU e GPU, sulle latenze tra i lanci del kernel e le esecuzioni corrispondenti e sul trasferimento di dati tra CPU e GPU. SageMaker Profiler offre anche un'interfaccia utente (UI) che visualizza il profilo, un riepilogo statistico degli eventi profilati e la cronologia di un processo di formazione per tracciare e comprendere la relazione temporale degli eventi tra GPU e CPU.
Nota
SageMaker Profiler supporta PyTorch TensorFlow ed è disponibile in AWS Deep Learning Containers for SageMaker AI
Per i data scientist
L’addestramento di modelli di deep learning su un cluster di elaborazione di grandi dimensioni presenta spesso dei problemi di ottimizzazione computazionale, come colli di bottiglia, latenze di avvio del kernel, limiti di memoria e basso utilizzo delle risorse.
Per identificare tali problemi di prestazioni computazionali, è necessario analizzare più a fondo le risorse di calcolo per comprendere quali kernel introducono latenze e quali operazioni causano colli di bottiglia. I data scientist possono trarre vantaggio dall'utilizzo dell'interfaccia utente di SageMaker Profiler per visualizzare il profilo dettagliato dei lavori di formazione. L’interfaccia utente fornisce un pannello di controllo dotato di grafici di riepilogo e un’interfaccia timeline per tenere traccia di ogni evento sulle risorse di calcolo. I data scientist possono anche aggiungere annotazioni personalizzate per tenere traccia di alcune parti del lavoro di formazione utilizzando i moduli SageMaker Profiler Python.
Per gli amministratori
Tramite la landing page Profiler nella console SageMaker AI o nel dominio SageMaker AI, puoi gestire gli utenti dell'applicazione Profiler se sei amministratore di un account o di un AWS dominio AI. SageMaker Ogni utente del dominio può accedere alla propria applicazione Profiler con le autorizzazioni concesse. In qualità di amministratore e utente del dominio SageMaker AI, puoi creare ed eliminare l'applicazione Profiler in base al livello di autorizzazione di cui disponi.
Argomenti
