Blocchi di capacità per ML

Addestramento e fine-tuning dei modelli di ML: ottieni un accesso ininterrotto alle istanze GPU che hai prenotato per completare l'addestramento e il fine-tuning dei modelli di ML.

Esperimenti e prototipi di ML: esegui esperimenti e crea prototipi che richiedono istanze GPU per brevi periodi.

Linux/Unix

Red Hat Enterprise Linux

RHEL con HA

SUSE Linux

Ubuntu Pro

Se rileviamo una riduzione di valore che influisce su un UltraServer Capacity Block, ti informeremo ma generalmente non intraprenderemo alcuna azione per chiudere le tue istanze sul Capacity Block. Questo serve a ridurre al minimo eventuali interruzioni involontarie dei tuoi carichi di lavoro. Puoi continuare a utilizzare il UltraServer Capacity Block così com'è dopo aver ricevuto questa notifica o richiedere una soluzione chiudendo tutte le istanze del blocco di capacità e inviando una richiesta di supporto. AWS Dopo aver ricevuto la richiesta di assistenza, ti informeremo quando avremo completato la correzione e potrai riavviare le istanze nel tuo Capacity Block. UltraServer

Per i P6e-GB200 UltraServer Capacity Block, devi chiudere le tue istanze almeno 60 minuti prima dell'orario di fine del Capacity Block.

Per acquistare e utilizzare i Capacity Block nelle zone locali, devi aver aderito alle zone locali.

Ogni blocco di capacità può avere fino a 64 istanze e puoi avere fino a 256 istanze tra i blocchi di capacità.

Puoi descrivere le offerte dei blocchi di capacità che possono iniziare entro 30 minuti.

I blocchi di capacità terminano alle 11:30 UTC (tempo coordinato universale).

Il processo di terminazione per le istanze in esecuzione in un blocco di capacità inizia alle 11:00 UTC (tempo coordinato universale) dell'ultimo giorno della prenotazione.

I blocchi di capacità possono essere prenotati con un orario di inizio fino a 8 settimane nel futuro.

Non sono ammesse cancellazioni dei blocchi di capacità.

UltraServer I blocchi di capacità non possono essere condivisi tra AWS gli account o all'interno AWS dell'organizzazione.

Il blocco di capacità non può essere spostato o diviso.

Solo i blocchi UltraServer di capacità possono essere utilizzati con i gruppi di risorse. I blocchi di capacità delle istanze non possono essere utilizzati con i gruppi di risorse. Per ulteriori informazioni, consulta Crea un gruppo di risorse per UltraServer Capacity Blocks.

Il numero totale di istanze che possono essere riservate in Blocchi di capacità in tutti gli account AWS dell'organizzazione non può superare le 256 istanze in una determinata data.

Per utilizzare un blocco di capacità, le istanze devono avere come destinazione specifica l'ID di prenotazione.

Le istanze in un Capacity Block non vengono conteggiate ai fini dei limiti delle istanze. On-Demand

Per le istanze P5 che utilizzano un'AMI personalizzata, assicurati di disporre del software e della configurazione necessari per EFA.

Per i gruppi di nodi gestiti di Amazon EKS, consulta Creare un gruppo di nodi gestiti con Blocchi di capacità Amazon EC2 per ML. Per i gruppi di nodi autogestiti di Amazon EKS, consulta Usa blocchi di capacità per ML con nodi autogestiti.

Avvio di istanze nel blocco di capacità. Per ulteriori informazioni, consulta Avvio di istanze utilizzando blocchi di capacità.

Gruppo con Amazon EC2 Auto Scaling. Per ulteriori informazioni, consulta Usa i blocchi di capacità per carichi di lavoro di machine learning nella Guida per l'utente di Amazon EC2 Auto Scaling.

Migliora i flussi di lavoro ML con Parallel Computing Service. AWS Per ulteriori informazioni, consulta Supporto di Capacity Blocks per AWS Parallel Computing Service.

Migliora i flussi di lavoro ML con AWS ParallelCluster. Per ulteriori informazioni, consulta Miglioramento dei flussi di lavoro ML con AWS ParallelCluster e Amazon EC2 Capacity Blocks for ML.