Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Scelta del tipo di DLAMI istanza
Più in generale, considera quanto segue quando scegli un tipo di istanza per unDLAMI.
Se non conosci il deep learning, allora un'istanza con una sola istanza GPU potrebbe soddisfare le tue esigenze.
Se sei attento al budget, puoi utilizzare le istanze CPU -only.
Se stai cercando di ottimizzare alte prestazioni ed efficienza in termini di costi per l'inferenza dei modelli di deep learning, puoi utilizzare istanze con chip Inferentia. AWS
Se stai cercando un'GPUistanza ad alte prestazioni con un'CPUarchitettura basata su ARM64, puoi utilizzare il tipo di istanza G5g.
Se sei interessato a eseguire un modello preaddestrato per inferenza e previsioni, puoi collegare un Amazon Elastic Inference alla tua istanza Amazon. EC2 Amazon Elastic Inference ti dà accesso a un acceleratore con una frazione di a. GPU
-
Per i servizi di inferenza ad alto volume, una singola CPU istanza con molta memoria o un cluster di tali istanze potrebbe essere una soluzione migliore.
Se utilizzi un modello di grandi dimensioni con molti dati o batch di grandi dimensioni, allora hai bisogno di un'istanza più grande con più memoria. Puoi anche distribuire il tuo modello in un cluster diGPUs. Potresti scoprire che l'utilizzo di un'istanza con meno memoria è una soluzione migliore se riduci la dimensione del batch. Ciò potrebbe influire sulla precisione e sulla velocità di allenamento.
Se sei interessato a eseguire applicazioni di machine learning utilizzando NVIDIA Collective Communications Library (NCCL) che richiedono alti livelli di comunicazioni tra i nodi su larga scala, potresti voler utilizzare Elastic Fabric Adapter () EFA.
Per maggiori dettagli sulle istanze, consulta Tipi di .
I seguenti argomenti forniscono informazioni sulle considerazioni relative al tipo di istanza.
Importante
Il Deep Learning AMIs include driver, software o toolkit sviluppati, posseduti o forniti da Corporation. NVIDIA Accetti di utilizzare questi NVIDIA driver, software o toolkit solo su EC2 istanze Amazon che includono hardware. NVIDIA
Argomenti
Prezzi delle DLAMI
I framework di deep learning inclusi in DLAMI sono gratuiti e ognuno ha le proprie licenze open source. Sebbene il software incluso DLAMI sia gratuito, devi comunque pagare per l'hardware sottostante dell'EC2istanza Amazon.
Alcuni tipi di EC2 istanze Amazon sono etichettati come gratuiti. È possibile eseguirlo DLAMI su una di queste istanze gratuite. Ciò significa che l'utilizzo di DLAMI è completamente gratuito quando si utilizza solo la capacità dell'istanza. Se hai bisogno di un'istanza più potente con più CPU core, più spazio su disco, più o una o più RAMGPUs, allora hai bisogno di un'istanza che non rientri nella classe delle istanze di livello libero.
Per ulteriori informazioni sulla scelta e sui prezzi delle istanze, consulta EC2i prezzi di Amazon
Disponibilità nelle regioni DLAMI
Ogni regione supporta una gamma diversa di tipi di istanza e spesso un tipo di istanza ha un costo leggermente diverso nelle diverse regioni. DLAMIsnon sono disponibili in tutte le regioni, ma è possibile DLAMIs copiarle nella regione desiderata. Per ulteriori informazioni, consulta AMI Copiare un file. Prendi nota dell'elenco di selezione delle regioni e assicurati di scegliere una regione più vicina a te o ai tuoi clienti. Se prevedi di utilizzarne più di una DLAMI e potenzialmente creare un cluster, assicurati di utilizzare la stessa regione per tutti i nodi del cluster.
Per maggiori informazioni sulle regioni, visita Amazon EC2 service endpoints.
Argomento successivo
