Optimierung - AWS Deep Learning AMIs

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Optimierung

Um das Beste aus Ihrem herauszuholenGPUs, können Sie Ihre Datenpipeline optimieren und Ihr Deep-Learning-Netzwerk optimieren. Wie in der folgenden Tabelle beschrieben, kann eine naive oder einfache Implementierung eines neuronalen Netzwerks das Potenzial GPU inkonsistent und nicht in vollem Umfang nutzen. Wenn Sie Ihre Vorverarbeitung und das Laden von Daten optimieren, können Sie den Engpass zwischen Ihren Daten verringern. CPU GPU Sie können das neuronale Netzwerk selbst anpassen, indem Sie Hybridisierung (wenn vom Framework unterstützt) verwenden, die Stapelgröße anpassen sowie Aufrufe synchronisieren. Sie können in den meisten Frameworks auch Schulungen mit mehreren Präzisionen verwenden, was dramatische Verbesserungen des Durchsatzes mit sich bringen kann.

Das folgende Diagramm zeigt die kumulativen Leistungssteigerungen bei der Anwendung verschiedener Optimierungen. Ihre Ergebnisse hängen von den verarbeiteten Daten und dem optimierten Netzwerk ab.

Leistungsverbesserungen für GPUs

Beispiel für GPU Leistungsoptimierungen. Quelle des Diagramms: Leistungstricks mit Gluon MXNet

In den folgenden Anleitungen werden Optionen vorgestellt, die für Sie geeignet sind DLAMI und Ihnen helfen, die GPU Leistung zu steigern.