Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Durchführen von Machine Learning-Inferenzen

Mit AWS IoT Greengrass können Sie mithilfe von Cloud-trainierten Modellen Inferenzen für maschinelles Lernen (ML) auf Ihren Edge-Geräten anhand lokal generierter Daten durchführen. Sie können von der niedrigen Latenz und Kosteneinsparungen der Ausführung von lokaler Inferenz profitieren und trotzdem die Cloud-Rechenleistung für Schulungsmodelle und komplexe Verarbeitung nutzen.

AWS IoT Greengrass macht die zur Durchführung von Inferenzen erforderlichen Schritte effizienter. Sie können Ihre Inferenzmodelle überall trainieren und sie lokal als Komponenten für maschinelles Lernen einsetzen. Sie können beispielsweise Deep-Learning-Modelle in Amazon SageMaker AI oder Computer Vision-Modelle in Amazon Lookout for Vision erstellen und trainieren. Anschließend können Sie diese Modelle in einem Amazon S3 S3-Bucket speichern, sodass Sie diese Modelle als Artefakte in Ihren Komponenten verwenden können, um Inferenzen auf Ihren Kerngeräten durchzuführen.

Wie funktioniert AWS IoT Greengrass ML-Inferenz

AWS bietet Komponenten für maschinelles Lernen, mit denen Sie Bereitstellungen in einem Schritt erstellen können, um Inferenzen für maschinelles Lernen auf Ihrem Gerät durchzuführen. Sie können diese Komponenten auch als Vorlagen verwenden, um benutzerdefinierte Komponenten zu erstellen, die Ihren spezifischen Anforderungen entsprechen.

Jede Bereitstellung, die Sie für die Durchführung von Inferenzen für maschinelles Lernen erstellen, besteht aus mindestens einer Komponente, die Ihre Inferenzanwendung ausführt, das Framework für maschinelles Lernen installiert und Ihre Modelle für maschinelles Lernen herunterlädt. Um eine Beispielinferenz mit von AWS-bereitgestellten Komponenten durchzuführen, stellen Sie eine Inferenzkomponente auf Ihrem Kerngerät bereit, die automatisch das entsprechende Modell und die Laufzeitkomponenten als Abhängigkeiten enthält. Um Ihre Bereitstellungen anzupassen, können Sie die Beispielmodellkomponenten durch benutzerdefinierte Modellkomponenten ergänzen oder austauschen oder Sie können die Komponentenrezepte für die AWS bereitgestellten Komponenten als Vorlagen verwenden, um Ihre eigenen benutzerdefinierten Inferenz-, Modell- und Laufzeitkomponenten zu erstellen.

So führen Sie mithilfe benutzerdefinierter Komponenten Inferenzen für maschinelles Lernen durch:

Informationen zu den ersten Schritten mit den von AWS-bereitgestellten Komponenten finden Sie unter. Tutorial: Durchführen einer Inferenz bei der Bildklassifizierung mit TensorFlow Lite

Informationen zum Erstellen benutzerdefinierter Komponenten für maschinelles Lernen finden Sie unterPassen Sie Ihre Komponenten für maschinelles Lernen an.

Was ist in AWS IoT Greengrass Version 2 anders?

AWS IoT Greengrass konsolidiert Funktionseinheiten für maschinelles Lernen — wie Modelle, Laufzeiten und Inferenzcode — in Komponenten, mit denen Sie in einem einzigen Schritt die Machine Learning-Runtime installieren, Ihre trainierten Modelle herunterladen und Inferenzen auf Ihrem Gerät durchführen können.

Durch die Verwendung der AWS bereitgestellten Komponenten für maschinelles Lernen haben Sie die Flexibilität, mit der Durchführung von Inferenzen für maschinelles Lernen mit Beispiel-Inferenzcode und vortrainierten Modellen zu beginnen. Sie können benutzerdefinierte Modellkomponenten einbinden, um Ihre eigenen, speziell trainierten Modelle mit den Inferenz- und Laufzeitkomponenten zu verwenden, die das bietet. AWS Für eine vollständig angepasste Lösung für maschinelles Lernen können Sie die öffentlichen Komponenten als Vorlagen verwenden, um benutzerdefinierte Komponenten zu erstellen und jeden beliebigen Laufzeit-, Modell- oder Inferenztyp zu verwenden.

Voraussetzungen

Um Komponenten für maschinelles Lernen zu erstellen und zu verwenden, benötigen Sie Folgendes:

Unterstützte Modellquellen

AWS IoT Greengrass unterstützt die Verwendung von individuell trainierten Modellen für maschinelles Lernen, die in Amazon S3 gespeichert sind. Sie können Amazon SageMaker AI Edge Packaging Jobs auch verwenden, um direkt Modellkomponenten für Ihre mit SageMaker KI NEO kompilierten Modelle zu erstellen. Informationen zur Verwendung von SageMaker AI Edge Manager mit finden Sie AWS IoT Greengrass unterVerwenden Sie Amazon SageMaker AI Edge Manager auf Greengrass-Kerngeräten. Sie können auch Amazon Lookout for Vision Vision-Modellverpackungsaufträge verwenden, um Modellkomponenten für Ihre Lookout for Vision Vision-Modelle zu erstellen. Weitere Informationen zur Verwendung von Lookout for Vision mit finden Sie AWS IoT Greengrass unterAmazon Lookout for Vision.

Die S3-Buckets, die Ihre Modelle enthalten, müssen die folgenden Anforderungen erfüllen:

Unterstützte Laufzeiten für maschinelles Lernen

AWS IoT Greengrass ermöglicht es Ihnen, benutzerdefinierte Komponenten zu erstellen, um eine beliebige Laufzeit für maschinelles Lernen Ihrer Wahl zu verwenden, um mit Ihren individuell trainierten Modellen Inferenzen für maschinelles Lernen durchzuführen. Informationen zum Erstellen benutzerdefinierter Komponenten für maschinelles Lernen finden Sie unter. Passen Sie Ihre Komponenten für maschinelles Lernen an

Um den Einstieg in maschinelles Lernen effizienter zu gestalten, AWS IoT Greengrass bietet dieser Artikel Beispiele für Inferenz-, Modell- und Laufzeitkomponenten, die die folgenden Laufzeiten für maschinelles Lernen verwenden:

AWS-bereitgestellte Komponenten für maschinelles Lernen

In der folgenden Tabelle sind die von AWS-bereitgestellten Komponenten aufgeführt, die für maschinelles Lernen verwendet werden.