Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Modellieren Sie die Bereitstellung am Edge mit SageMaker Edge Manager

Amazon SageMaker Edge Manager bietet Modellmanagement für Edge-Geräte, sodass Sie Modelle für maschinelles Lernen auf Flotten von Edge-Geräten wie Smart-Kameras, Robotern, PCs und Mobilgeräten optimieren, sichern, überwachen und verwalten können.

Warum Edge Manager verwenden?

In vielen Anwendungsfällen für Machine Learning (ML) müssen ML-Modelle auf einer Flotte von Edge-Geräten laufen. So können Sie Prognosen in Echtzeit abrufen, die Daten der Endnutzer schützen und die Kosten für die Netzwerkkonnektivität senken. Mit der zunehmenden Verfügbarkeit von Edge-Hardware mit geringem Stromverbrauch, die für ML entwickelt wurde, ist es jetzt möglich, das mehrere komplexe neuronale Netzwerkmodelle auf Edge-Geräten laufen.

Der Betrieb von ML-Modellen auf Edge-Geräten ist jedoch eine Herausforderung, da die Geräte im Unterschied zu Cloud-Instances nur über begrenzte Rechenleistung, Speicherplatz und Konnektivität verfügen. Wenn das Modell bereitgestellt wird, müssen Sie die Modelle kontinuierlich überwachen, da Modellabweichungen dazu führen können, dass die Qualität des Modells mit der Zeit nachlässt. Die Überwachung von Modellen für Ihre Geräteflotten ist schwierig, da Sie eigens dafür bestimmten Code schreiben müssen, um Datenstichproben von Ihrem Gerät zu nehmen und fehlerhafte Vorhersagen zu erkennen. Darüber hinaus sind Modelle häufig fest in der Anwendung codiert. Um das Modell zu aktualisieren, müssen Sie die gesamte Anwendungs- oder Gerätefirmware neu erstellen und aktualisieren, was Ihren Betrieb stören kann.

Mit SageMaker Edge Manager können Sie Modelle für maschinelles Lernen für Geräteflotten am Edge optimieren, ausführen, überwachen und aktualisieren.

Wie das funktioniert?

Auf einer hohen Ebene besteht der SageMaker Edge Manager-Workflow aus fünf Hauptkomponenten: Kompilieren von Modellen mit SageMaker Neo, Paketieren von Neo-compiled Modellen, Bereitstellen von Modellen auf Ihren Geräten, Ausführen von Modellen auf der SageMaker KI-Inferenz-Engine (Edge Manager Agent) und Verwaltung der Modelle auf den Geräten.

SageMaker Edge Manager verwendet SageMaker Neo, um Ihre Modelle mit einem Klick für die Zielhardware zu optimieren und Ihre Modelle dann vor der Bereitstellung kryptografisch zu signieren. Mithilfe von SageMaker Edge Manager können Sie Modelleingabe- und Ausgabedaten von Edge-Geräten abfragen und sie zur Überwachung und Analyse an die Cloud senden. Außerdem können Sie sich ein Dashboard ansehen, das den Betrieb der bereitgestellten Modelle in der SageMaker KI-Konsole verfolgt und visuell darüber berichtet.

SageMaker Edge Manager erweitert Funktionen, die bisher nur in der Cloud verfügbar waren, auf den Edge, sodass Entwickler die Modellqualität kontinuierlich verbessern können, indem sie Amazon SageMaker Model Monitor zur Drifterkennung verwenden, die Daten dann mit SageMaker AI Ground Truth umbenennen und die Modelle in SageMaker KI neu trainieren.

Wie verwende ich SageMaker Edge Manager?

Wenn Sie SageMaker Edge Manager zum ersten Mal verwenden, empfehlen wir Ihnen, Folgendes zu tun: