Verwenden Sie Amazon SageMaker AI Edge Manager auf Greengrass-Kerngeräten - AWS IoT Greengrass
FunktionsweiseVoraussetzungenBeginnen Sie mit SageMaker AI Edge Manager

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwenden Sie Amazon SageMaker AI Edge Manager auf Greengrass-Kerngeräten

Wichtig

SageMaker AI Edge Manager wurde am 26. April 2024 eingestellt. Weitere Informationen zur weiteren Bereitstellung Ihrer Modelle auf Edge-Geräten finden Sie unter Ende der Nutzungsdauer von SageMaker AI Edge Manager.

Amazon SageMaker AI Edge Manager ist ein Softwareagent, der auf Edge-Geräten ausgeführt wird. SageMaker AI Edge Manager bietet Modellmanagement für Edge-Geräte, sodass Sie mit Amazon SageMaker AI Neo kompilierte Modelle direkt auf Greengrass-Core-Geräten verpacken und verwenden können. Mithilfe von SageMaker AI Edge Manager können Sie auch Modelleingabe- und -ausgabedaten von Ihren Kerngeräten abfragen und diese Daten AWS Cloud zur Überwachung und Analyse an die senden. Da SageMaker AI Edge Manager SageMaker AI Neo verwendet, um Ihre Modelle für Ihre Zielhardware zu optimieren, müssen Sie die DLR Runtime nicht direkt auf Ihrem Gerät installieren. Auf Greengrass-Geräten lädt SageMaker AI Edge Manager keine lokalen AWS IoT Zertifikate und ruft den Endpunkt des AWS IoT Anmeldeinformationsanbieters nicht direkt auf. Stattdessen verwendet SageMaker AI Edge Manager den Token-Austauschdienst, um temporäre Anmeldeinformationen von einem Endpunkt abzurufen. TES

In diesem Abschnitt wird beschrieben, wie SageMaker AI Edge Manager auf Greengrass-Kerngeräten funktioniert.

So funktioniert SageMaker AI Edge Manager auf Greengrass-Geräten

Um den SageMaker AI Edge Manager-Agenten auf Ihren Kerngeräten bereitzustellen, erstellen Sie eine Bereitstellung, die die aws.greengrass.SageMakerEdgeManager Komponente enthält. AWS IoT Greengrass verwaltet die Installation und den Lebenszyklus des Edge Manager-Agenten auf Ihren Geräten. Wenn eine neue Version der Agent-Binärdatei verfügbar ist, stellen Sie die aktualisierte Version der aws.greengrass.SageMakerEdgeManager Komponente bereit, um die Version des Agenten zu aktualisieren, die auf Ihrem Gerät installiert ist.

Wenn Sie SageMaker AI Edge Manager mit verwenden AWS IoT Greengrass, umfasst Ihr Workflow die folgenden allgemeinen Schritte:

  1. Kompilieren Sie Modelle mit SageMaker AI Neo.

  2. Verpacken Sie Ihre mit SageMaker KI Neo kompilierten Modelle mithilfe von SageMaker AI Edge-Paketierungsjobs. Wenn Sie einen Edge-Paketierungsauftrag für Ihr Modell ausführen, können Sie wählen, ob Sie eine Modellkomponente mit dem verpackten Modell als Artefakt erstellen möchten, das auf Ihrem Greengrass-Core-Gerät bereitgestellt werden kann.

  3. Erstellen Sie eine benutzerdefinierte Inferenzkomponente. Sie verwenden diese Inferenzkomponente, um mit dem Edge Manager-Agenten zu interagieren und Inferenzen auf dem Kerngerät durchzuführen. Zu diesen Vorgängen gehören das Laden von Modellen, das Aufrufen von Vorhersageanforderungen zur Ausführung von Inferenzen und das Entladen von Modellen, wenn die Komponente heruntergefahren wird.

  4. Stellen Sie die SageMaker AI Edge Manager-Komponente, die verpackte Modellkomponente und die Inferenzkomponente bereit, um Ihr Modell auf der SageMaker KI-Inferenz-Engine (Edge Manager-Agent) auf Ihrem Gerät auszuführen.

Weitere Informationen zum Erstellen von Edge-Packaging-Jobs und Inferenzkomponenten, die mit SageMaker AI Edge Manager funktionieren, finden Sie unter Deploy Model Package und Edge Manager Agent with AWS IoT Greengrass im Amazon SageMaker AI Developer Guide.

Das Tutorial: Erste Schritte mit SageMaker AI Edge Manager Tutorial zeigt Ihnen, wie Sie den SageMaker AI Edge Manager-Agenten auf einem vorhandenen AWS Greengrass-Core-Gerät einrichten und verwenden. Dabei wird der bereitgestellte Beispielcode verwendet, mit dem Sie Beispielinferenz- und Modellkomponenten erstellen können.

Wenn Sie SageMaker AI Edge Manager auf Greengrass-Core-Geräten verwenden, können Sie auch die Funktion zum Erfassen von Daten verwenden, um Beispieldaten auf den AWS Cloud hochzuladen. Capture Data ist eine SageMaker KI-Funktion, mit der Sie Inferenzeingaben, Inferenzergebnisse und zusätzliche Inferenzdaten für future Analysen in einen S3-Bucket oder ein lokales Verzeichnis hochladen. Weitere Informationen zur Verwendung von Erfassungsdaten mit SageMaker AI Edge Manager finden Sie unter Modell verwalten im Amazon SageMaker AI Developer Guide.

Voraussetzungen

Sie müssen die folgenden Anforderungen erfüllen, um den SageMaker AI Edge Manager-Agenten auf Greengrass-Kerngeräten verwenden zu können.

  • Ein Greengrass-Core-Gerät, das auf Amazon Linux 2, einer Debian-basierten Linux-Plattform (x86_64 oder Armv8) oder Windows (x86_64) läuft. Falls Sie noch keines haben, beachten Sie die Informationen unter Tutorial: Erste Schritte mit AWS IoT Greengrass V2.

  • Python 3.6 oder höher, auch pip für Ihre Version von Python, die auf Ihrem Kerngerät installiert ist.

  • Die Greengrass-Geräterolle wurde wie folgt konfiguriert:

    • Eine Vertrauensbeziehung, die es sagemaker.amazonaws.com ermöglicht credentials.iot.amazonaws.com und die Übernahme der Rolle ermöglicht, wie im folgenden IAM Richtlinienbeispiel dargestellt.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • Die von AmazonSageMakerEdgeDeviceFleetPolicy IAM verwaltete Richtlinie.

    • Die s3:PutObject Aktion, wie im folgenden IAM Richtlinienbeispiel dargestellt.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Ein Amazon S3 S3-Bucket, der im selben AWS-Konto und AWS-Region wie Ihr Greengrass-Core-Gerät erstellt wurde. SageMaker AI Edge Manager benötigt einen S3-Bucket, um eine Edge-Geräteflotte zu erstellen und Beispieldaten aus laufenden Inferenzen auf Ihrem Gerät zu speichern. Informationen zum Erstellen von S3-Buckets finden Sie unter Erste Schritte mit Amazon S3.

  • Eine SageMaker KI-Edge-Geräteflotte, die denselben AWS IoT Rollenalias wie Ihr Greengrass-Core-Gerät verwendet. Weitere Informationen finden Sie unter Erstellen Sie eine Flotte von Edge-Geräten.

  • Ihr Greengrass-Core-Gerät ist als Edge-Gerät in Ihrer SageMaker AI Edge-Geräteflotte registriert. Der Name des Edge-Geräts muss mit dem AWS IoT Dingnamen für Ihr Core-Gerät übereinstimmen. Weitere Informationen finden Sie unter Registrieren Sie Ihr Greengrass Core-Gerät.

Beginnen Sie mit SageMaker AI Edge Manager

Sie können ein Tutorial abschließen, um mit SageMaker AI Edge Manager zu beginnen. Das Tutorial zeigt Ihnen, wie Sie mit der Verwendung von SageMaker AI Edge Manager beginnen können, und AWS zwar anhand der bereitgestellten Beispielkomponenten auf einem vorhandenen Kerngerät. Diese Beispielkomponenten verwenden die SageMaker AI Edge Manager-Komponente als Abhängigkeit, um den Edge Manager-Agenten bereitzustellen und Inferenzen mithilfe vortrainierter Modelle durchzuführen, die mit AI Neo kompiliert wurden. SageMaker Weitere Informationen finden Sie unter Tutorial: Erste Schritte mit SageMaker AI Edge Manager.