Usa Amazon SageMaker AI Edge Manager sui dispositivi core Greengrass - AWS IoT Greengrass
Come funzionaRequisitiInizia con SageMaker AI Edge Manager

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Usa Amazon SageMaker AI Edge Manager sui dispositivi core Greengrass

Importante

SageMaker AI Edge Manager è stato interrotto il 26 aprile 2024. Per ulteriori informazioni su come continuare a distribuire i tuoi modelli sui dispositivi edge, consulta la sezione End of life di SageMaker AI Edge Manager.

Amazon SageMaker AI Edge Manager è un agente software che funziona su dispositivi edge. SageMaker AI Edge Manager fornisce la gestione dei modelli per i dispositivi edge in modo da poter impacchettare e utilizzare i modelli compilati da Amazon SageMaker AI NEO direttamente sui dispositivi core di Greengrass. Utilizzando SageMaker AI Edge Manager, puoi anche campionare i dati di input e output del modello dai tuoi dispositivi principali e inviarli a loro Cloud AWS per il monitoraggio e l'analisi. Poiché SageMaker AI Edge Manager utilizza SageMaker AI Neo per ottimizzare i modelli per l'hardware di destinazione, non è necessario installare il DLR runtime direttamente sul dispositivo. Sui dispositivi Greengrass, SageMaker AI Edge Manager non carica AWS IoT certificati locali né chiama direttamente l'endpoint del fornitore di AWS IoT credenziali. Invece, SageMaker AI Edge Manager utilizza il servizio di scambio di token per recuperare credenziali temporanee da un endpoint. TES

Questa sezione descrive come funziona SageMaker AI Edge Manager sui dispositivi core Greengrass.

Come funziona SageMaker AI Edge Manager sui dispositivi Greengrass

Per distribuire l'agente SageMaker AI Edge Manager sui tuoi dispositivi principali, crea una distribuzione che includa il aws.greengrass.SageMakerEdgeManager componente. AWS IoT Greengrass gestisce l'installazione e il ciclo di vita dell'agente Edge Manager sui tuoi dispositivi. Quando è disponibile una nuova versione dell'agente binario, distribuisci la versione aggiornata del aws.greengrass.SageMakerEdgeManager componente per aggiornare la versione dell'agente installata sul tuo dispositivo.

Quando utilizzi SageMaker AI Edge Manager con AWS IoT Greengrass, il tuo flusso di lavoro include i seguenti passaggi di alto livello:

  1. Compila modelli con SageMaker AI Neo.

  2. Package dei modelli compilati da SageMaker AI NEO utilizzando processi di packaging SageMaker AI edge. Quando esegui un processo di edge packaging per il tuo modello, puoi scegliere di creare un componente del modello con il modello confezionato come artefatto che può essere distribuito sul tuo dispositivo principale Greengrass.

  3. Crea un componente di inferenza personalizzato. Questo componente di inferenza viene utilizzato per interagire con l'agente Edge Manager per eseguire l'inferenza sul dispositivo principale. Queste operazioni includono il caricamento dei modelli, l'invocazione di richieste di previsione per eseguire l'inferenza e lo scaricamento dei modelli quando il componente si spegne.

  4. Implementa il componente SageMaker AI Edge Manager, il componente del modello in pacchetto e il componente di inferenza per eseguire il modello sul motore di inferenza SageMaker AI (agente Edge Manager) sul tuo dispositivo.

Per ulteriori informazioni sulla creazione di processi di edge packaging e componenti di inferenza compatibili con SageMaker AI Edge Manager, consulta Deploy Model Package and Edge Manager Agent with AWS IoT Greengrass nella Amazon SageMaker AI Developer Guide.

Il Tutorial: Inizia a usare SageMaker AI Edge Manager tutorial mostra come configurare e utilizzare l'agente SageMaker AI Edge Manager su un dispositivo core Greengrass esistente, utilizzando il codice di esempio AWS fornito che è possibile utilizzare per creare componenti di inferenza e modello di esempio.

Quando utilizzi SageMaker AI Edge Manager sui dispositivi principali Greengrass, puoi anche utilizzare la funzione di acquisizione dati per caricare dati di esempio su. Cloud AWS Capture data è una funzionalità di SageMaker intelligenza artificiale che utilizzi per caricare input di inferenza, risultati di inferenza e dati di inferenza aggiuntivi su un bucket S3 o una directory locale per analisi future. Per ulteriori informazioni sull'utilizzo dei dati di acquisizione con SageMaker AI Edge Manager, consulta Manage Model nella Amazon SageMaker AI Developer Guide.

Requisiti

È necessario soddisfare i seguenti requisiti per utilizzare l'agente SageMaker AI Edge Manager sui dispositivi principali Greengrass.

  • Un dispositivo core Greengrass in esecuzione su Amazon Linux 2, una piattaforma Linux basata su Debian (x86_64 o Armv8) o Windows (x86_64). Se non lo hai, consultare Tutorial: Guida introduttiva a AWS IoT Greengrass V2.

  • Python 3.6 o versione successiva, inclusa pip la tua versione di Python, installato sul tuo dispositivo principale.

  • Il ruolo del dispositivo Greengrass è configurato con quanto segue:

    • Una relazione di fiducia che consente credentials.iot.amazonaws.com e consente sagemaker.amazonaws.com di assumere il ruolo, come illustrato nel seguente esempio di IAM policy.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • La policy AmazonSageMakerEdgeDeviceFleetPolicy gestita da IAM.

    • L's3:PutObjectazione, come illustrato nel seguente esempio IAM di politica.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Un bucket Amazon S3 creato nello stesso Regione AWS dispositivo Account AWS principale Greengrass. SageMaker AI Edge Manager richiede un bucket S3 per creare una flotta di dispositivi edge e per archiviare dati di esempio derivanti dall'esecuzione dell'inferenza sul dispositivo. Per informazioni sulla creazione di bucket S3, consulta Guida introduttiva ad Amazon S3.

  • Una flotta di dispositivi edge SageMaker AI che utilizza lo stesso alias di AWS IoT ruolo del dispositivo principale Greengrass. Per ulteriori informazioni, consulta Crea una flotta di dispositivi edge.

  • Il tuo dispositivo principale Greengrass è stato registrato come dispositivo edge nella tua flotta di dispositivi SageMaker AI Edge. Il nome del dispositivo edge deve corrispondere al nome dell' AWS IoT oggetto del dispositivo principale. Per ulteriori informazioni, consulta Registra il tuo dispositivo Greengrass core.

Inizia con SageMaker AI Edge Manager

Puoi completare un tutorial per iniziare a utilizzare SageMaker AI Edge Manager. Il tutorial mostra come iniziare a utilizzare SageMaker AI Edge Manager con componenti AWS di esempio forniti su un dispositivo principale esistente. Questi componenti di esempio utilizzano il componente SageMaker AI Edge Manager come dipendenza per distribuire l'agente Edge Manager ed eseguire l'inferenza utilizzando modelli preaddestrati compilati utilizzando AI Neo. SageMaker Per ulteriori informazioni, consulta Tutorial: Inizia a usare SageMaker AI Edge Manager.