SageMaker Gestione AI Edge - AWS IoT Greengrass
VersioniTipoSistema operativoRequisitiDipendenzeConfigurazioneFile di registro localeChangelog

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

SageMaker Gestione AI Edge

Importante

SageMaker AI Edge Manager è stato interrotto il 26 aprile 2024. Per ulteriori informazioni su come continuare a distribuire i tuoi modelli sui dispositivi edge, consulta la sezione End of life di SageMaker AI Edge Manager.

Il componente Amazon SageMaker AI Edge Manager (aws.greengrass.SageMakerEdgeManager) installa il binario dell'agente SageMaker AI Edge Manager.

SageMaker AI Edge Manager fornisce la gestione dei modelli per i dispositivi edge in modo da poter ottimizzare, proteggere, monitorare e mantenere i modelli di machine learning su flotte di dispositivi edge. Il componente SageMaker AI Edge Manager installa e gestisce il ciclo di vita dell'agente SageMaker AI Edge Manager sul dispositivo principale. Puoi anche utilizzare SageMaker AI Edge Manager per impacchettare e utilizzare modelli compilati da SageMaker AI NEO come componenti del modello sui dispositivi core Greengrass. Per ulteriori informazioni sull'utilizzo dell'agente SageMaker AI Edge Manager sul dispositivo principale, consulta. Usa Amazon SageMaker AI Edge Manager sui dispositivi core Greengrass

SageMaker Il componente AI Edge Manager v1.3.x installa il binario dell'agente Edge Manager v1.20220822.836f3023. Per ulteriori informazioni sulle versioni binarie dell'agente Edge Manager, vedere Edge Manager Agent.

Nota

Il componente SageMaker AI Edge Manager è disponibile solo nei seguenti casi Regioni AWS:

  • Stati Uniti orientali (Ohio)

  • Stati Uniti orientali (Virginia settentrionale)

  • US West (Oregon)

  • UE (Francoforte)

  • UE (Irlanda)

  • Asia Pacifico (Tokyo)

Versioni

Questo componente ha le seguenti versioni:

  • 1.3.x

  • 1.2.x

  • 1.1.x

  • 1.0.x

Tipo

Questo componente è un componente generico () aws.greengrass.generic. Il nucleo Greengrass esegue gli script del ciclo di vita del componente.

Per ulteriori informazioni, consulta Tipi di componenti.

Sistema operativo

Questo componente può essere installato su dispositivi principali che eseguono i seguenti sistemi operativi:

  • Linux

  • Windows

Requisiti

Questo componente presenta i seguenti requisiti:

  • Un dispositivo core Greengrass in esecuzione su Amazon Linux 2, una piattaforma Linux basata su Debian (x86_64 o Armv8) o Windows (x86_64). Se non lo hai, consultare Tutorial: Guida introduttiva a AWS IoT Greengrass V2.

  • Python 3.6 o versione successiva, inclusa pip la tua versione di Python, installato sul tuo dispositivo principale.

  • Il ruolo del dispositivo Greengrass è configurato con quanto segue:

    • Una relazione di fiducia che consente credentials.iot.amazonaws.com e consente sagemaker.amazonaws.com di assumere il ruolo, come illustrato nel seguente esempio di IAM policy.

      { 
  "Version": "2012-10-17",
  "Statement": [ 
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "credentials.iot.amazonaws.com"
       }, 
      "Action": "sts:AssumeRole" 
    },
    { 
      "Effect": "Allow", 
      "Principal": {
        "Service": "sagemaker.amazonaws.com"
      }, 
      "Action": "sts:AssumeRole" 
    } 
  ] 
}

    • La policy AmazonSageMakerEdgeDeviceFleetPolicy gestita da IAM.

    • L's3:PutObjectazione, come illustrato nel seguente esempio IAM di politica.

      {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "*"
      ],
      "Effect": "Allow"
    }
  ]
}

  • Un bucket Amazon S3 creato nello stesso Regione AWS dispositivo Account AWS principale Greengrass. SageMaker AI Edge Manager richiede un bucket S3 per creare una flotta di dispositivi edge e per archiviare dati di esempio derivanti dall'esecuzione dell'inferenza sul dispositivo. Per informazioni sulla creazione di bucket S3, consulta Guida introduttiva ad Amazon S3.

  • Una flotta di dispositivi edge SageMaker AI che utilizza lo stesso alias di AWS IoT ruolo del dispositivo principale Greengrass. Per ulteriori informazioni, consulta Crea una flotta di dispositivi edge.

  • Il tuo dispositivo principale Greengrass è stato registrato come dispositivo edge nella tua flotta di dispositivi SageMaker AI Edge. Il nome del dispositivo edge deve corrispondere al nome dell' AWS IoT oggetto del dispositivo principale. Per ulteriori informazioni, consulta Registra il tuo dispositivo Greengrass core.

Endpoint e porte

Questo componente deve essere in grado di eseguire richieste in uscita verso i seguenti endpoint e porte, oltre agli endpoint e alle porte necessari per le operazioni di base. Per ulteriori informazioni, consulta Consenti il traffico dei dispositivi tramite un proxy o un firewall.

Endpoint Porta Richiesto Descrizione

edge.sagemaker.region.amazonaws.com

 443 Sì

Controlla lo stato di registrazione del dispositivo e invia le metriche all'IA. SageMaker

*.s3.amazonaws.com

 443 Sì

Carica i dati di acquisizione nel bucket S3 che hai specificato.

Puoi sostituirlo * con il nome di ogni bucket in cui carichi i dati.

Dipendenze

Quando distribuisci un componente, distribuisce AWS IoT Greengrass anche versioni compatibili delle sue dipendenze. Ciò significa che è necessario soddisfare i requisiti per il componente e tutte le sue dipendenze per distribuire correttamente il componente. Questa sezione elenca le dipendenze per le versioni rilasciate di questo componente e i vincoli di versione semantica che definiscono le versioni dei componenti per ogni dipendenza. È inoltre possibile visualizzare le dipendenze per ogni versione del componente nella console.AWS IoT Greengrass Nella pagina dei dettagli del componente, cerca l'elenco delle dipendenze.

1.3.5 and 1.3.6

La tabella seguente elenca le dipendenze per le versioni 1.3.5 e 1.3.6 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.13.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.3.4

La tabella seguente elenca le dipendenze per la versione 1.3.4 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.12.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.3.3

La tabella seguente elenca le dipendenze per la versione 1.3.3 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.11.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.3.2

La tabella seguente elenca le dipendenze per la versione 1.3.2 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.10.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.3.1

La tabella seguente elenca le dipendenze per la versione 1.3.1 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.9.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.1.1 - 1.3.0

La tabella seguente elenca le dipendenze per le versioni 1.1.1 - 1.3.0 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.8.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.1.0

La tabella seguente elenca le dipendenze per la versione 1.1.0 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.6.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.0.3

La tabella seguente elenca le dipendenze per la versione 1.0.3 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.5.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.0.1 and 1.0.2

La tabella seguente elenca le dipendenze per le versioni 1.0.1 e 1.0.2 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.4.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi
1.0.0

La tabella seguente elenca le dipendenze per la versione 1.0.0 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass >=2.0.0 <2.3.0 Flessibili
Servizio di scambio di token >=0.0.0 Rigidi

Per ulteriori informazioni sulle dipendenze dei componenti, vedere il riferimento alla ricetta dei componenti.

Configurazione

Questo componente fornisce i seguenti parametri di configurazione che è possibile personalizzare durante la distribuzione del componente.

Nota

Questa sezione descrive i parametri di configurazione impostati nel componente. Per ulteriori informazioni sulla configurazione di SageMaker AI Edge Manager corrispondente, consulta Edge Manager Agent nella Amazon SageMaker AI Developer Guide.

DeviceFleetName

Il nome del parco dispositivi SageMaker AI Edge Manager che contiene il dispositivo principale Greengrass.

È necessario specificare un valore per questo parametro nell'aggiornamento della configurazione quando si distribuisce questo componente.

BucketName

Il nome del bucket S3 in cui carichi i dati di inferenza acquisiti. Il nome del bucket deve contenere la stringa. sagemaker

Se si imposta su CaptureDataDestinationCloud, o se si imposta su CaptureDataPeriodicUploadtrue, è necessario specificare un valore per questo parametro nell'aggiornamento della configurazione quando si distribuisce questo componente.

Nota

Capture data è una funzionalità di SageMaker intelligenza artificiale che utilizzi per caricare input di inferenza, risultati di inferenza e dati di inferenza aggiuntivi su un bucket S3 o una directory locale per analisi future. Per ulteriori informazioni sull'utilizzo dei dati di acquisizione con SageMaker AI Edge Manager, consulta Manage Model nella Amazon SageMaker AI Developer Guide.

CaptureDataBatchSize

(Facoltativo) La dimensione di un batch di richieste di dati di acquisizione gestite dall'agente. Questo valore deve essere inferiore alla dimensione del buffer specificata. CaptureDataBufferSize Si consiglia di non superare la metà della dimensione del buffer.

L'agente gestisce un batch di richieste quando il numero di richieste nel buffer raggiunge il CaptureDataBatchSize numero o allo scadere dell'CaptureDataPushPeriodSecondsintervallo, a seconda dell'evento che si verifica per primo.

Impostazione predefinita: 10

CaptureDataBufferSize

(Facoltativo) Il numero massimo di richieste di dati di acquisizione archiviate nel buffer.

Impostazione predefinita: 30

CaptureDataDestination

(Facoltativo) La destinazione in cui vengono archiviati i dati acquisiti. Questo parametro può avere i seguenti valori:

  • Cloud—Carica i dati acquisiti nel bucket S3 specificato in. BucketName

  • Disk—Scrive i dati acquisiti nella directory di lavoro del componente.

Se lo specifichiDisk, puoi anche scegliere di caricare periodicamente i dati acquisiti nel tuo bucket S3 impostando su. CaptureDataPeriodicUpload true

Impostazione predefinita: Cloud

CaptureDataPeriodicUpload

(Facoltativo) Valore di stringa che specifica se caricare periodicamente i dati acquisiti. I valori supportati sono true e false.

Imposta questo parametro su true se lo hai CaptureDataDestination impostato Disk e desideri inoltre che l'agente carichi periodicamente i dati acquisiti nel tuo bucket S3.

Impostazione predefinita: false

CaptureDataPeriodicUploadPeriodSeconds

(Facoltativo) L'intervallo in secondi con cui l'agente SageMaker AI Edge Manager carica i dati acquisiti nel bucket S3. Utilizzate questo parametro se lo impostate su. CaptureDataPeriodicUpload true

Impostazione predefinita: 8

CaptureDataPushPeriodSeconds

(Facoltativo) L'intervallo in secondi in cui l'agente SageMaker AI Edge Manager gestisce un batch di richieste di acquisizione di dati dal buffer.

L'agente gestisce un batch di richieste quando il numero di richieste nel buffer raggiunge il CaptureDataBatchSize numero o allo scadere dell'CaptureDataPushPeriodSecondsintervallo, a seconda dell'evento che si verifica per primo.

Impostazione predefinita: 4

CaptureDataBase64EmbedLimit

(Facoltativo) La dimensione massima in byte dei dati acquisiti caricati dall'agente AI Edge Manager. SageMaker

Impostazione predefinita: 3072

FolderPrefix

(Facoltativo) Il nome della cartella in cui l'agente scrive i dati acquisiti. Se CaptureDataDestination si imposta suDisk, l'agente crea la cartella nella directory specificata daCaptureDataDiskPath. Se lo CaptureDataDestination imposti suCloud, o se lo CaptureDataPeriodicUpload impostitrue, l'agente crea la cartella nel tuo bucket S3.

Impostazione predefinita: sme-capture

CaptureDataDiskPath

Questa funzionalità è disponibile nella versione 1.1.0 e successive del componente SageMaker AI Edge Manager.

(Facoltativo) Il percorso della cartella in cui l'agente crea la cartella dei dati acquisiti. Se si imposta su CaptureDataDestinationDisk, l'agente crea la cartella dei dati acquisiti in questa directory. Se non specificate questo valore, l'agente crea la cartella dei dati acquisiti nella directory di lavoro del componente. Utilizzate il FolderPrefix parametro per specificare il nome della cartella dei dati acquisiti.

Impostazione predefinita: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

LocalDataRootPath

Questa funzionalità è disponibile nella versione 1.2.0 e nelle versioni successive del componente SageMaker AI Edge Manager.

(Facoltativo) Il percorso in cui questo componente memorizza i seguenti dati sul dispositivo principale:

  • Il database locale per i dati di runtime se DbEnable impostato sutrue.

  • SageMaker Modelli compilati da AI NEO che questo componente scarica automaticamente quando lo DeploymentEnable imposti. true

Impostazione predefinita: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

DbEnable

(Facoltativo) È possibile consentire a questo componente di archiviare i dati di runtime in un database locale per conservare i dati, nel caso in cui il componente si guasti o il dispositivo perda alimentazione.

Questo database richiede 5 MB di spazio di archiviazione sul file system del dispositivo principale.

Impostazione predefinita: false

DeploymentEnable

Questa funzionalità è disponibile nella versione 1.2.0 e nelle versioni successive del componente SageMaker AI Edge Manager.

(Facoltativo) Puoi abilitare questo componente per recuperare automaticamente i modelli compilati da SageMaker AI NEO da quelli caricati su Amazon S3. Dopo aver caricato un nuovo modello su Amazon S3, usa SageMaker AI Studio o l'intelligenza SageMaker artificiale API per distribuire il nuovo modello su questo dispositivo principale. Quando abiliti questa funzionalità, puoi distribuire nuovi modelli sui dispositivi principali senza dover creare una distribuzione. AWS IoT Greengrass

Importante

Per utilizzare questa funzionalità, è necessario impostare suDbEnable. true Questa funzionalità utilizza il database locale per tenere traccia dei modelli recuperati da. Cloud AWS

Impostazione predefinita: false

DeploymentPollInterval

Questa funzionalità è disponibile nella versione 1.2.0 e nelle versioni successive del componente SageMaker AI Edge Manager.

(Facoltativo) La quantità di tempo (in minuti) tra cui questo componente verifica la presenza di nuovi modelli da scaricare. Questa opzione si applica quando è impostata DeploymentEnable sutrue.

Impostazione predefinita: 1440 (1 giorno)

DLRBackendOptions

Questa funzionalità è disponibile nella versione 1.2.0 e successive del componente SageMaker AI Edge Manager.

(Facoltativo) I flag DLR di runtime da impostare nel DLR runtime utilizzato da questo componente. È possibile impostare il seguente flag:

  • TVM_TENSORRT_CACHE_DIR— Abilita la memorizzazione nella cache del modello TensorRT. Specificate un percorso assoluto per una cartella esistente con autorizzazioni di lettura/scrittura.

  • TVM_TENSORRT_CACHE_DISK_SIZE_MB— Assegna il limite superiore della cartella cache del modello TensorRT. Quando la dimensione della directory supera questo limite, i motori memorizzati nella cache che vengono utilizzati meno vengono eliminati. Il valore predefinito è 512 MB.

Ad esempio, puoi impostare questo parametro sul valore seguente per abilitare la memorizzazione nella cache del modello TensorRT e limitare la dimensione della cache a 800 MB.

TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800
SagemakerEdgeLogVerbose

(Facoltativo) Valore di stringa che specifica se abilitare la registrazione di debug. I valori supportati sono true e false.

Impostazione predefinita: false

UnixSocketName

(Facoltativo) La posizione del descrittore del file socket SageMaker AI Edge Manager sul dispositivo principale.

Impostazione predefinita: /tmp/aws.greengrass.SageMakerEdgeManager.sock

Esempio: fusione e aggiornamento della configurazione

La seguente configurazione di esempio specifica che il dispositivo principale fa parte di MyEdgeDeviceFleet e che l'agente scrive i dati di acquisizione sia sul dispositivo che su un bucket S3. Questa configurazione consente anche la registrazione dei debug.

{
    "DeviceFleetName": "MyEdgeDeviceFleet",
    "BucketName": "amzn-s3-demo-bucket",
    "CaptureDataDestination": "Disk",
    "CaptureDataPeriodicUpload": "true",
    "SagemakerEdgeLogVerbose": "true"    
}

File di registro locale

Questo componente utilizza il seguente file di registro.

Linux
/greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
Windows
C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log
Per visualizzare i log di questo componente

  • Esegui il seguente comando sul dispositivo principale per visualizzare il file di registro di questo componente in tempo reale. Sostituisci /greengrass/v2 o C:\greengrass\v2 con il percorso della cartella AWS IoT Greengrass principale.

    Linux
    sudo tail -f /greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
    Windows (PowerShell)
    Get-Content C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log -Tail 10 -Wait

Changelog

La tabella seguente descrive le modifiche apportate a ciascuna versione del componente.

Versione

Modifiche

1.3.6

Versione aggiornata per la release Greengrass nucleus 2.12.5.

1.3.5

 Versione aggiornata per la versione 2.12.0 di Greengrass nucleus.

1.3.4

 Versione aggiornata per la versione 2.11.0 di Greengrass nucleus.

1.3.3

 Versione aggiornata per la versione 2.10.0 di Greengrass nucleus.

1.3.2

 Versione aggiornata per la versione 2.9.0 di Greengrass nucleus.

1.3.1

 Versione aggiornata per la versione 2.8.0 di Greengrass nucleus.

1.3.0
Nuove funzionalità

  • Aggiunge il supporto per la gestione delle dimensioni del disco della cache TensorRT.

    • Aggiunge il TVM_TENSORRT_CACHE_DISK_SIZE_MB flag opzionale al DLRBackendOptions parametro per impostare il limite di dimensione per i modelli memorizzati nella cache su disco.

Miglioramenti

  • Fornisce una migliore concorrenza nelle previsioni. Ciò consente di utilizzare meglio i motori di accelerazione dei dispositivi, come. GPUs

1.2.0
Nuove funzionalità

  • Aggiunge il supporto per questo componente per recuperare automaticamente i modelli compilati da SageMaker AI NEO che carichi su Amazon S3. Quando abiliti questa funzionalità, puoi distribuire nuovi modelli sui dispositivi principali senza dover creare una distribuzione. AWS IoT Greengrass

  • Aggiunge il supporto per un database di backup utilizzato da questo componente per conservare i dati di runtime, in caso di guasto del componente o di interruzione dell'alimentazione del dispositivo.

  • Aggiunge il supporto per la configurazione dei flag DLR di runtime quando si configura questo componente.

1.1.1

Versione aggiornata per la versione 2.7.0 di Greengrass nucleus.

1.1.0
Nuove funzionalità

  • Aggiunge il supporto per i dispositivi core Greengrass che eseguono Amazon Linux 2.

  • Aggiunge il nuovo parametro CaptureDataDiskPath di configurazione. È possibile utilizzare questo parametro per specificare il percorso della cartella dei dati acquisiti sul dispositivo.

Correzioni di bug e miglioramenti

  • Versione aggiornata per la versione 2.5.0 di Greengrass nucleus.

1.0.3

Versione aggiornata per la versione 2.4.0 di Greengrass nucleus.

1.0.2
Correzioni di bug e miglioramenti

Aggiorna lo script di installazione nel ciclo di vita del componente. I tuoi dispositivi principali devono ora avere Python 3.6 o versione successiva, inclusa pip la tua versione di Python, installato sul dispositivo prima di distribuire questo componente.

1.0.1

Versione aggiornata per la versione 2.3.0 di Greengrass nucleus.

1.0.0

Versione iniziale.