View a markdown version of this page

SageMaker Gestore AI Edge - AWS IoT Greengrass

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

SageMaker Gestore AI Edge

Importante

SageMaker AI Edge Manager è stato interrotto il 26 aprile 2024. Per ulteriori informazioni su come continuare a distribuire i modelli su dispositivi edge, vedi la fine del ciclo di vita di SageMaker AI Edge Manager.

Il componente Amazon SageMaker AI Edge Manager (aws.greengrass.SageMakerEdgeManager) installa il binario dell'agente SageMaker AI Edge Manager.

SageMaker AI Edge Manager fornisce la gestione dei modelli per i dispositivi edge in modo da poter ottimizzare, proteggere, monitorare e mantenere i modelli di apprendimento automatico su flotte di dispositivi edge. Il componente SageMaker AI Edge Manager installa e gestisce il ciclo di vita dell'agente SageMaker AI Edge Manager sul dispositivo principale. Puoi anche utilizzare SageMaker AI Edge Manager per impacchettare e utilizzare Neo-compiled i modelli SageMaker AI come componenti del modello sui dispositivi principali di Greengrass. Per ulteriori informazioni sull'utilizzo dell'agente SageMaker AI Edge Manager sul dispositivo principale, consultaUsa Amazon SageMaker AI Edge Manager sui dispositivi core Greengrass.

SageMaker Il componente AI Edge Manager v1.3.x installa il binario dell'agente Edge Manager v1.20220822.836f3023. Per ulteriori informazioni sulle versioni binarie dell'agente Edge Manager, vedere Edge Manager Agent. https://docs.aws.amazon.com/sagemaker/latest/dg/edge-device-fleet-about

Nota

Il componente SageMaker AI Edge Manager è disponibile solo nei seguenti Regioni AWS:

  • Stati Uniti orientali (Ohio)

  • Stati Uniti orientali (Virginia settentrionale)

  • Stati Uniti occidentali (Oregon)

  • UE (Francoforte)

  • UE (Irlanda)

  • Asia Pacifico (Tokyo)

Versioni

Questo componente ha le seguenti versioni:

  • 1.3.x

  • 1.2.x

  • 1.1.x

  • 1.0.x

Tipo

Questo componente è un componente generico ()aws.greengrass.generic. Il nucleo di Greengrass esegue gli script del ciclo di vita del componente.

Per ulteriori informazioni, consulta Tipi di componenti.

Sistema operativo

Questo componente può essere installato sui dispositivi principali che eseguono i seguenti sistemi operativi:

  • Linux

  • Windows

Requisiti

Questo componente ha i seguenti requisiti:

  • Un dispositivo principale Greengrass in esecuzione su Amazon Linux 2, una piattaforma Debian-based Linux (x86_64 o Armv8) o Windows (x86_64). Se non lo hai, consultare Tutorial: Guida introduttiva AWS IoT Greengrass V2.

  • Python 3.6 o successivo, inclusa la versione di Python in uso, installato sul dispositivo pip principale.

  • Il ruolo del dispositivo Greengrass è configurato con quanto segue:

    • Una relazione di fiducia che consente credentials.iot.amazonaws.com e sagemaker.amazonaws.com può assumere il ruolo, come mostrato nel seguente esempio di policy IAM.

      { "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Principal": { "Service": "credentials.iot.amazonaws.com" }, "Action": "sts:AssumeRole" }, { "Effect": "Allow", "Principal": { "Service": "sagemaker.amazonaws.com" }, "Action": "sts:AssumeRole" } ] }
    • La AmazonSageMakerEdgeDeviceFleetPolicy policy gestita da IAM.

    • L's3:PutObjectazione, come mostrato nel seguente esempio di policy IAM.

      { "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:PutObject" ], "Resource": [ "*" ], "Effect": "Allow" } ] }
  • Un bucket Amazon S3 creato nello stesso Account AWS e nel dispositivo Regione AWS principale Greengrass. SageMaker AI Edge Manager richiede un bucket S3 per creare una flotta di dispositivi edge e archiviare dati di esempio derivanti dall'esecuzione di inferenze sul dispositivo. Per informazioni sulla creazione di bucket S3, consulta Guida introduttiva ad Amazon S3.

  • Una flotta di dispositivi SageMaker AI edge che utilizza lo stesso alias di AWS IoT ruolo del dispositivo principale Greengrass. Per ulteriori informazioni, consulta Crea una flotta di dispositivi edge.

  • Il tuo dispositivo principale Greengrass è stato registrato come dispositivo edge nella tua flotta di dispositivi SageMaker AI Edge. Il nome del dispositivo edge deve corrispondere al nome dell' AWS IoT oggetto del dispositivo principale. Per ulteriori informazioni, consulta Registra il tuo dispositivo principale Greengrass.

Endpoint e porte

Questo componente deve essere in grado di eseguire richieste in uscita ai seguenti endpoint e porte, oltre agli endpoint e alle porte necessari per il funzionamento di base. Per ulteriori informazioni, consulta Consenti il traffico dei dispositivi tramite un proxy o un firewall.

Endpoint Porta Richiesto Description

edge.sagemaker.region.amazonaws.com

443

Controlla lo stato di registrazione del dispositivo e invia le metriche all'IA. SageMaker

*.s3.amazonaws.com

443

Carica i dati di acquisizione nel bucket S3 specificato.

Puoi sostituirli * con il nome di ogni bucket in cui carichi i dati.

Dipendenze

Quando distribuisci un componente, distribuisce AWS IoT Greengrass anche versioni compatibili delle sue dipendenze. Ciò significa che è necessario soddisfare i requisiti del componente e tutte le sue dipendenze per distribuire correttamente il componente. Questa sezione elenca le dipendenze per le versioni rilasciate di questo componente e i vincoli semantici della versione che definiscono le versioni dei componenti per ciascuna dipendenza. È inoltre possibile visualizzare le dipendenze per ciascuna versione del componente nella console. AWS IoT Greengrass Nella pagina dei dettagli del componente, cerca l'elenco delle dipendenze.

1.3.5 and 1.3.6

La tabella seguente elenca le dipendenze per le versioni 1.3.5 e 1.3.6 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.13.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.3.4

La tabella seguente elenca le dipendenze per la versione 1.3.4 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.12.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.3.3

La tabella seguente elenca le dipendenze per la versione 1.3.3 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.11.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.3.2

La tabella seguente elenca le dipendenze per la versione 1.3.2 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.10.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.3.1

La tabella seguente elenca le dipendenze per la versione 1.3.1 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.9.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.1.1 - 1.3.0

La tabella seguente elenca le dipendenze per le versioni 1.1.1 - 1.3.0 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.8.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.1.0

La tabella seguente elenca le dipendenze per la versione 1.1.0 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.6.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.0.3

La tabella seguente elenca le dipendenze per la versione 1.0.3 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.5.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.0.1 and 1.0.2

La tabella seguente elenca le dipendenze per le versioni 1.0.1 e 1.0.2 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.4.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi
1.0.0

La tabella seguente elenca le dipendenze per la versione 1.0.0 di questo componente.

Dipendenza Versioni compatibili Tipo di dipendenza
Nucleo Greengrass > =2.0.0 <2.3.0 Flessibili
Servizio di scambio di token > = 0.0.0 Rigidi

Per ulteriori informazioni sulle dipendenze dei componenti, vedere il riferimento alla composizione dei componenti.

Configurazione

Questo componente fornisce i seguenti parametri di configurazione che è possibile personalizzare durante la distribuzione del componente.

Nota

Questa sezione descrive i parametri di configurazione impostati nel componente. Per ulteriori informazioni sulla corrispondente configurazione SageMaker AI Edge Manager, consulta Edge Manager Agent nella Amazon SageMaker AI Developer Guide.

DeviceFleetName

Il nome del parco dispositivi SageMaker AI Edge Manager che contiene il dispositivo principale Greengrass.

È necessario specificare un valore per questo parametro nell'aggiornamento della configurazione quando si distribuisce questo componente.

BucketName

Il nome del bucket S3 in cui si caricano i dati di inferenza acquisiti. Il nome del bucket deve contenere la stringa. sagemaker

Se si imposta su CaptureDataDestinationCloud, o se si imposta su CaptureDataPeriodicUploadtrue, è necessario specificare un valore per questo parametro nell'aggiornamento della configurazione quando si distribuisce questo componente.

Nota

Capture data è una funzionalità di SageMaker intelligenza artificiale utilizzata per caricare input di inferenza, risultati di inferenza e dati di inferenza aggiuntivi in un bucket S3 o in una directory locale per analisi future. Per ulteriori informazioni sull'utilizzo dei dati di acquisizione con SageMaker AI Edge Manager, consulta Manage Model nella Amazon AI Developer Guide. SageMaker

CaptureDataBatchSize

(Facoltativo) La dimensione di un batch di richieste di acquisizione dati gestite dall'agente. Questo valore deve essere inferiore alla dimensione del buffer specificata. CaptureDataBufferSize Si consiglia di non superare la metà della dimensione del buffer.

L'agente gestisce un batch di richieste quando il numero di richieste nel buffer raggiunge tale CaptureDataBatchSize numero o allo scadere dell'CaptureDataPushPeriodSecondsintervallo, a seconda dell'evento che si verifica per primo.

Impostazione predefinita: 10

CaptureDataBufferSize

(Facoltativo) Il numero massimo di richieste di dati di acquisizione memorizzate nel buffer.

Impostazione predefinita: 30

CaptureDataDestination

(Facoltativo) La destinazione in cui vengono archiviati i dati acquisiti. Questo parametro può avere uno dei seguenti valori:

  • Cloud—Carica i dati acquisiti nel bucket S3 specificato. BucketName

  • Disk—Scrive i dati acquisiti nella directory di lavoro del componente.

Se lo specifichiDisk, puoi anche scegliere di caricare periodicamente i dati acquisiti nel bucket S3 impostando su. CaptureDataPeriodicUpload true

Impostazione predefinita: Cloud

CaptureDataPeriodicUpload

(Facoltativo) Valore stringa che specifica se caricare periodicamente i dati acquisiti. I valori supportati sono true e false.

Imposta questo parametro su true CaptureDataDestination se lo desideri e desideri inoltre che l'agente carichi periodicamente i dati acquisiti nel bucket S3. Disk

Impostazione predefinita: false

CaptureDataPeriodicUploadPeriodSeconds

(Facoltativo) L'intervallo in secondi con cui l'agente SageMaker AI Edge Manager carica i dati acquisiti nel bucket S3. Usa questo parametro se impostato su. CaptureDataPeriodicUpload true

Impostazione predefinita: 8

CaptureDataPushPeriodSeconds

(Facoltativo) L'intervallo in secondi con cui l'agente SageMaker AI Edge Manager gestisce un batch di richieste di dati di acquisizione dal buffer.

L'agente gestisce un batch di richieste quando il numero di richieste nel buffer raggiunge il CaptureDataBatchSize numero o allo scadere dell'CaptureDataPushPeriodSecondsintervallo, a seconda dell'evento che si verifica per primo.

Impostazione predefinita: 4

CaptureDataBase64EmbedLimit

(Facoltativo) La dimensione massima in byte dei dati acquisiti che l'agente SageMaker AI Edge Manager carica.

Impostazione predefinita: 3072

FolderPrefix

(Facoltativo) Il nome della cartella in cui l'agente scrive i dati acquisiti. Se CaptureDataDestination si imposta suDisk, l'agente crea la cartella nella directory specificata daCaptureDataDiskPath. Se si imposta su CaptureDataDestinationCloud, o se si imposta su CaptureDataPeriodicUploadtrue, l'agente crea la cartella nel bucket S3.

Impostazione predefinita: sme-capture

CaptureDataDiskPath

Questa funzionalità è disponibile nella versione 1.1.0 e successive del componente SageMaker AI Edge Manager.

(Facoltativo) Il percorso della cartella in cui l'agente crea la cartella dei dati acquisiti. Se si imposta su CaptureDataDestinationDisk, l'agente crea la cartella dei dati acquisiti in questa directory. Se non si specifica questo valore, l'agente crea la cartella dei dati acquisiti nella directory di lavoro del componente. Utilizzate il FolderPrefix parametro per specificare il nome della cartella di dati acquisita.

Impostazione predefinita: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager/capture

LocalDataRootPath

Questa funzionalità è disponibile nella versione 1.2.0 e successive del componente SageMaker AI Edge Manager.

(Facoltativo) Il percorso in cui questo componente memorizza i seguenti dati sul dispositivo principale:

  • Il database locale per i dati di runtime se impostato DbEnable sutrue.

  • SageMaker Neo-compiled Modelli di intelligenza artificiale che questo componente scarica automaticamente quando lo DeploymentEnable impostitrue.

Impostazione predefinita: /greengrass/v2/work/aws.greengrass.SageMakerEdgeManager

DbEnable

(Facoltativo) È possibile abilitare questo componente per archiviare i dati di runtime in un database locale per preservare i dati, nel caso in cui il componente si guasti o il dispositivo si interrompa.

Questo database richiede 5 MB di spazio di archiviazione nel file system del dispositivo principale.

Impostazione predefinita: false

DeploymentEnable

Questa funzionalità è disponibile nella versione 1.2.0 e successive del componente SageMaker AI Edge Manager.

(Facoltativo) Puoi abilitare questo componente per recuperare automaticamente Neo-compiled i modelli SageMaker AI caricati su Amazon S3. Dopo aver caricato un nuovo modello su Amazon S3, utilizza SageMaker AI Studio o l'API SageMaker AI per distribuire il nuovo modello su questo dispositivo principale. Quando abiliti questa funzionalità, puoi distribuire nuovi modelli sui dispositivi principali senza dover creare una distribuzione. AWS IoT Greengrass

Importante

Per utilizzare questa funzionalità, è necessario impostare su. DbEnable true Questa funzionalità utilizza il database locale per tenere traccia dei modelli recuperati da. Cloud AWS

Impostazione predefinita: false

DeploymentPollInterval

Questa funzionalità è disponibile nella versione v1.2.0 e successive del componente SageMaker AI Edge Manager.

(Facoltativo) L'intervallo di tempo (in minuti) tra il quale questo componente verifica la disponibilità di nuovi modelli da scaricare. Questa opzione si applica quando è impostata DeploymentEnable sutrue.

Predefinito: 1440 (1 giorno)

DLRBackendOptions

Questa funzionalità è disponibile nella versione 1.2.0 e successive del componente SageMaker AI Edge Manager.

(Facoltativo) I flag di runtime DLR da impostare nel runtime DLR utilizzato da questo componente. È possibile impostare il seguente flag:

  • TVM_TENSORRT_CACHE_DIR— Abilita la memorizzazione nella cache del modello TensorRT. Specifica un percorso assoluto per una cartella esistente con autorizzazioni. read/write

  • TVM_TENSORRT_CACHE_DISK_SIZE_MB— Assegna il limite superiore della cartella della cache del modello TensorRT. Quando la dimensione della directory supera questo limite, i motori memorizzati nella cache che vengono utilizzati meno vengono eliminati. Il valore predefinito è 512 MB.

Ad esempio, puoi impostare questo parametro sul valore seguente per abilitare la memorizzazione nella cache del modello TensorRT e limitare la dimensione della cache a 800 MB.

TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800
SagemakerEdgeLogVerbose

(Facoltativo) Valore di stringa che specifica se abilitare la registrazione di debug. I valori supportati sono true e false.

Impostazione predefinita: false

UnixSocketName

(Facoltativo) La posizione del descrittore del file socket SageMaker AI Edge Manager sul dispositivo principale.

Impostazione predefinita: /tmp/aws.greengrass.SageMakerEdgeManager.sock

Esempio Esempio: aggiornamento dell'unione delle configurazioni

La seguente configurazione di esempio specifica che il dispositivo principale fa parte di MyEdgeDeviceFleet e che l'agente scrive i dati di acquisizione sia sul dispositivo che su un bucket S3. Questa configurazione abilita anche la registrazione del debug.

{ "DeviceFleetName": "MyEdgeDeviceFleet", "BucketName": "amzn-s3-demo-bucket", "CaptureDataDestination": "Disk", "CaptureDataPeriodicUpload": "true", "SagemakerEdgeLogVerbose": "true" }

File di registro locale

Questo componente utilizza il seguente file di registro.

Linux
/greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
Windows
C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log
Per visualizzare i log di questo componente
  • Esegui il seguente comando sul dispositivo principale per visualizzare il file di registro di questo componente in tempo reale. Sostituisci /greengrass/v2 o C:\greengrass\v2 con il percorso della cartella AWS IoT Greengrass principale.

    Linux
    sudo tail -f /greengrass/v2/logs/aws.greengrass.SageMakerEdgeManager.log
    Windows (PowerShell)
    Get-Content C:\greengrass\v2\logs\aws.greengrass.SageMakerEdgeManager.log -Tail 10 -Wait

Changelog

La tabella seguente descrive le modifiche in ciascuna versione del componente.

Versione

Modifiche

1.3.6

Versione aggiornata per la versione 2.12.5 di Greengrass nucleus.

1.3.5

Versione aggiornata per Greengrass nucleus versione 2.12.0.

1.3.4

Versione aggiornata per la versione 2.11.0 di Greengrass nucleus.

1.3.3

Versione aggiornata per la versione 2.10.0 di Greengrass nucleus.

1.3.2

Versione aggiornata per la versione 2.9.0 di Greengrass nucleus.

1.3.1

Versione aggiornata per la versione 2.8.0 di Greengrass nucleus.

1.3.0

Nuove funzionalità
  • Aggiunge il supporto per la gestione delle dimensioni del disco della cache TensorRT.

    • Aggiunge il TVM_TENSORRT_CACHE_DISK_SIZE_MB flag opzionale al DLRBackendOptions parametro per impostare il limite di dimensione per i modelli memorizzati nella cache su disco.

Miglioramenti
  • Fornisce una migliore concorrenza delle previsioni. Ciò consente di utilizzare meglio i motori di accelerazione dei dispositivi, come le GPU.

1.2.0

Nuove funzionalità
  • Aggiunge il supporto per questo componente per recuperare automaticamente i Neo-compiled modelli di SageMaker intelligenza artificiale caricati su Amazon S3. Quando abiliti questa funzionalità, puoi distribuire nuovi modelli sui dispositivi principali senza dover creare una distribuzione. AWS IoT Greengrass

  • Aggiunge il supporto per un database di backup che questo componente utilizza per conservare i dati di runtime, nel caso in cui il componente si guasti o il dispositivo perda alimentazione.

  • Aggiunge il supporto per configurare i flag di runtime DLR quando si configura questo componente.

1.1.1

Versione aggiornata per Greengrass nucleus versione 2.7.0.

1.1.0

Nuove funzionalità
  • Aggiunge il supporto per i dispositivi principali di Greengrass che eseguono Amazon Linux 2.

  • Aggiunge il nuovo parametro CaptureDataDiskPath di configurazione. È possibile utilizzare questo parametro per specificare il percorso della cartella dei dati acquisiti sul dispositivo.

Correzioni di bug e miglioramenti
  • Versione aggiornata per la versione 2.5.0 di Greengrass nucleus.

1.0.3

Versione aggiornata per la versione 2.4.0 di Greengrass nucleus.

1.0.2

Correzioni di bug e miglioramenti

Aggiorna lo script di installazione nel ciclo di vita dei componenti. I dispositivi principali devono ora avere Python 3.6 o versioni successive, inclusa pip la versione di Python in uso, installato sul dispositivo prima di distribuire questo componente.

1.0.1

Versione aggiornata per la versione 2.3.0 di Greengrass nucleus.

1.0.0

Versione iniziale.