Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
SageMaker Gestore AI Edge
Importante
SageMaker AI Edge Manager è stato interrotto il 26 aprile 2024. Per ulteriori informazioni su come continuare a distribuire i modelli su dispositivi edge, vedi la fine del ciclo di vita di SageMaker AI Edge Manager.
Il componente Amazon SageMaker AI Edge Manager (aws.greengrass.SageMakerEdgeManager) installa il binario dell'agente SageMaker AI Edge Manager.
SageMaker AI Edge Manager fornisce la gestione dei modelli per i dispositivi edge in modo da poter ottimizzare, proteggere, monitorare e mantenere i modelli di apprendimento automatico su flotte di dispositivi edge. Il componente SageMaker AI Edge Manager installa e gestisce il ciclo di vita dell'agente SageMaker AI Edge Manager sul dispositivo principale. Puoi anche utilizzare SageMaker AI Edge Manager per impacchettare e utilizzare Neo-compiled i modelli SageMaker AI come componenti del modello sui dispositivi principali di Greengrass. Per ulteriori informazioni sull'utilizzo dell'agente SageMaker AI Edge Manager sul dispositivo principale, consultaUsa Amazon SageMaker AI Edge Manager sui dispositivi core Greengrass.
SageMaker Il componente AI Edge Manager v1.3.x installa il binario dell'agente Edge Manager v1.20220822.836f3023. Per ulteriori informazioni sulle versioni binarie dell'agente Edge Manager, vedere Edge Manager Agent. https://docs.aws.amazon.com/sagemaker/latest/dg/edge-device-fleet-about
Nota
Il componente SageMaker AI Edge Manager è disponibile solo nei seguenti Regioni AWS:
-
Stati Uniti orientali (Ohio)
-
Stati Uniti orientali (Virginia settentrionale)
-
Stati Uniti occidentali (Oregon)
-
UE (Francoforte)
-
UE (Irlanda)
-
Asia Pacifico (Tokyo)
Argomenti
Versioni
Questo componente ha le seguenti versioni:
-
1.3.x
-
1.2.x
-
1.1.x
-
1.0.x
Tipo
Questo componente è un componente generico ()aws.greengrass.generic. Il nucleo di Greengrass esegue gli script del ciclo di vita del componente.
Per ulteriori informazioni, consulta Tipi di componenti.
Sistema operativo
Questo componente può essere installato sui dispositivi principali che eseguono i seguenti sistemi operativi:
Linux
Windows
Requisiti
Questo componente ha i seguenti requisiti:
-
Un dispositivo principale Greengrass in esecuzione su Amazon Linux 2, una piattaforma Debian-based Linux (x86_64 o Armv8) o Windows (x86_64). Se non lo hai, consultare Tutorial: Guida introduttiva AWS IoT Greengrass V2.
-
Python
3.6 o successivo, inclusa la versione di Python in uso, installato sul dispositivo pipprincipale. -
Il ruolo del dispositivo Greengrass è configurato con quanto segue:
-
Una relazione di fiducia che consente
credentials---iot.amazonaws.com.rproxy.goskope.comesagemaker.amazonaws.com.rproxy.goskope.compuò assumere il ruolo, come mostrato nel seguente esempio di policy IAM.{ "Version": "2012-10-17", "Statement": [ { "Effect": "Allow", "Principal": { "Service": "credentials.iot.amazonaws.com" }, "Action": "sts:AssumeRole" }, { "Effect": "Allow", "Principal": { "Service": "sagemaker.amazonaws.com" }, "Action": "sts:AssumeRole" } ] } -
La AmazonSageMakerEdgeDeviceFleetPolicy
policy gestita da IAM. -
L'
s3:PutObjectazione, come mostrato nel seguente esempio di policy IAM.{ "Version": "2012-10-17", "Statement": [ { "Action": [ "s3:PutObject" ], "Resource": [ "*" ], "Effect": "Allow" } ] }
-
-
Un bucket Amazon S3 creato nello stesso Account AWS e nel dispositivo Regione AWS principale Greengrass. SageMaker AI Edge Manager richiede un bucket S3 per creare una flotta di dispositivi edge e archiviare dati di esempio derivanti dall'esecuzione di inferenze sul dispositivo. Per informazioni sulla creazione di bucket S3, consulta Guida introduttiva ad Amazon S3.
-
Una flotta di dispositivi SageMaker AI edge che utilizza lo stesso alias di AWS IoT ruolo del dispositivo principale Greengrass. Per ulteriori informazioni, consulta Crea una flotta di dispositivi edge.
-
Il tuo dispositivo principale Greengrass è stato registrato come dispositivo edge nella tua flotta di dispositivi SageMaker AI Edge. Il nome del dispositivo edge deve corrispondere al nome dell' AWS IoT oggetto del dispositivo principale. Per ulteriori informazioni, consulta Registra il tuo dispositivo principale Greengrass.
Endpoint e porte
Questo componente deve essere in grado di eseguire richieste in uscita ai seguenti endpoint e porte, oltre agli endpoint e alle porte necessari per il funzionamento di base. Per ulteriori informazioni, consulta Consenti il traffico dei dispositivi tramite un proxy o un firewall.
| Endpoint | Porta | Richiesto | Description |
|---|---|---|---|
|
|
443 | Sì |
Controlla lo stato di registrazione del dispositivo e invia le metriche all'IA. SageMaker |
|
|
443 | Sì |
Carica i dati di acquisizione nel bucket S3 specificato. Puoi sostituirli |
Dipendenze
Quando distribuisci un componente, distribuisce AWS IoT Greengrass anche versioni compatibili delle sue dipendenze. Ciò significa che è necessario soddisfare i requisiti del componente e tutte le sue dipendenze per distribuire correttamente il componente. Questa sezione elenca le dipendenze per le versioni rilasciate di questo componente e i vincoli semantici della versione che definiscono le versioni dei componenti per ciascuna dipendenza. È inoltre possibile visualizzare le dipendenze per ciascuna versione del componente nella console. AWS IoT Greengrass
Per ulteriori informazioni sulle dipendenze dei componenti, vedere il riferimento alla composizione dei componenti.
Configurazione
Questo componente fornisce i seguenti parametri di configurazione che è possibile personalizzare durante la distribuzione del componente.
Nota
Questa sezione descrive i parametri di configurazione impostati nel componente. Per ulteriori informazioni sulla corrispondente configurazione SageMaker AI Edge Manager, consulta Edge Manager Agent nella Amazon SageMaker AI Developer Guide.
DeviceFleetName-
Il nome del parco dispositivi SageMaker AI Edge Manager che contiene il dispositivo principale Greengrass.
È necessario specificare un valore per questo parametro nell'aggiornamento della configurazione quando si distribuisce questo componente.
BucketName-
Il nome del bucket S3 in cui si caricano i dati di inferenza acquisiti. Il nome del bucket deve contenere la stringa.
sagemakerSe si imposta su
CaptureDataDestinationCloud, o se si imposta suCaptureDataPeriodicUploadtrue, è necessario specificare un valore per questo parametro nell'aggiornamento della configurazione quando si distribuisce questo componente.Nota
Capture data è una funzionalità di SageMaker intelligenza artificiale utilizzata per caricare input di inferenza, risultati di inferenza e dati di inferenza aggiuntivi in un bucket S3 o in una directory locale per analisi future. Per ulteriori informazioni sull'utilizzo dei dati di acquisizione con SageMaker AI Edge Manager, consulta Manage Model nella Amazon AI Developer Guide. SageMaker
CaptureDataBatchSize-
(Facoltativo) La dimensione di un batch di richieste di acquisizione dati gestite dall'agente. Questo valore deve essere inferiore alla dimensione del buffer specificata.
CaptureDataBufferSizeSi consiglia di non superare la metà della dimensione del buffer.L'agente gestisce un batch di richieste quando il numero di richieste nel buffer raggiunge tale
CaptureDataBatchSizenumero o allo scadere dell'CaptureDataPushPeriodSecondsintervallo, a seconda dell'evento che si verifica per primo.Impostazione predefinita:
10 CaptureDataBufferSize-
(Facoltativo) Il numero massimo di richieste di dati di acquisizione memorizzate nel buffer.
Impostazione predefinita:
30 CaptureDataDestination-
(Facoltativo) La destinazione in cui vengono archiviati i dati acquisiti. Questo parametro può avere uno dei seguenti valori:
-
Cloud—Carica i dati acquisiti nel bucket S3 specificato.BucketName -
Disk—Scrive i dati acquisiti nella directory di lavoro del componente.
Se lo specifichi
Disk, puoi anche scegliere di caricare periodicamente i dati acquisiti nel bucket S3 impostando su.CaptureDataPeriodicUploadtrueImpostazione predefinita:
Cloud -
CaptureDataPeriodicUpload-
(Facoltativo) Valore stringa che specifica se caricare periodicamente i dati acquisiti. I valori supportati sono
trueefalse.Imposta questo parametro su
trueCaptureDataDestinationse lo desideri e desideri inoltre che l'agente carichi periodicamente i dati acquisiti nel bucket S3.DiskImpostazione predefinita:
false CaptureDataPeriodicUploadPeriodSeconds-
(Facoltativo) L'intervallo in secondi con cui l'agente SageMaker AI Edge Manager carica i dati acquisiti nel bucket S3. Usa questo parametro se impostato su.
CaptureDataPeriodicUploadtrueImpostazione predefinita:
8 CaptureDataPushPeriodSeconds-
(Facoltativo) L'intervallo in secondi con cui l'agente SageMaker AI Edge Manager gestisce un batch di richieste di dati di acquisizione dal buffer.
L'agente gestisce un batch di richieste quando il numero di richieste nel buffer raggiunge il
CaptureDataBatchSizenumero o allo scadere dell'CaptureDataPushPeriodSecondsintervallo, a seconda dell'evento che si verifica per primo.Impostazione predefinita:
4 CaptureDataBase64EmbedLimit-
(Facoltativo) La dimensione massima in byte dei dati acquisiti che l'agente SageMaker AI Edge Manager carica.
Impostazione predefinita:
3072 FolderPrefix-
(Facoltativo) Il nome della cartella in cui l'agente scrive i dati acquisiti. Se
CaptureDataDestinationsi imposta suDisk, l'agente crea la cartella nella directory specificata daCaptureDataDiskPath. Se si imposta suCaptureDataDestinationCloud, o se si imposta suCaptureDataPeriodicUploadtrue, l'agente crea la cartella nel bucket S3.Impostazione predefinita:
sme-capture CaptureDataDiskPath-
Questa funzionalità è disponibile nella versione 1.1.0 e successive del componente SageMaker AI Edge Manager.
(Facoltativo) Il percorso della cartella in cui l'agente crea la cartella dei dati acquisiti. Se si imposta su
CaptureDataDestinationDisk, l'agente crea la cartella dei dati acquisiti in questa directory. Se non si specifica questo valore, l'agente crea la cartella dei dati acquisiti nella directory di lavoro del componente. Utilizzate ilFolderPrefixparametro per specificare il nome della cartella di dati acquisita.Impostazione predefinita:
/work/aws.greengrass.SageMakerEdgeManager/capture/greengrass/v2 LocalDataRootPath-
Questa funzionalità è disponibile nella versione 1.2.0 e successive del componente SageMaker AI Edge Manager.
(Facoltativo) Il percorso in cui questo componente memorizza i seguenti dati sul dispositivo principale:
-
Il database locale per i dati di runtime se impostato
DbEnablesutrue. -
SageMaker Neo-compiled Modelli di intelligenza artificiale che questo componente scarica automaticamente quando lo
DeploymentEnableimpostitrue.
Impostazione predefinita:
/work/aws.greengrass.SageMakerEdgeManager/greengrass/v2 -
DbEnable-
(Facoltativo) È possibile abilitare questo componente per archiviare i dati di runtime in un database locale per preservare i dati, nel caso in cui il componente si guasti o il dispositivo si interrompa.
Questo database richiede 5 MB di spazio di archiviazione nel file system del dispositivo principale.
Impostazione predefinita:
false DeploymentEnable-
Questa funzionalità è disponibile nella versione 1.2.0 e successive del componente SageMaker AI Edge Manager.
(Facoltativo) Puoi abilitare questo componente per recuperare automaticamente Neo-compiled i modelli SageMaker AI caricati su Amazon S3. Dopo aver caricato un nuovo modello su Amazon S3, utilizza SageMaker AI Studio o l'API SageMaker AI per distribuire il nuovo modello su questo dispositivo principale. Quando abiliti questa funzionalità, puoi distribuire nuovi modelli sui dispositivi principali senza dover creare una distribuzione. AWS IoT Greengrass
Importante
Per utilizzare questa funzionalità, è necessario impostare su.
DbEnabletrueQuesta funzionalità utilizza il database locale per tenere traccia dei modelli recuperati da. Cloud AWSImpostazione predefinita:
false DeploymentPollInterval-
Questa funzionalità è disponibile nella versione v1.2.0 e successive del componente SageMaker AI Edge Manager.
(Facoltativo) L'intervallo di tempo (in minuti) tra il quale questo componente verifica la disponibilità di nuovi modelli da scaricare. Questa opzione si applica quando è impostata
DeploymentEnablesutrue.Predefinito:
1440(1 giorno) DLRBackendOptions-
Questa funzionalità è disponibile nella versione 1.2.0 e successive del componente SageMaker AI Edge Manager.
(Facoltativo) I flag di runtime DLR da impostare nel runtime DLR utilizzato da questo componente. È possibile impostare il seguente flag:
-
TVM_TENSORRT_CACHE_DIR— Abilita la memorizzazione nella cache del modello TensorRT. Specifica un percorso assoluto per una cartella esistente con autorizzazioni. read/write -
TVM_TENSORRT_CACHE_DISK_SIZE_MB— Assegna il limite superiore della cartella della cache del modello TensorRT. Quando la dimensione della directory supera questo limite, i motori memorizzati nella cache che vengono utilizzati meno vengono eliminati. Il valore predefinito è 512 MB.
Ad esempio, puoi impostare questo parametro sul valore seguente per abilitare la memorizzazione nella cache del modello TensorRT e limitare la dimensione della cache a 800 MB.
TVM_TENSORRT_CACHE_DIR=/data/secured_folder/trt/cache; TVM_TENSORRT_CACHE_DISK_SIZE_MB=800 -
SagemakerEdgeLogVerbose-
(Facoltativo) Valore di stringa che specifica se abilitare la registrazione di debug. I valori supportati sono
trueefalse.Impostazione predefinita:
false UnixSocketName-
(Facoltativo) La posizione del descrittore del file socket SageMaker AI Edge Manager sul dispositivo principale.
Impostazione predefinita:
/tmp/aws.greengrass.SageMakerEdgeManager.sock
Esempio Esempio: aggiornamento dell'unione delle configurazioni
La seguente configurazione di esempio specifica che il dispositivo principale fa parte di MyEdgeDeviceFleet e che l'agente scrive i dati di acquisizione sia sul dispositivo che su un bucket S3. Questa configurazione abilita anche la registrazione del debug.
{ "DeviceFleetName": "MyEdgeDeviceFleet", "BucketName": "amzn-s3-demo-bucket", "CaptureDataDestination": "Disk", "CaptureDataPeriodicUpload": "true", "SagemakerEdgeLogVerbose": "true" }
File di registro locale
Questo componente utilizza il seguente file di registro.
Per visualizzare i log di questo componente
-
Esegui il seguente comando sul dispositivo principale per visualizzare il file di registro di questo componente in tempo reale. Sostituisci
o/greengrass/v2C:\greengrass\v2con il percorso della cartella AWS IoT Greengrass principale.
Changelog
La tabella seguente descrive le modifiche in ciascuna versione del componente.
|
Versione |
Modifiche |
|---|---|
|
1.3.6 |
Versione aggiornata per la versione 2.12.5 di Greengrass nucleus. |
|
1.3.5 |
Versione aggiornata per Greengrass nucleus versione 2.12.0. |
|
1.3.4 |
Versione aggiornata per la versione 2.11.0 di Greengrass nucleus. |
|
1.3.3 |
Versione aggiornata per la versione 2.10.0 di Greengrass nucleus. |
|
1.3.2 |
Versione aggiornata per la versione 2.9.0 di Greengrass nucleus. |
|
1.3.1 |
Versione aggiornata per la versione 2.8.0 di Greengrass nucleus. |
|
1.3.0 |
|
|
1.2.0 |
|
|
1.1.1 |
Versione aggiornata per Greengrass nucleus versione 2.7.0. |
|
1.1.0 |
|
|
1.0.3 |
Versione aggiornata per la versione 2.4.0 di Greengrass nucleus. |
|
1.0.2 |
|
|
1.0.1 |
Versione aggiornata per la versione 2.3.0 di Greengrass nucleus. |
|
1.0.0 |
Versione iniziale. |