Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Esecuzione dell'inferenza di Machine Learning

Con AWS IoT Greengrass, puoi eseguire inferenze di machine learning (ML) sui tuoi dispositivi edge su dati generati localmente utilizzando modelli addestrati sul cloud. In questo modo si beneficia della bassa latenza e dei risparmi sui costi dell'inferenza locale e si sfrutta la potenza del cloud computing per modelli di formazione ed elaborazioni complesse.

AWS IoT Greengrass rende più efficienti i passaggi necessari per eseguire l'inferenza. È possibile addestrare i modelli di inferenza ovunque e distribuirli localmente come componenti di apprendimento automatico. Ad esempio, puoi creare e addestrare modelli di deep learning in Amazon SageMaker AI o modelli di visione artificiale in Amazon Lookout for Vision. Quindi, puoi archiviare questi modelli in un bucket Amazon S3, in modo da poterli utilizzare come artefatti nei tuoi componenti per eseguire inferenze sui tuoi dispositivi principali.

Come funziona l'inferenza ML AWS IoT Greengrass

AWS fornisce componenti di machine learning che è possibile utilizzare per creare distribuzioni in un'unica fase per eseguire inferenze di machine learning sul dispositivo. È inoltre possibile utilizzare questi componenti come modelli per creare componenti personalizzati per soddisfare requisiti specifici.

Ogni implementazione creata per eseguire l'inferenza dell'apprendimento automatico è costituita da almeno un componente che esegue l'applicazione di inferenza, installa il framework di apprendimento automatico e scarica i modelli di apprendimento automatico. Per eseguire l'inferenza di esempio con i componenti AWS forniti, distribuisci un componente di inferenza sul tuo dispositivo principale, che include automaticamente il modello e i componenti di runtime corrispondenti come dipendenze. Per personalizzare le distribuzioni, è possibile collegare o sostituire i componenti del modello di esempio con componenti del modello personalizzati oppure utilizzare le ricette dei componenti AWS forniti come modelli per creare componenti di inferenza, modello e runtime personalizzati.

Per eseguire inferenze di machine learning utilizzando componenti personalizzati:

Per iniziare con i componenti AWS forniti, consulta. Tutorial: eseguire l'inferenza della classificazione delle immagini di esempio utilizzando TensorFlow Lite

Per informazioni sulla creazione di componenti di machine learning personalizzati, consultaPersonalizza i tuoi componenti di machine learning.

Cosa c'è di diverso nella AWS IoT Greengrass versione 2?

AWS IoT Greengrass consolida le unità funzionali per l'apprendimento automatico, come modelli, runtime e codice di inferenza, in componenti che consentono di utilizzare un processo in un'unica fase per installare il runtime di machine learning, scaricare i modelli addestrati ed eseguire inferenze sul dispositivo.

Utilizzando i componenti di machine learning AWS forniti, hai la flessibilità di iniziare a eseguire inferenze di machine learning con codice di inferenza di esempio e modelli preaddestrati. È possibile collegare componenti di modelli personalizzati per utilizzare modelli personalizzati con i componenti di inferenza e di runtime forniti. AWS Per una soluzione di machine learning completamente personalizzata, è possibile utilizzare i componenti pubblici come modelli per creare componenti personalizzati e utilizzare qualsiasi tipo di runtime, modello o inferenza desiderato.

Requisiti

Per creare e utilizzare componenti di machine learning, è necessario disporre di quanto segue:

Origini di modello supportate

AWS IoT Greengrass supporta l'utilizzo di modelli di machine learning personalizzati archiviati in Amazon S3. Puoi anche utilizzare i processi di packaging edge di Amazon SageMaker AI per creare direttamente componenti del modello per i tuoi modelli NEO-compilati con SageMaker AI. Per informazioni sull'utilizzo di SageMaker AI Edge Manager con AWS IoT Greengrass, consulta. Usa Amazon SageMaker AI Edge Manager sui dispositivi core Greengrass Puoi anche utilizzare i processi di packaging dei modelli Amazon Lookout for Vision per creare componenti del modello per i tuoi modelli Lookout for Vision. Per ulteriori informazioni sull'utilizzo di Lookout for Vision AWS IoT Greengrass con, Usa Amazon Lookout Greengrass visione. vedere.

I bucket S3 che contengono i tuoi modelli devono soddisfare i seguenti requisiti:

Runtime di machine learning supportati

AWS IoT Greengrass ti consente di creare componenti personalizzati per utilizzare qualsiasi runtime di machine learning di tua scelta per eseguire inferenze di machine learning con i tuoi modelli addestrati su misura. Per informazioni sulla creazione di componenti di machine learning personalizzati, consulta. Personalizza i tuoi componenti di machine learning

Per rendere più efficiente il processo di introduzione all'apprendimento automatico, AWS IoT Greengrass fornisce esempi di componenti di inferenza, modello e runtime che utilizzano i seguenti runtime di machine learning:

AWS-componenti di apprendimento automatico forniti

La tabella seguente elenca i componenti AWS forniti utilizzati per l'apprendimento automatico.