As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Executar a inferência de machine learning

Com AWS IoT Greengrass, você pode realizar inferência de aprendizado de máquina (ML) em seus dispositivos de ponta em dados gerados localmente usando modelos treinados na nuvem. Você se beneficia da baixa latência e da redução de custos na execução da inferência local, e ainda aproveita a capacidade de computação em nuvem para modelos de treinamento e processamento complexo.

AWS IoT Greengrass torna as etapas necessárias para realizar a inferência mais eficientes. Você pode treinar seus modelos de inferência em qualquer lugar e implantá-los localmente como componentes de machine learning. Por exemplo, você pode criar e treinar modelos de aprendizado profundo no Amazon SageMaker AI ou modelos de visão computacional no Amazon Lookout for Vision. Em seguida, você pode armazenar esses modelos em um bucket do Amazon S3, para poder usá-los como artefatos em seus componentes para realizar inferências em seus dispositivos principais.

Como a inferência de AWS IoT Greengrass ML funciona

AWS fornece componentes de aprendizado de máquina que você pode usar para criar implantações em uma etapa para realizar inferências de aprendizado de máquina em seu dispositivo. Você também pode usar esses componentes como modelos para criar componentes personalizados para atender às suas necessidades específicas.

Cada implantação que você cria para realizar inferência de machine learning consiste em pelo menos um componente que executa sua aplicação de inferência, instala a estrutura de machine learning e baixa seus modelos de machine learning. Para realizar inferência de amostra com os componentes AWS fornecidos, você implanta um componente de inferência em seu dispositivo principal, que inclui automaticamente o modelo correspondente e os componentes de tempo de execução como dependências. Para personalizar suas implantações, você pode conectar ou trocar os componentes do modelo de amostra por componentes do modelo personalizado ou pode usar as receitas de componentes dos componentes AWS fornecidos como modelos para criar seus próprios componentes personalizados de inferência, modelo e tempo de execução.

Para realizar inferências de machine learning usando componentes personalizados:

Para começar a usar os componentes AWS fornecidos, consulteTutorial: realize uma inferência de classificação de imagens de amostra usando o TensorFlow Lite.

Para obter informações sobre a criação de componentes personalizados de machine learning, consulte Personalizar seus componentes de machine learning.

O que há de diferente na AWS IoT Greengrass versão 2?

AWS IoT Greengrass consolida unidades funcionais para aprendizado de máquina, como modelos, tempos de execução e código de inferência, em componentes que permitem que você use um processo de uma etapa para instalar o tempo de execução do aprendizado de máquina, baixar seus modelos treinados e realizar inferências em seu dispositivo.

Ao usar os componentes AWS de aprendizado de máquina fornecidos, você tem a flexibilidade de começar a realizar inferências de aprendizado de máquina com exemplos de código de inferência e modelos pré-treinados. Você pode conectar componentes de modelo personalizados para usar seus próprios modelos personalizados com os componentes de inferência e tempo de execução fornecidos. AWS Para uma solução de machine learning totalmente personalizada, você pode usar os componentes públicos como modelos para criar componentes personalizados e usar qualquer runtime, modelo ou tipo de inferência que desejar.

Requisitos

Para criar e usar componentes de machine learning, você deve ter o seguinte:

Fontes de modelo compatíveis

AWS IoT Greengrass suporta o uso de modelos de aprendizado de máquina personalizados que são armazenados no Amazon S3. Você também pode usar trabalhos de empacotamento de borda do Amazon SageMaker AI para criar diretamente componentes de modelo para seus modelos compilados com SageMaker IA Neo. Para obter informações sobre como usar o SageMaker AI Edge Manager com AWS IoT Greengrass, consulteUse o Amazon SageMaker AI Edge Manager nos dispositivos principais do Greengrass. Você também pode usar trabalhos de empacotamento de modelos do Amazon Lookout for Vision para criar componentes de modelo para seus modelos do Lookout for Vision. Para obter mais informações sobre como usar o Lookout for Vision AWS IoT Greengrass com, Usar o Amazon Lookout for Vision nos dispositivos principais do Greengrass consulte.

Os buckets do S3 que contêm seus modelos devem atender aos seguintes requisitos:

Runtimes de machine learning compatíveis

AWS IoT Greengrass permite que você crie componentes personalizados para usar qualquer tempo de execução de aprendizado de máquina de sua escolha para realizar inferências de aprendizado de máquina com seus modelos treinados de forma personalizada. Para obter informações sobre a criação de componentes personalizados de machine learning, consulte Personalizar seus componentes de machine learning.

Para tornar o processo de introdução ao aprendizado de máquina mais eficiente, AWS IoT Greengrass fornece exemplos de componentes de inferência, modelo e tempo de execução que usam os seguintes tempos de execução de aprendizado de máquina:

Componentes de machine learning fornecidos pela AWS

A tabela a seguir lista os componentes AWS fornecidos usados para aprendizado de máquina.