翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。
機械学習の推論を実行する
を使用すると AWS IoT Greengrass、クラウドでトレーニングされたモデルを使用して、ローカルに生成されたデータでエッジデバイスで機械学習 (ML) 推論を実行できます。ローカル推論の実行により低レイテンシーとコスト節約のメリットを得ながら、モデルのトレーニングと複雑な処理にクラウドコンピューティングの処理能力を活用できます。
AWS IoT Greengrass は、推論の実行に必要なステップをより効率的にします。推論モデルをどこでもトレーニングし、機械学習コンポーネントとしてローカルにデプロイできます。例えば、Amazon SageMaker AI
トピック
ML AWS IoT Greengrass 推論の仕組み
AWS には、デバイスで機械学習推論を実行するためのワンステップデプロイを作成するために使用できる機械学習コンポーネントが用意されています。これらのコンポーネントをテンプレートとしても使用し、お客様の特定の要件を満たすカスタムコンポーネントを作成できます。
AWS には、次のカテゴリの機械学習コンポーネントが用意されています。
-
モデルコンポーネント - Greengrass アーティファクトとして機械学習モデルが含まれます。
-
ランタイムコンポーネント - 機械学習フレームワークとその従属関係を Greengrass コアデバイスにインストールするスクリプトが含まれます。
-
推論コンポーネント - 推論コードが含まれ、機械学習フレームワークをインストールして事前学習済みの機械学習モデルをダウンロードするためのコンポーネント従属関係が含まれます。
機械学習の推論を実行するために作成する各デプロイは、推論アプリケーションの実行、機械学習フレームワークのインストール、機械学習モデルのダウンロードをするコンポーネントが少なくとも 1 つ設定されています。 AWSが提供するコンポーネントを使用してサンプル推論を実行するには、推論コンポーネントをコアデバイスにデプロイします。コアデバイスには、対応するモデルとランタイムコンポーネントが依存関係として自動的に含まれます。デプロイをカスタマイズするには、サンプルモデルコンポーネントをカスタムモデルコンポーネントとプラグインまたはスワップアウトするか、 AWS提供されたコンポーネントのコンポーネントレシピをテンプレートとして使用して、独自のカスタム推論、モデル、ランタイムコンポーネントを作成できます。
カスタムコンポーネントを使用して機械学習の推論を実行するには、次の手順を実行します。
-
モデルコンポーネントを作成します。このコンポーネントには、inference の実行に使用する機械学習モデルが含まれています。 は、事前トレーニング済みのサンプルモデルDLRと Lite TensorFlow モデル AWS を提供します。カスタムモデルを使用するには、独自のモデルコンポーネントを作成します。
-
ランタイムコンポーネントを作成します。このコンポーネントには、モデルの機械学習ランタイムをインストールするために必要なスクリプトが含まれています。 は、 Deep Learning Runtime
(DLR) と TensorFlow Lite のサンプルランタイムコンポーネント AWS を提供します。カスタムモデルと推論コードで他のランタイムを使用するには、独自のランタイムコンポーネントを作成します。 -
推論コンポーネントを作成します。このコンポーネントには推論コードが含まれ、モデルとランタイムコンポーネントが依存関係として含まれます。 は、 DLRと Lite TensorFlow を使用したイメージ分類とオブジェクト検出のサンプル推論コンポーネント AWS を提供します。他のタイプの推論を実行したり、カスタムモデルやランタイムを使用したりするには、独自の推論コンポーネントを作成します。
-
推論コンポーネントをデプロイします。このコンポーネントをデプロイすると、 AWS IoT Greengrass もモデルとランタイムコンポーネントの依存関係を自動的にデプロイします。
が提供するコンポーネントの使用を開始するには、 AWS「」を参照してくださいチュートリアル: TensorFlow Lite を使用したサンプルイメージ分類推論の実行。
カスタム機械学習コンポーネントの作成方法については、「機械学習コンポーネントのカスタマイズ」を参照してください。
AWS IoT Greengrass バージョン 2 の違いは何ですか?
AWS IoT Greengrass は、モデル、ランタイム、推論コードなどの機械学習の機能ユニットをコンポーネントに統合します。コンポーネントでは、ワンステッププロセスを使用して、機械学習ランタイムのインストール、トレーニング済みモデルのダウンロード、デバイスでの推論の実行を行うことができます。
AWSが提供する機械学習コンポーネントを使用することで、サンプル推論コードと事前トレーニング済みモデルを使用して機械学習推論を柔軟に実行できます。カスタムモデルコンポーネントをプラグインして、 AWS が提供する推論コンポーネントとランタイムコンポーネントで独自のカスタムトレーニング済みモデルを使用できます。完全にカスタマイズされた機械学習ソリューションの場合、パブリックコンポーネントをテンプレートとして使用してカスタムコンポーネントを作成し、任意のランタイム、モデル、推論タイプを使用できます。
要件
機械学習コンポーネントを作成して使用するには、次のものが必要になります。
-
Greengrass コアデバイス。アカウントをお持ちでない場合は、「チュートリアル: の開始方法 AWS IoT Greengrass V2」を参照してください。
-
が提供するサンプル機械学習コンポーネントを使用するための 500 MB AWS以上のローカルストレージスペース。
サポートされているモデルソース
AWS IoT Greengrass は、Amazon S3 に保存されているカスタムトレーニング済み機械学習モデルの使用をサポートします。Amazon SageMaker AI エッジパッケージングジョブを使用して、 SageMaker AI Neo コンパイル済みモデルのモデルコンポーネントを直接作成することもできます。で SageMaker AI Edge Manager を使用する方法については AWS IoT Greengrass、「」を参照してくださいGreengrass コアデバイスで Amazon SageMaker AI Edge Manager を使用する。Amazon Lookout for Vision のモデルパッケージングジョブを使用して、Lookout for Vision モデルのモデルコンポーネントを作成することもできます。で Lookout for Vision を使用する方法の詳細については AWS IoT Greengrass、「」を参照してくださいGreengrass コアデバイスのAmazon Lookout for Vision を使用。
モデルを含む S3 バケットは、次の要件を満たしている必要があります:
-
SSE-C を使用して暗号化することはできません。サーバー側の暗号化を使用するバケットの場合、 AWS IoT Greengrass 機械学習推論は現在、SSE-S3 または SSE-KMS 暗号化オプションのみをサポートしています。サーバー側の暗号化の詳細については、「Amazon Simple Storage Service ユーザーガイド」の「サーバー側の暗号化を使用したデータ保護」を参照してください。
-
それらの名前にピリオド (
.
) を含めることはできません。詳細については、「Amazon Simple Storage Service ユーザーガイド」の「バケット命名規則SSL」の「 での仮想ホスト形式のバケットの使用に関するルール」を参照してください。 https://docs.aws.amazon.com/AmazonS3/latest/dev/BucketRestrictions.html#bucketnamingrules -
モデルソースを保存する S3 バケットは、機械学習コンポーネント AWS リージョン と同じ AWS アカウント および にある必要があります。
-
AWS IoT Greengrass にはモデルソースに対する
read
アクセス許可が必要です。 AWS IoT Greengrass が S3 バケットにアクセスできるようにするには、Greengrass デバイスロールでs3:GetObject
アクションを許可する必要があります。デバイスロールの詳細については、「コアデバイスが AWS サービスとやり取りできるように承認する」を参照してください。
サポートされている機械学習ランタイム
AWS IoT Greengrass では、カスタムコンポーネントを作成して、選択した任意の機械学習ランタイムを使用して、カスタムトレーニング済みモデルで機械学習推論を実行できます。カスタム機械学習コンポーネントの作成方法については、「機械学習コンポーネントのカスタマイズ」を参照してください。
機械学習の使用を開始するプロセスをより効率的にするために、 は、次の機械学習ランタイムを使用するサンプル推論、モデル、ランタイムコンポーネント AWS IoT Greengrass を提供します。
-
Deep Learning Runtime
(DLR) v1.6.0 および v1.3.0 -
TensorFlow Lite
v2.5.0
AWSが提供する機械学習コンポーネント
次の表に、機械学習に使用される AWSが提供するコンポーネントを示します。
注記
いくつかの AWS提供されるコンポーネントは、Greengrass nucleus の特定のマイナーバージョンによって異なります。この従属関係により、Greengrass nucleus を新しいマイナーバージョンに更新するとき、これらのコンポーネントを更新する必要があります。各コンポーネントが依存する nucleus の特定バージョンの情報については、対応するコンポーネントのトピックを参照してください。nucleus の更新の詳細については、「AWS IoT Greengrass Core ソフトウェア (OTA) の更新」を参照してください。
コンポーネント | 説明 | コンポーネントタイプ | サポートされる OS | オープンソース |
---|---|---|---|---|
Lookout for Vision エッジエージェント | Amazon Lookout for Vision ランタイムを Greengrass コアデバイスにデプロイし、コンピュータビジョンを使用して産業製品の欠陥を検出できるようにします。 | ジェネリック | Linux | いいえ |
SageMaker AI Edge Manager | Amazon SageMaker AI Edge Manager エージェントを Greengrass コアデバイスにデプロイします。 | ジェネリック | Linux、Windows | いいえ |
DLR イメージ分類 | DLR イメージ分類モデルストアとDLRランタイムコンポーネントを依存関係として使用して、 をインストールしDLR、サンプルイメージ分類モデルをダウンロードし、サポートされているデバイスでイメージ分類推論を実行する推論コンポーネント。 | ジェネリック | Linux、Windows | いいえ |
DLR オブジェクトの検出 | DLR オブジェクト検出モデルストアとDLRランタイムコンポーネントを依存関係として使用して、 をインストールしDLR、サンプルオブジェクト検出モデルをダウンロードし、サポートされているデバイスでオブジェクト検出推論を実行する推論コンポーネント。 | ジェネリック | Linux、Windows | いいえ |
DLR イメージ分類モデルストア | サンプル ResNet50 イメージ分類モデルを Greengrass アーティファクトとして含むモデルコンポーネント。 | ジェネリック | Linux、Windows | いいえ |
DLR オブジェクト検出モデルストア | Greengrass アーティファクトとしてサンプルYOLOv3オブジェクト検出モデルを含むモデルコンポーネント。 | ジェネリック | Linux、Windows | いいえ |
DLR ランタイム | Greengrass コアデバイスに DLRとその依存関係をインストールするために使用されるインストールスクリプトを含むランタイムコンポーネント。 | ジェネリック | Linux、Windows | いいえ |
TensorFlow Lite イメージ分類 | TensorFlow Lite イメージ分類モデルストアと TensorFlow Lite ランタイムコンポーネントを依存関係として使用して、Lite TensorFlow をインストールし、サンプルイメージ分類モデルをダウンロードし、サポートされているデバイスでイメージ分類推論を実行する推論コンポーネント。 | ジェネリック | Linux、Windows | いいえ |
TensorFlow Lite オブジェクト検出 | TensorFlow Lite オブジェクト検出モデルストアと TensorFlow Lite ランタイムコンポーネントを依存関係として使用して、Lite TensorFlow をインストールし、サンプルオブジェクト検出モデルをダウンロードし、サポートされているデバイスでオブジェクト検出推論を実行する推論コンポーネント。 | ジェネリック | Linux、Windows | いいえ |
TensorFlow Lite イメージ分類モデルストア | Greengrass アーティファクトとしてサンプル MobileNet v1 モデルを含むモデルコンポーネント。 | ジェネリック | Linux、Windows | いいえ |
TensorFlow Lite オブジェクト検出モデルストア | Greengrass アーティファクトとしてサンプルのシングルショット検出 (SSD) MobileNet モデルを含むモデルコンポーネント。 | ジェネリック | Linux、Windows | いいえ |
TensorFlow Lite ランタイム | Greengrass コアデバイスに TensorFlow Lite とその依存関係をインストールするために使用されるインストールスクリプトを含むランタイムコンポーネント。 | ジェネリック | Linux、Windows | いいえ |