AWS Management Console を使用して機械学習推論を設定する方法

Raspbian に更新プログラムをインストールします。

sudo apt-get update
sudo apt-get dist-upgrade

カメラモジュールの picamera インターフェイス、およびこのチュートリアルに必要なその他の Python ライブラリをインストールします。

sudo apt-get install -y python3-dev python3-setuptools python3-pip python3-picamera

インストールを検証します。

Raspberry Pi を再起動します。

sudo reboot

Raspberry Pi 設定ツールを開きます。

sudo raspi-config

矢印キーを使用して [Interfacing Options] (インターフェイスオプション) を開き、カメラインターフェイスを有効にします。プロンプトが表示されたら、デバイスを再起動します。

以下のコマンドを使用して、カメラの設定をテストします。

raspistill -v -o test.jpg

これにより、Raspberry Pi のプレビューウィンドウが開き、test.jpg という写真が現在のディレクトリに保存されて、カメラに関する情報が Raspberry Pi のターミナルに表示されます。

リモートで Raspberry Pi にサインインします。

ssh pi@your-device-ip-address

MXNet のドキュメントを開き、MXNet のインストールを開いて、指示に従って MXNet をデバイスにインストールします。

MXNet をインストールしたら、次の設定を検証します。

コンピュータで、機械学習のサンプル から Raspberry Pi 用の MXNet サンプルをダウンロードします。

ダウンロードした mxnet-py3-armv7l.tar.gz ファイルを解凍します。

squeezenet ディレクトリに移動します。

cd path-to-downloaded-sample/mxnet-py3-armv7l/models/squeezenet

このディレクトリ内の squeezenet.zip ファイルはモデルパッケージです。これには、イメージ分類モデルの SqueezeNet オープンソースモデルアーティファクトが含まれています。後で、このモデルパッケージを Amazon S3 にアップロードします。

コンピュータで、ステップ 3: MXNet モデルパッケージを作成する で解凍したサンプルパッケージ内の examples ディレクトリに移動します。

cd path-to-downloaded-sample/mxnet-py3-armv7l/examples

examples ディレクトリには、関数コードと依存関係が含まれています。

examples ディレクトリの内容を greengrassObjectClassification.zip という名前のファイルに圧縮します。このファイルがデプロイパッケージです。

zip -r greengrassObjectClassification.zip .

次に、Lambda 関数を作成します。

AWS IoT コンソールから、[Functions] (関数)、[Create function] (関数の作成) を選択します。

[Author from scratch] (一から作成) を選択し、以下の値を使用して関数を作成します。

[Permissions] (アクセス許可) はデフォルト設定のままにしておきます。これで Lambda への基本的なアクセス許可を付与する実行ロールが作成されます。このロールは、AWS IoT Greengrass によっては使用されません。

[Create function] (関数の作成) を選択します。

今度は、Lambda 関数デプロイパッケージをアップロードし、ハンドラを登録します。

[Lambda function](Lambda 関数) を選択し、Lambda 関数のデプロイパッケージをアップロードします。

1. [Code] (コード) タブの [Code source] (コードソース) で、[Upload from] (アップロード元) を選択します。ドロップダウンから [.zip file] (.zip ファイル) を選択します。

   

2. [Upload] (アップロード) を選択し、greengrassObjectClassification.zip デプロイパッケージを選択します。次に、保存を選択します。

3. 関数の [Code] (コード) タブにある [Runtime settings] (ランタイム設定) で [Edit] (編集) を選択し、次の値を入力します。

   • [Runtime (ランタイム)] で [Python 3.7] を選択します。

   • [Handler (ハンドラ)] に「greengrassObjectClassification.function_handler」と入力します。

   [Save] を選択します。

次に、Lambda 関数の最初のバージョンを発行します。次に、バージョンのエイリアスを作成します。

[Actions] メニューから、[Publish new version] を選択します。

[バージョンの説明] に「First version」と入力し、[発行] を選択します。

[greengrassObjectClassification: 1] 設定ページで、[Actions] (アクション) メニューの [エイリアスの作成] を選択します。

[Create a new alias] ページで、次の値を使用します。

[Save] を選択します。

ここで、Greengrass グループに Lambda 関数を追加します。

AWS IoT コンソールのナビゲーションペインの [Manage] (管理) で、[Greengrass devices] (Greengrass デバイス) を展開して、[Groups (V1)](グループ (V1)) を選択します。

グループ設定ページで、[Lambda functions] (Lambda 関数) タブを選択します。

[My Lambda functions] (自分の Lambda 関数) セクションから、[Add]（追加）を選択します。

[Lambda function] (Lambda 関数) で、[greengrassObjectClassification]を選択します。

Lambda 関数のバージョンで、Alias:mlTest を選択します。

次に、Lambda 関数のライフサイクルと環境変数を設定します。

[Lambda function configuration] (Lambda 関数の設定) セクションで次のように更新します。

1. コンテナ化を使用せずに実行するには:

   • [System user and group] (システムユーザーとグループ) で、Another user ID/group IDを選択します。[System user ID] (システムユーザ ID) には、「0」と入力します。[System group ID] (システムグループ ID) には、「0」と入力します。

     これにより、Lambda 関数を root として実行できます。root として実行の詳細については、「グループ内の Lambda 関数に対するデフォルトのアクセス ID の設定」を参照してください。

     ヒント

     また、ルートアクセスを Lambda 関数に付与するように config.json ファイルを更新する必要があります。手順については、「root としての Lambda 関数の実行」を参照してください。

   • [Lambda function containerization] (Lambda 関数のコンテナ化) で、[No container] (コンテナなし) を選択します。

     コンテナ化を使用しない実行の詳細については、「Lambda 関数のコンテナ化を選択する場合の考慮事項」を参照してください。

   • [Timeout (タイムアウト)] に「10 seconds」と入力します。

   • [Pinned] (固定)で、[True] を選択します。

     詳細については、「Greengrass Lambda 関数のライフサイクル設定」を参照してください。

2. 代わりにコンテナ化モードで実行するには:

   注記

   ビジネスケースで要求されない限り、コンテナ化モードでの実行はお勧めしていません。

   • [System user and group] (システムユーザーとグループ) で、[Use group default] (グループのデフォルトを使用) を選択します。

   • [Lambda function containerization] (Lambda 関数のコンテナ化) で、[Use group default] (グループのデフォルトを使用) を選択します。

   • [メモリ制限] に「96 MB」と入力します。

   • [Timeout (タイムアウト)] に「10 seconds」と入力します。

   • [Pinned] (固定)で、[True] を選択します。

     詳細については、「Greengrass Lambda 関数のライフサイクル設定」を参照してください。

[環境変数] で、以下のキー値ペアを作成します。キー値ペアは、Raspberry Pi 上で MXNet モデルとやり取りする関数で必要となります。

キーには、MXNET_ENGINE_TYPE を使用します。値には、NaiveEngine を使用します。

他のすべてのプロパティではデフォルト値を保持し、[Add Lambda function] (Lambda 関数の追加) を選択します。

グループ設定ページで、[Resources] (リソース) タブを選択します。

[Local resources] (ローカルリソース) タブで、[Add local resource] (ローカルリソースの追加) を選択します。

[Add a local resource] (ローカルリソースの追加) ページで、次の値を使用します。

次に、カメラインターフェイス用にローカルデバイスリソースを追加します。

[Add local resource] (ローカルリソースの追加) を選択します。

[Add a local resource] (ローカルリソースの追加) ページで、次の値を使用します。

ページの下部で、[Add resource] (リソースの追加) を選択します。

グループの [Resources] (リソース) タブの、[Machine Learning] (機械学習) で、[Add machine learning resour] (機械学習リソースの追加) を選択します。

[Add a machine learning resource (機械学習リソースの追加) ページで、[Resource name] (リソース名) に、「 squeezenet_model」と入力します。

[Model source] (モデルソース) で、[Use a model stored in S3, such as a model optimized through Deep Learning Compiler] (深層学習コンパイラで最適化されたモデルなど、S3 に保存されているモデルを使用する) を選択します。

[S3 URI]には、S3 バケットが保存されているパスを入力します。

Browse S3 (S3 の参照) を選択します。これにより、新しいタブで Amazon S3 コンソールが開きます。

Amazon S3 コンソールタブで、squeezenet.zip ファイルを S3 バケットにアップロードします。詳細については、「Amazon Simple Storage Service ユーザーガイド」の「S3 バケットにファイルとフォルダをアップロードする方法」を参照してください。

AWS IoT Greengrass コンソールタブで、S3 バケットを見つけて選択します。アップロードした squeezenet.zip ファイルを見つけ、[Select (選択)] を選択します。利用可能なバケットとファイルのリストを更新するために [更新] を選択する必要がある場合があります。

[送信先] に「/greengrass-machine-learning/mxnet/squeezenet」と入力します。

これは、Lambda ランタイム名前空間内のローカルモデルのターゲットです。グループをデプロイすると、AWS IoT Greengrass によってソースモデルパッケージが取得され、指定したディレクトリにその内容が抽出されます。このチュートリアルのサンプル Lambda 関数は、このパス (model_path 変数) を使用するように既に設定されています。

[System group owner and file access permissions] (システムグループ所有者のファイルアクセス許可) で、[No system group] (システムグループなし) を選択します。

[Add resource] (リソースを追加) を選択します。

グループ設定ページで、[Subscriptions] (サブスクリプション) タブ、[Add Subscription] (サブスクリプションの追加) の順に選択します。

[Subscription details] (サブスクリプションの詳細) ページで、ソースおよびターゲットを次のように設定します。

1. [Source type] (ソースタイプ) で、[Lambda function] (Lambda 関数)、[greengrassObjectClassification] の順に選択します。

2. [Target type] (ターゲットタイプ)で、[Service] (サービス)、[IoT Cloud] (IoT クラウド) の順に選択します。

[Topic filter] (トピックのフィルター) で、「hello/world」と入力し、[Create subscription] (サブスクリプションの作成) を選択します。

AWS IoT Greengrass Core が実行されていることを確認します。必要に応じて、Raspberry Pi のターミナルで以下のコマンドを実行します。

1. デーモンが実行中であるかどうかを確認するには

   ps aux | grep -E 'greengrass.*daemon'

   出力に root の /greengrass/ggc/packages/1.11.6/bin/daemon エントリが含まれる場合、デーモンは実行されています。

   注記

   パスのバージョンは、コアデバイスにインストールされている AWS IoT Greengrass Core ソフトウェアのバージョンによって異なります。

2. 次のようにしてデーモンを開始します。

   cd /greengrass/ggc/core/
   sudo ./greengrassd start

グループ設定ページで、[Deploy] (デプロイ) を選択します。

[Lambda functions] (Lambda 関数) タブの [System Lambda functions] (システム Lambda 関数) セクションで、[IP detector] (IP ディテクター)、[Edit} (編集) の順に選択します。

[Edit IP detector settings] (IPディテクタ設定の編集) のダイアログボックスで、[Automatically detect and override MQTT broker endpoints] (MQTT ブローカーのエンドポイントを自動的に検出して上書きする)を選択します。

[Save] を選択します。

これにより、デバイスは、IP アドレス、DNS、ポート番号など、コアの接続情報を自動的に取得できます。自動検出が推奨されますが、AWS IoT Greengrass は手動で指定されたエンドポイントもサポートしています。グループが初めてデプロイされたときにのみ、検出方法の確認が求められます。

[Deployments] ページでは、デプロイのタイムスタンプ、バージョン ID、ステータスが表示されます。完了すると、デプロイのステータスが [Completed] (完了) と表示されます。

デプロイの詳細については、「AWS IoT Greengrass グループを AWS IoT Greengrass Core にデプロイする」を参照してください。トラブルシューティングヘルプについては、AWS IoT Greengrass のトラブルシューティング を参照してください。

AWS IoT コンソールの、[Test] (テスト) で、[MQTT test client] (MQTT テストクライアント) を選択します。

[サブスクリプション] で、以下の値を使用します。

[Subscribe] (サブスクライブ) を選択します。

テストに成功すると、Lambda 関数からのメッセージがページの下部に表示されます。各メッセージには、確率、予測クラス ID、対応するクラス名の形式を使用して、イメージの上位 5 つの予測結果が含まれます。

root ユーザーに切り替え、log ディレクトリに移動します。AWS IoT Greengrass ログへのアクセスには root アクセス許可が必要です。

sudo su
cd /greengrass/ggc/var/log

system ディレクトリで、runtime.log または python_runtime.log を確認します。

user/region/account-id ディレクトリで greengrassObjectClassification.log を確認します。

詳細については、「ログでのトラブルシューティング」を参照してください。

/lambda ディレクトリ内のデプロイされた Lambda の内容を一覧表示します。コマンドを実行する前に、プレースホルダーの値を置き換えます。

cd /greengrass/ggc/deployment/lambda/arn:aws:lambda:region:account:function:function-name:function-version
ls -la

ディレクトリに、ステップ 4: Lambda 関数を作成して発行する でアップロードした greengrassObjectClassification.zip デプロイパッケージと同じ内容が含まれることを確認します。

.py ファイルと依存関係がディレクトリのルートにあることを確認します。

Lambda ランタイムプロセスのプロセス識別番号 (PID) を見つけます。

ps aux | grep 'lambda-function-name*'

出力では、Lambda ランタイムプロセスの行の 2 列目に PID が表示されます。

Lambda ランタイム名前空間を入力します。コマンドを実行する前に、pid プレースホルダーの値を置き換えてください。

sudo nsenter -t pid -m /bin/bash

ML リソース用に指定したローカルディレクトリの内容を一覧表示します。

cd /greengrass-machine-learning/mxnet/squeezenet/
ls -ls

以下のファイルが表示されます。

32 -rw-r--r-- 1 ggc_user ggc_group   31675 Nov 18 15:19 synset.txt
32 -rw-r--r-- 1 ggc_user ggc_group   28707 Nov 18 15:19 squeezenet_v1.1-symbol.json
4832 -rw-r--r-- 1 ggc_user ggc_group 4945062 Nov 18 15:19 squeezenet_v1.1-0000.params

Lambda 関数用に静的な PNG あるいは JPG 画像をダウンロードして、イメージ分類に使用します。この例は小さいイメージファイルで最適に動作します。

greengrassObjectClassification.py ファイルがあるディレクトリ (あるいは、このディレクトリのサブディレクトリ) に画像ファイルを保存します。これは、ステップ 4: Lambda 関数を作成して発行する でアップロードした Lambda 関数デプロイパッケージにあります。

Python 3.7 を使用していない場合は、Python 3.x から Python 3.7 へのシンボリックリンクを必ず作成します。これにより、デバイスが AWS IoT Greengrass で Python 3 を使用するように設定されます。次のコマンドを実行して、Python のインストールを検索します。

which python3

次のコマンドを実行して、シンボリックリンクを作成します。

sudo ln -s path-to-python-3.x/python3.x path-to-python-3.7/python3.7

デバイスを再起動します。

Lambda 関数の設定を編集します。「ステップ 5: Lambda 関数を Greengrass グループに追加する」の手順に従います。

1. コンテナ化を使用せずに実行するには:

   • [System user and group] (システムユーザーとグループ) で、Another user ID/group IDを選択します。[System user ID] (システムユーザ ID) には、「0」と入力します。[System group ID] (システムグループ ID) には、「0」と入力します。

     これにより、Lambda 関数を root として実行できます。root として実行の詳細については、「グループ内の Lambda 関数に対するデフォルトのアクセス ID の設定」を参照してください。

     ヒント

     また、ルートアクセスを Lambda 関数に付与するように config.json ファイルを更新する必要があります。詳しい手順については、「root としての Lambda 関数の実行」を参照してください。

   • [Lambda function containerization] (Lambda 関数のコンテナ化) で、[No container] (コンテナなし) を選択します。

     コンテナ化を使用しない実行の詳細については、「Lambda 関数のコンテナ化を選択する場合の考慮事項」を参照してください。

   • [Timeout (タイムアウト)] 値を 5 秒に更新します。これにより、リクエストの早過ぎるタイムアウトがなくなります。セットアップ後、推論の実行には数分かかります。

   • [Pinned](固定)で、[True] を選択します。

   • [Additional Parameter] (追加のパラメータ) の、[Read access to /sys directory] (/sys ディレクトリへの読み取りアクセス) で、[Enabled] (有効) を選択します。

   • [Lambda のライフサイクル] で、[存続期間が長く無制限に稼働する関数にする] を選択します。

2. 代わりにコンテナ化モードで実行するには:

   注記

   ビジネスケースで要求されない限り、コンテナ化モードでの実行はお勧めしていません。

   • [Timeout (タイムアウト)] 値を 5 秒に更新します。これにより、リクエストの早過ぎるタイムアウトがなくなります。セットアップ後、推論の実行には数分かかります。

   • [Pinned] (固定)で、[True] を選択します。

   • [Additional Parameter] (追加のパラメータ) の、[Read access to /sys directory] (/sys ディレクトリへの読み取りアクセス) で、[Enabled] (有効) を選択します。

コンテナ化モードで実行している場合、必要なローカルデバイスリソースを追加して、デバイス GPU へのアクセスを付与します。

1. グループ設定ページで、[Resources] (リソース) タブを選択します。

2. [Add local resource] (ローカルリソースの追加) を選択します。

3. リソースを定義します。

   • [リソース名] に renderD128 と入力します。

   • [[Resource type] (リソースタイプ) で、[Local device] (ローカルデバイス) を選択します。

   • [デバイスパス] に「/dev/dri/renderD128」と入力します。

   • [System group owner and file access permissions] (システムグループ所有者のファイルアクセス許可)で、[Automatically add file system permissions of the system group that owns the resource] (リソースを所有するシステムグループのファイルシステム権限を自動的に追加する) を選択します。

   • [Lambda function affiliations] (Lambda 関数の所属) で、Lambda 関数への [Read and write access] (読み取りと書き込みアクセス) を許可します。

AWS IoT Greengrass Core ソフトウェアをインストールできるように、Jetson デバイスが設定されていることを確認します。デバイスの設定の詳細については、「他のデバイスの設定」を参照してください。

MXNet のドキュメントを開き、Jetson への MXNet のインストールに移動し、指示に従って Jetson デバイスに MXNet をインストールします。

Lambda 関数用に静的な PNG あるいは JPG 画像をダウンロードして、イメージ分類に使用します。このアプリは小さな画像ファイルで最適に動作します。また、Jetson ボードにカメラを設置して、ソースイメージをキャプチャできます。

greengrassObjectClassification.py ファイルを含むディレクトリにイメージファイルを保存します。このディレクトリのサブディレクトリに保存することもできます。このディレクトリは、ステップ 4: Lambda 関数を作成して発行する でアップロードした Lambda 関数デプロイパッケージにあります。

Python 3.7 から Python 3.6 へのシンボリックリンクを作成し、AWS IoT Greengrass で Python 3 を使用します。次のコマンドを実行して、Python のインストールを検索します。

which python3

次のコマンドを実行して、シンボリックリンクを作成します。

sudo ln -s path-to-python-3.6/python3.6 path-to-python-3.7/python3.7

デバイスを再起動します。

ggc_user システムアカウントが MXNet フレームワークを使用できることを確認します。

“sudo -u ggc_user bash -c 'python3 -c "import mxnet"'

Lambda 関数の設定を編集します。「ステップ 5: Lambda 関数を Greengrass グループに追加する」の手順に従います。

1. コンテナ化を使用せずに実行するには:

   • [System user and group] (システムユーザーとグループ) で、Another user ID/group IDを選択します。[System user ID] (システムユーザ ID) には、「0」と入力します。[System group ID] (システムグループ ID) には、「0」と入力します。

     これにより、Lambda 関数を root として実行できます。root として実行の詳細については、「グループ内の Lambda 関数に対するデフォルトのアクセス ID の設定」を参照してください。

     ヒント

     また、ルートアクセスを Lambda 関数に付与するように config.json ファイルを更新する必要があります。手順については、「root としての Lambda 関数の実行」を参照してください。

   • [Lambda function containerization] (Lambda 関数のコンテナ化) で、[No container] (コンテナなし) を選択します。

     コンテナ化を使用しない実行の詳細については、「Lambda 関数のコンテナ化を選択する場合の考慮事項」を参照してください。

   • [Additional Parameter] (追加のパラメータ) の、[Read access to /sys directory] (/sys ディレクトリへの読み取りアクセス) で、[Enabled] (有効) を選択します。

   • [Environment variables] (環境変数) で、次のキーと値のペアを Lambda 関数に追加します。これにより、AWS IoT Greengrass は、MXNet フレームワークを使用するように設定されます。

     キー	値
     PATH	/usr/local/cuda/bin:$PATH
     MXNET_HOME	$HOME/mxnet/
     PYTHONPATH	$MXNET_HOME/python:$PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$LD_LIBRARY_PATH:${CUDA_HOME}/lib64

2. 代わりにコンテナ化モードで実行するには:

   注記

   ビジネスケースで要求されない限り、コンテナ化モードでの実行はお勧めしていません。

   • [メモリ制限] の値を増やします。CPU の場合は 500 MB、GPU の場合は少なくとも 2000 MB を使用します。

   • [Additional Parameter] (追加のパラメータ) の、[Read access to /sys directory] (/sys ディレクトリへの読み取りアクセス) で、[Enabled] (有効) を選択します。

   • [Environment variables] (環境変数) で、次のキーと値のペアを Lambda 関数に追加します。これにより、AWS IoT Greengrass は、MXNet フレームワークを使用するように設定されます。

     キー	値
     PATH	/usr/local/cuda/bin:$PATH
     MXNET_HOME	$HOME/mxnet/
     PYTHONPATH	$MXNET_HOME/python:$PYTHONPATH
     CUDA_HOME	/usr/local/cuda
     LD_LIBRARY_PATH	$LD_LIBRARY_PATH:${CUDA_HOME}/lib64

コンテナ化モードで実行している場合、次のローカルデバイスリソースを追加して、デバイス GPU へのアクセスを許可します。「ステップ 6: Greengrass グループにリソースを追加する」の手順に従います。

リソースごとに:

コンテナ化モードで実行している場合で、次のローカルボリュームリソースを追加して、デバイスカメラへのアクセスを許可します。「ステップ 6: Greengrass グループにリソースを追加する」の手順に従います。