オプション: ML 認定のためのデバイスの設定

デバイスに SSH 接続します。

次のスクリプトを実行して、依存関係が正しくインストールされていることを確認します。

sudo python3.7 -c "import mxnet; print(mxnet.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

出力ではバージョン番号が表示されまます。スクリプトがエラーなく終了する必要があります。

device.json が ML 認定用に設定されていることを確認します。詳細については、「ML 認定のための device.json の設定」を参照してください。

フレームワークの依存関係テストを実行します。

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id mxnet_dependency_check

テストサマリーに、mldependencies の結果として PASSED が表示されます。

デバイスに SSH 接続します。

次のスクリプトを実行して、依存関係が正しくインストールされていることを確認します。

sudo python3.7 -c "import tensorflow; print(tensorflow.__version__)"

出力ではバージョン番号が表示されまます。スクリプトがエラーなく終了する必要があります。

device.json が ML 認定用に設定されていることを確認します。詳細については、「ML 認定のための device.json の設定」を参照してください。

フレームワークの依存関係テストを実行します。

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id tensorflow_dependency_check

テストサマリーに、mldependencies の結果として PASSED が表示されます。

デバイスに SSH 接続します。

次のスクリプトを実行して、依存関係が正しくインストールされていることを確認します。

sudo python3.7 -c "import dlr; print(dlr.__version__)"

sudo python3.7 -c "import numpy; print(numpy.__version__)"

出力ではバージョン番号が表示されまます。スクリプトがエラーなく終了する必要があります。

device.json が ML 認定用に設定されていることを確認します。詳細については、「ML 認定のための device.json の設定」を参照してください。

フレームワークの依存関係テストを実行します。

devicetester_[linux | mac | win_x86-64] run-suite --group-id mldependencies --test-id dlr_dependency_check

テストサマリーに、mldependencies の結果として PASSED が表示されます。

デバイスタイプが SageMaker AI でサポートされていることを確認します。詳細については、Amazon SageMaker AI API リファレンス」の「ターゲットデバイスオプション」を参照してください。デバイスタイプが現在 SageMaker AI でサポートされていない場合は、「」の手順に従いますオプション 2: TVM を使用して DLR をコンパイルする。

事前トレーニング済みでコンパイルされていない DLR 用 MxNet モデルを含む tarball ファイルをダウンロードします。

tarball を解凍します。このコマンドを実行すると、以下のディレクトリ構造が生成されます。

synset.txt を resnet18 ディレクトリ以外の場所に移動します。新しい場所を書き留めておきます。このファイルは、コンパイルされたモデルのディレクトリに、後でコピーします。

resnet18 ディレクトリの内容を圧縮します。

tar cvfz model.tar.gz resnet18v1-symbol.json resnet18v1-0000.params

圧縮ファイルを の Amazon S3 バケットにアップロードし AWS アカウント、「モデルをコンパイルする (コンソール）」の手順に従ってコンパイルジョブを作成します。

1. [入力設定] では、次の値を使用します。

   • [データ入力設定] に {"data": [1, 3, 224, 224]} と入力します。

   • [機械学習フレームワーク] で、MXNet を選択します。

2. [出力設定] では、次の値を使用します。

   • [S3 Output location] (S3 出力場所) には、コンパイル済みモデルを保存する Amazon S3 バケットまたはフォルダへのパスを入力します。

   • [ターゲットデバイス] で、デバイスタイプを選択します。

指定した出力場所からコンパイル済みモデルをダウンロードし、ファイルを解凍します。

コンパイル済みモデルのディレクトリに synset.txt をコピーします。

コンパイル済みモデルのディレクトリの名前を resnet18 に変更します。

コンパイル済みモデルのディレクトリでは、次のディレクトリ構造が必要です。

事前トレーニング済みでコンパイルされていない DLR 用 MxNet モデルを含む tarball ファイルをダウンロードします。

tarball を解凍します。このコマンドを実行すると、以下のディレクトリ構造が生成されます。

TVM のドキュメントの指示に従って、お使いのプラットフォームのソースから TVM のビルドとインストールを行います。

TVM がビルドされたら、resnet18 モデルの TVM コンパイルを実行します。以下のステップは、TVM のドキュメントの「Quick Start Tutorial for Compiling Deep Learning Models」に基づいています。

1. クローン作成された TVM リポジトリから relay_quick_start.py ファイルを開きます。

2. リレーでニューラルネットワークを定義するコードを更新します。次のいずれかのオプションを使用できます。

   • オプション 1: mxnet.gluon.model_zoo.vision.get_model を使用してリレーモジュールとパラメータを取得します。

     from mxnet.gluon.model_zoo.vision import get_model
     block = get_model('resnet18_v1', pretrained=True)
     mod, params = relay.frontend.from_mxnet(block, {"data": data_shape})

   • オプション 2: ステップ 1 でダウンロードしたコンパイルされていないモデルから、以下のファイルをrelay_quick_start.py ファイルと同じディレクトリにコピーします。これらのファイルには、リレーモジュールとパラメータが含まれています。

     • resnet18v1-symbol.json

     • resnet18v1-0000.params

3. コンパイル済みモジュールを保存してロードするコードを更新し、次のコードを使用します。

   from tvm.contrib import util
   path_lib = "deploy_lib.so"
   #  Export the model library based on your device architecture
   lib.export_library("deploy_lib.so", cc="aarch64-linux-gnu-g++")
   with open("deploy_graph.json", "w") as fo:
       fo.write(graph)
   with open("deploy_param.params", "wb") as fo:
       fo.write(relay.save_param_dict(params))

4. モデルをビルドします。

   python3 tutorials/relay_quick_start.py --build-dir ./model

   このコマンドを実行すると、以下のファイルが生成されます。

   • deploy_graph.json

   • deploy_lib.so

   • deploy_param.params

生成されたモデルファイルを resnet18 という名前のディレクトリにコピーします。これはコンパイル済みモデルのディレクトリです。

コンパイル済みモデルのディレクトリをホストコンピュータにコピーします。次に、ステップ 1 でダウンロードしたコンパイルされていないモデルから、コンパイル済みモデルのディレクトリに synset.txt をコピーします。

コンパイル済みモデルのディレクトリでは、次のディレクトリ構造が必要です。