モデルのコンパイル (Amazon SageMaker コンソール）

Amazon SageMaker Neo コンパイルジョブは、Amazon SageMaker コンソールで作成できます。

Amazon SageMaker コンソールで、コンパイルジョブ を選択し、コンパイルジョブの作成 を選択します。
[Create compilation job] (コンパイルジョブの作成) ページで、[Job name] (ジョブ名) に名前を入力します。次に、IAMロール を選択します。
IAM ロールがない場合は、新しいロールを作成する を選択します。
IAM ロールの作成ページで、任意の S3 バケット を選択し、ロールの作成 を選択します。
Non PyTorch Frameworks

入力設定セクションで、モデルアーティファクトURIを含む Amazon S3 バケットの完全なパスを、モデルアーティファクトの場所の入力フィールドに入力します。モデルアーティファクトは、圧縮された tarball ファイル形式 (.tar.gz) である必要があります。

データ入力設定フィールドには、入力データの形状を指定するJSON文字列を入力します。

[Machine learning framework] (機械学習フレームワーク) では、フレームワークを選択します。

フレームワークに応じて入力データ形状のJSON文字列例を確認するには、「Neo がを期待する入力データ形状」を参照してください。

PyTorch Framework
PyTorch モデルのコンパイルにも同様の手順が適用されます。ただし、でトレーニング PyTorch し、 ml_* ( を除くml_inf) ターゲットのモデルをコンパイルしようとする場合は、オプションで PyTorch 使用したのバージョンを指定できます。

フレームワークに応じて入力データ形状のJSON文字列例を確認するには、「Neo がを期待する入力データ形状とは」を参照してください。
メモ

PyTorch バージョン 2.0 以降を使用してモデルを保存した場合、データ入力設定フィールドはオプションです。 SageMaker Neo は、で作成したモデル定義ファイルから入力設定を取得します PyTorch。定義ファイルの作成方法の詳細については、「Saving Models for SageMaker Neo PyTorch」のセクションを参照してください。

PyTorch フレームワークを使用してml_*インスタンス用にコンパイルする場合は、出力設定の Compiler オプションフィールドを使用して、モデルの入力の正しいデータ型 (dtype) を指定します。デフォルトでは "float32" に設定されています。
警告
.pth ファイルにつながる Amazon S3 バケットURIパスを指定すると、コンパイルの開始後に次のエラーが表示されます。 ClientError: InputConfiguration: Unable to untar input model.Please confirm the model is a tar.gz file
[Output configuration] (出力設定) セクションに移動します。モデルをデプロイする場所を選択します。[Target device] (ターゲットデバイス) または [Target platform] (ターゲットプラットフォーム) にモデルをデプロイできます。ターゲットデバイスには、クラウドやエッジデバイスがあります。ターゲットプラットフォームは、モデルを実行する特定の OS、アーキテクチャ、アクセラレーターを参照します。

[S3 Output location] (S3 出力場所) には、モデルを保存する S3 バケットへのパスを入力します。オプションで、コンパイラオプションセクションの JSON 形式でコンパイラオプションを追加できます。
開始時にコンパイルジョブのステータスを確認してください。次のスクリーンショットに示すとおり、このジョブステータスは、[Compilation jobs] (コンパイルジョブ) ページの上部にあります。[Status] (状態) 列でもジョブのステータスを確認できます。
完了時にコンパイルジョブのステータスを確認してください。次のスクリーンショットに示すように、[Status] (状態) 列でステータスを確認できます。