PyTorch トレーニングスクリプトを適合させる

フックを作成します。

（推奨) SageMaker AI 内のトレーニングジョブの場合

import smdebug.pytorch as smd
hook=smd.get_hook(create_if_not_exists=True)

推定器内の DebuggerHookConfig、TensorBoardConfig、または Rules のいずれかSageMaker Python SDK を使用して Debugger でトレーニングジョブを開始するを使用して でトレーニングジョブを起動すると、SageMaker AI は get_hook 関数によって取得される JSON 設定ファイルをトレーニングインスタンスに追加します。推定器に設定 API が含まれていない場合、フックで検索できる設定ファイルは存在せず、関数は None を返すことに注意してください。

（オプション) SageMaker AI 以外のトレーニングジョブの場合

ローカルモードでトレーニングジョブを実行する際に、SageMaker Notebook インスタンス、Amazon EC2 インスタンス、または独自のローカルデバイス上で直接実行する場合は、smd.Hook クラスを使用してフックを作成します。ただし、この方法ではテンソルコレクションの保存のみ可能で、TensorBoard の可視化に使用できます。SageMaker デバッガーの組み込みルールはローカルモードで機能しません。このルールでは、リモートインスタンスからの出力をリアルタイムで保存するために SageMaker AI ML トレーニングインスタンスと S3 が必要であるためです。この場合 smd.get_hook API は None を返します。

ローカルモードでテンソルを保存する手動フックを作成する場合は、以下のコードスニペットとロジックを使用して smd.get_hook API が None を戻すかどうかを確認し、smd.Hook クラスを使用して手動フックを作成します。ローカルマシンの任意の出力ディレクトリを指定できることに注意してください。

import smdebug.pytorch as smd
hook=smd.get_hook(create_if_not_exists=True)

if hook is None:
    hook=smd.Hook(
        out_dir='/path/to/your/local/output/',
        export_tensorboard=True
    )

フックのクラスメソッドでモデルをラップします。

この hook.register_module() メソッドはモデルを取得して各レイヤーを繰り返し処理し、SageMaker Python SDK を使用して Debugger でトレーニングジョブを開始する の設定で指定した正規表現と一致するテンソルを検索します。このフックメソッドで収集できるテンソルは、重み、バイアス、アクティベーション、グラデーション、入力、出力です。

hook.register_module(model)

損失関数をフックのクラスメソッドでワープします。

hook.register_loss メソッドは損失関数をラップします。SageMaker Python SDK を使用して Debugger でトレーニングジョブを開始する で設定する save_interval ごとに損失値を抽出し、"losses" コレクションに保存します。

hook.register_loss(loss_function)

トレインブロックに hook.set_mode(ModeKeys.TRAIN) を追加します。これは、テンソルコレクションがトレーニングフェーズ中に抽出されることを示しています。

def train():
    ...
    hook.set_mode(ModeKeys.TRAIN)

検証ブロックを hook.set_mode(ModeKeys.EVAL) に追加します。これは、テンソルコレクションがト検証フェーズ中に抽出されることを示しています。

def validation():
    ...
    hook.set_mode(ModeKeys.EVAL)

カスタムスカラーを保存するには hook.save_scalar() を使用します。モデルにないスカラー値を保存できます。例えば、評価中に計算された精度の値を記録したい場合は、精度を計算する行の下に次のコード行を追加します。

hook.save_scalar("accuracy", accuracy)

カスタムスカラーコレクションに名前を付けるには、最初の引数に文字列を指定する必要があります。これは TensorBoard のスカラー値を視覚化するために使用される名前で、任意の文字列を指定することができます。

カスタムテンソルを保存するには hook.save_tensor() を使用します。hook.save_scalar() と同様に、独自のテンソルコレクションを定義して、追加のテンソルを保存できます。例えば、モデルに渡された入力画像データを抽出し、カスタムテンソルとして保存するには、次のコード行 ("images" はカスタムテンソルの名前の例、image_inputs は入力画像データの変数の例) を追加します。

hook.save_tensor("images", image_inputs)

カスタムテンソルの名前を付けるには、最初の引数に文字列を指定する必要があることに注意してください。hook.save_tensor() には、カスタムテンソルを保存するテンソルコレクションを指定するための 3 番目の引数 collections_to_write があります。デフォルト: collections_to_write="default"。3 番目の引数を明示的に指定しない場合、カスタムテンソルは "default" テンソルコレクションに保存されます。