イメージ分類ハイパーパラメータ - Amazon SageMaker

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

イメージ分類ハイパーパラメータ

ハイパーパラメータは、機械学習モデルが学習を開始する前に設定されるパラメータです。以下のハイパーパラメータは、Amazon の SageMaker 組み込み画像分類アルゴリズムでサポートされています。イメージ分類ハイパーパラメータの調整については、「イメージ分類モデルを調整する」を参照してください。

Parameter Name 説明
num_classes

出力クラスの数。このパラメータは、ネットワーク出力のディメンションを定義し、通常はデータセット内のクラス数に設定されます。

マルチクラス分類に加えて、マルチラベル分類もサポートされています。拡張マニフェストファイルを使用したマルチラベル分類の操作方法の詳細については、「イメージ分類アルゴリズムの入出力インターフェイス」を参照してください。

必須

有効な値: 正の整数

num_training_samples

入力データセット内のトレーニング例の数。

この値とトレーニングセット内のサンプル数が一致しない場合、lr_scheduler_step パラメータの動作は未定義になり、分散型トレーニングの精度に影響することがあります。

必須

有効な値: 正の整数

augmentation_type

データ補強タイプ。入力イメージは、次に示す複数の方法で補強できます。

  • crop: イメージをランダムにトリミングし、水平に反転させます

  • crop_color: "トリミング" に加えて、[-36, 36]、[-50, 50]、および [-50, 50] の範囲の 3 つのランダム値がそれぞれ対応する色相、彩度、輝度チャネルに加算されます

  • crop_color_transform: crop_color に加えて、回転、せん断、アスペクト比のバリエーションなどのランダムな変換がイメージに適用されます。最大回転角度は 10 度、最大せん断比は 0.1、最大アスペクト変化比は 0.25 です。

オプション

有効な値: cropcrop_color、または crop_color_transform

デフォルト値: なし

beta_1

adam の beta1。つまり、最初のモーメントの見積もりの指数関数的減衰率です。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 0.9

beta_2

adam の beta2。つまり、2 番目のモーメントの見積もりの指数関数的減衰率です。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 0.999

checkpoint_frequency

モデルパラメータを保存する期間 (エポック数)。

すべてのチェックポイントファイルは、最終的なモデルファイル「model.tar.gz」の一部として保存され、指定されたモデルの場所に S3 にアップロードされることに注意してください。これにより、トレーニング中に保存されたチェックポイントの数に比例してモデルファイルのサイズが大きくなります。

オプション

有効な値: epochs 以下の正の整数。

デフォルト値: なし (検証精度が最も高いエポックにチェックポイントを保存します)

early_stopping

トレーニング中に早期停止ロジックを使用する場合は True。使用しない場合は False

オプション

有効な値: True または False

デフォルト値: False

early_stopping_min_epochs

早期停止ロジックを呼び出す前に実行する必要があるエポックの最小数。early_stopping = True の場合にのみ使用されます。

オプション

有効な値: 正の整数

デフォルト値: 10

early_stopping_patience

関連メトリクスで改善が見られなかった場合にトレーニングを終了する前に待機するエポックの数。early_stopping = True の場合にのみ使用されます。

オプション

有効な値: 正の整数

デフォルト値: 5

early_stopping_tolerance

精度検証メトリクスの改善を測定する相対的な許容値。精度の改善を前回の最高精度で除算した比率が early_stopping_tolerance 値セットより小さい場合、早期停止は改善がないと見なします。early_stopping = True の場合にのみ使用されます。

オプション

有効な値: 0 ≤ 浮動小数点数 ≤ 1

デフォルト値: 0.0

epochs

トレーニングエポックの数。

オプション

有効な値: 正の整数

デフォルト値: 30

eps

adamrmsprop のイプシロン。通常は、0 で除算されないように小さな値に設定されます。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 1e-8

gamma

rmsprop のガンマ、二乗勾配の移動平均の減衰係数。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 0.9

image_shape

入力イメージのディメンション。これはネットワークの入力レイヤーと同じサイズになります。フォーマットは "num_channels, 高さ, 幅" として定義されます。ネットワークが入力の多様なディメンションを処理できるため、イメージディメンションは任意の値を受け取ることができます。ただし、大きなイメージディメンションが使用されている場合はメモリの制約がある可能性があります。事前にトレーニングされたモデルでは、224 x 224 に固定されたイメージサイズのみを使用できます。イメージ分類の一般的なイメージディメンションは '3,224,224' です。これは ImageNet データセットに似ています。

トレーニングの場合、任意の次元でいずれかの入力イメージがこのパラメータよりも小さいと、トレーニングは失敗します。イメージが大きい場合、このパラメータで指定されたクロップ領域を使用して、イメージの一部がクロップされます。ハイパーパラメータ augmentation_type が設定されている場合、ランダムクロップが行われ、それ以外の場合は、中央クロップが行われます。

推論時に、入力イメージのサイズはトレーニング中に使用された image_shape に変更されます。縦横比は保持されず、イメージはクロップされません。

オプション

有効な値: 文字列

デフォルト値: '3,224,224'

kv_store

分散型トレーニング中の重み更新同期モード。重み更新は、複数マシン間で同期的または非同期的に更新できます。同期更新は、一般には非同期更新よりも精度が高くなりますが、低速な可能性があります。詳細については、「」の「分散トレーニングMXNet」を参照してください。

このパラメータは、単一のマシントレーニングには適用されません。

  • dist_sync: 勾配はすべてのワーカーで各バッチの後に同期されます。dist_sync では、バッチサイズは各マシンで使用されるバッチサイズを意味します。したがって、n 台のマシンがあり、バッチサイズ b を使用する場合、dist_sync はバッチサイズ n*b でローカルのように動作します。

  • dist_async: 非同期更新を実行します。重みはマシンから勾配を受け取るたびに更新され、重みの更新はアトミックです。ただし、その順序は保証されません。

オプション

有効な値: dist_sync または dist_async

デフォルト値: なし

learning_rate

初期学習レート。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 0.1

lr_scheduler_factor

lr_scheduler_step = lr_new * lr_old として定義される、lr_scheduler_factor パラメータと組み合わせて使用される学習レートを下げる率。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 0.1

lr_scheduler_step

学習レートを下げるエポック。lr_scheduler_factor パラメータで説明しているように、学習レートはこれらのエポックで lr_scheduler_factor だけ下げられます。たとえば、値が "10, 20" に設定されている場合、学習レートは 10 番目のエポックの後に lr_scheduler_factor だけ下げられ、20 番目のエポックの後に再び lr_scheduler_factor だけ下げられます。エポックは "," で区切られます。

オプション

有効な値: 文字列

デフォルト値: なし

mini_batch_size

トレーニングのバッチサイズ。単一マシンのマルチGPU設定では、各 が mini_batch_size/num_gpu トレーニングサンプルをGPU処理します。dist_sync モードの複数マシントレーニングでは、実際のバッチサイズは mini_batch_size * マシン数です。詳細については、MXNet「 ドキュメント」を参照してください。

オプション

有効な値: 正の整数

デフォルト値: 32

momentum

sgdnag のモーメンタムであり、他のオプティマイザでは無視されます。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 0.9

multi_label

各サンプルに複数のラベルを割り当てることができる複数ラベル分類に使用するフラグ。全クラスの平均精度が記録されます。

オプション

有効な値: 0 または 1

デフォルト値: 0

num_layers

ネットワークのレイヤー数。画像サイズが大きいデータ (224x224 など ImageNet) の場合、セット [18、34、50、101、152、200] からレイヤー数を選択することをお勧めします。イメージサイズが小さいデータ (例: 28x28 - などCIFAR) の場合は、セット [20、32、44、56、110] からレイヤーの数を選択することをお勧めします。各セットのレイヤーの数は、 ResNet 紙に基づいています。転移学習では、レイヤー数は基本ネットワークのアーキテクチャを定義するため、セット [18、34、50、101、152、200] からのみ選択できます。

オプション

有効な値: [18, 34, 50, 101, 152, 200] または [20, 32, 44, 56, 110] 内の正の整数。

デフォルト値: 152

optimizer

オプティマイザのタイプ。オプティマイザのパラメータの詳細については、「」のMXNet「」を参照してくださいAPI。

オプション

有効な値: sgdadamrmspropnag のいずれか。

デフォルト値: sgd

precision_dtype

トレーニングに使用される重みの精度。アルゴリズムは、重みに単精度 (float32) または半精度 (float16) を使用できます。重みに半精度を使用すると、メモリ消費量が減少します。

オプション

有効な値: float32 または float16

デフォルト値: float32

resize

トレーニングのためにイメージのサイズを変更した後、イメージの最短辺にあるピクセル数です。パラメータが設定されていない場合、トレーニングデータはサイズ変更なしで使用されます。パラメータは、トレーニングの失敗を防ぐため、image_shape の幅と高さのコンポーネントよりも大きくする必要があります。

イメージコンテンツタイプを使用する場合は必須

RecordIO コンテンツタイプを使用する場合はオプション

有効な値: 正の整数

デフォルト値: なし

top_k

トレーニング中に top-k 精度を報告します。top-1 トレーニング精度はすでに報告されている通常のトレーニング精度と同じであるため、このパラメータは 1 より大きい必要があります。

オプション

有効な値: 1 より大きい正の整数。

デフォルト値: なし

use_pretrained_model

トレーニングに事前トレーニング済みモデルを使用するためのフラグ。1 に設定すると、対応するレイヤー数の事前トレーニング済みモデルがロードされ、トレーニングに使用されます。最上位 FC レイヤーのみがランダムな重みで再初期化されます。それ以外の場合、ネットワークはゼロからトレーニングされます。

オプション

有効な値: 0 または 1

デフォルト値: 0

use_weighted_loss

重みがクラスの分布に基づいて計算される、複数ラベル分類に重み付き交差エントロピー損失を使用するためのフラグ (multi_label = 1 の場合にのみ使用)。

オプション

有効な値: 0 または 1

デフォルト値: 0

weight_decay

sgdnag の係数重み減衰であり、他のオプティマイザでは無視されます。

オプション

有効な値: 浮動小数点数。[0, 1] の範囲です。

デフォルト値: 0.0001