Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Definieren von Hyperparameter-Bereichen

In dieser Anleitung wird gezeigt, wie Sie SageMaker APIs Hyperparameterbereiche definieren können. Außerdem wird eine Liste der Hyperparameter-Skalierungstypen angezeigt, die Sie verwenden können.

Die Auswahl der Hyperparameter und Bereiche wirkt sich erheblich auf die Leistung Ihres Optimierungsauftrags aus. Die Hyperparameter-Abstimmung findet die besten Hyperparameter-Werte für Ihr Modell, indem sie einen Bereich von Werten durchsucht, den Sie für jeden abstimmbaren Hyperparameter angeben. Sie können auch bis zu 100 statische Hyperparameter angeben, die sich im Laufe des Tuning-Jobs nicht ändern. Sie können insgesamt bis zu 100 Hyperparameter verwenden (statisch + einstellbar). Eine Anleitung zur Auswahl von Hyperparametern und Bereichen finden Sie unter Bewährte Methoden für die Hyperparameter-Optimierung. Sie können Autotune auch verwenden, um die optimalen Einstellungen für den Tuning-Job zu finden. Weitere Informationen finden Sie im folgenden Abschnitt zur Autooptimierung

Statische Hyperparameter

Verwenden Sie statische Hyperparameter für die folgenden Fälle: Sie können es beispielsweise verwenden, AMT um Ihr Modell mithilfe von param1 (einem einstellbaren Parameter) und param2 (einem statischen Parameter) zu optimieren. Wenn Sie dies tun, verwenden Sie einen Suchraumparam1, der zwischen zwei Werten liegt, und übergeben Sie param2 ihn wie folgt als statischen Hyperparameter.

param1: ["range_min","range_max"]
param2: "static_value"

Statische Hyperparameter haben die folgende Struktur:

"StaticHyperParameters": {
    "objective" : "reg:squarederror",
    "dropout_rate": "0.3"
}  

Sie können Amazon verwenden SageMaker API, um Schlüssel-Wert-Paare im StaticHyperParametersFeld des HyperParameterTrainingJobDefinition Parameters anzugeben, den Sie an die CreateHyperParameterTuningJobOperation übergeben.

Dynamische Hyperparameter

Sie können den verwenden SageMaker API, um Hyperparameterbereiche zu definieren. Geben Sie die Namen von Hyperparametern und Wertebereichen im Feld ParameterRanges des Parameters HyperParameterTuningJobConfig an, den Sie an die Operation CreateHyperParameterTuningJobübergeben.

Das ParameterRanges Feld hat drei Unterfelder: kategorisch, ganzzahlig und kontinuierlich. Sie können insgesamt bis zu 30 einstellbare Hyperparameter (kategorisch + Ganzzahl + kontinuierlich) definieren, über die Sie suchen können.

Dynamische Hyperparameter haben die folgende Struktur:

"ParameterRanges": {
    "CategoricalParameterRanges": [
        {
            "Name": "tree_method",
            "Values": ["auto", "exact", "approx", "hist"]
        }
    ],
    "ContinuousParameterRanges": [
        {
            "Name": "eta",
            "MaxValue" : "0.5",
            "MinValue": "0",
            "ScalingType": "Auto"
        }
    ],
    "IntegerParameterRanges": [
        {
            "Name": "max_depth",
            "MaxValue": "10",
            "MinValue": "1",
            "ScalingType": "Auto"
        }
    ]
}

Wenn Sie einen Tuning-Job mit einer Grid Strategie erstellen, können Sie nur kategoriale Werte angeben. Sie müssen die nicht angebenMaxNumberofTrainingJobs. Dieser Wert wird aus der Gesamtzahl der Konfigurationen abgeleitet, die anhand Ihrer kategorialen Parameter erstellt werden können. Falls angegeben, MaxNumberOfTrainingJobs sollte der Wert von der Gesamtzahl der möglichen unterschiedlichen kategorialen Kombinationen entsprechen.

Autotune

Um Zeit und Ressourcen bei der Suche nach Hyperparameterbereichen, Ressourcen oder objektiven Metriken zu sparen, kann Autotune automatisch optimale Werte für einige Hyperparameterfelder erraten. Verwenden Sie Autotune, um optimale Werte für die folgenden Felder zu finden:

Gehen Sie wie folgt vor, um Autotune zu verwenden:

AMTbestimmt, ob Ihre Hyperparameter und Beispielwerte für Autotune in Frage kommen. Hyperparameter, die in Autotune verwendet werden können, werden automatisch dem entsprechenden Parameterbereichstyp zugewiesen. Wird dann AMT verwendet, ValueHint um einen für Sie optimalen Bereich auszuwählen. Sie können den verwenden DescribeHyperParameterTrainingJobAPI, um diese Bereiche anzuzeigen.

Das folgende Beispiel zeigt, wie Sie einen Tuning-Auftrag konfigurieren, der Autotune verwendet. Im Konfigurationsbeispiel enthält der Hyperparameter max_depth ValueHint einen Beispielwert von 4.

config = {
    'Autotune': {'Mode': 'Enabled'},
    'HyperParameterTuningJobName':'my-autotune-job',
    'HyperParameterTuningJobConfig': {
        'HyperParameterTuningJobObjective': {'Type': 'Minimize', 'MetricName': 'validation:rmse'},
        'ResourceLimits': {'MaxNumberOfTrainingJobs': 5, 'MaxParallelTrainingJobs': 1},
        'ParameterRanges': {       
            'AutoParameters': [
                {'Name': 'max_depth', 'ValueHint': '4'}
            ]
        }
    },
    'TrainingJobDefinition': {
    .... }

In Fortsetzung des vorherigen Beispiels wird ein Tuning-Job erstellt, nachdem die vorherige Konfiguration in einen Aufruf von aufgenommen wurde CreateHyperParameterTuningJobAPI. Anschließend konvertiert Autotune den Hyperparameter max_depth in AutoParameters den Hyperparameter. IntegerParameterRanges Die folgende Antwort von a DescribeHyperParameterTrainingJob API zeigt, dass das IntegerParameterRanges Optimum für zwischen und liegt. max_depth 2 8

{
    'HyperParameterTuningJobName':'my_job',
    'HyperParameterTuningJobConfig': {
        'ParameterRanges': {
            'IntegerParameterRanges': [
                {'Name': 'max_depth', 'MinValue': '2', 'MaxValue': '8'},
            ],
        }
    },
    'TrainingJobDefinition': {
        ...
    },
    'Autotune': {'Mode': 'Enabled'}
    
}

Hyperparameter-Skaliertypen

Für ganzzahlige und kontinuierliche Hyperparameterbereiche können Sie die Skala wählen, die bei der Hyperparameteroptimierung verwendet werden soll. Um beispielsweise den Wertebereich zu durchsuchen, können Sie einen Wert für das ScalingType Feld des Hyperparameterbereichs angeben. Sie können zwischen den folgenden Hyperparameter-Skalierungstypen wählen:

Ein Beispiel-Notebook, das Hyperparameter-Skalierung verwendet, finden Sie in diesen SageMaker Amazon-Hyperparameter-Beispielen unter. GitHub