기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

하나 이상의 알고리즘에 대한 하이퍼파라미터 최적화 튜닝 작업 생성(콘솔)

이 가이드에서는 하나 이상의 알고리즘에 대해 새 하이퍼파라미터 최적화(HPO) 튜닝 작업을 생성하는 방법을 보여줍니다. HPO 작업을 생성하려면 조정 작업에 대한 설정을 정의하고 조정 중인 각 알고리즘에 대한 훈련 작업 정의를 생성합니다. 다음으로 리소스를 구성하고 튜닝 작업을 생성합니다. 다음 단원에는 각 단계를 완료하는 방법에 대한 세부 정보가 있습니다. 를 사용하여 여러 알고리즘을 조정하는 방법의 예를 제공합니다. SageMakerSDK for Python 클라이언트를 참조하십시오.

튜닝 작업 구성 요소

HPO 튜닝 작업에는 다음 세 가지 구성 요소가 포함됩니다.

HPO 튜닝 작업에 이러한 구성 요소가 포함되는 방법은 튜닝 작업에 하나 이상의 훈련 알고리즘이 포함되어 있는지 여부에 따라 달라집니다. 다음 안내서에는 각 구성 요소에 대한 설명과 두 가지 유형의 튜닝 작업에 대한 예제가 있습니다.

HPO 튜닝 작업 예제

하이퍼파라미터 최적화(HPO) 훈련 작업을 실행하려면 먼저 조정 중인 각 알고리즘에 대한 훈련 작업 정의를 생성합니다. 다음으로, 튜닝 작업 설정을 정의하고 튜닝 작업 리소스를 구성합니다. 마지막으로 튜닝 작업을 실행합니다.

HPO 튜닝 작업에 단일 훈련 알고리즘이 포함된 경우 SageMaker 튜닝 함수는 를 HyperparameterTuner API 직접 호출하고 파라미터를 전달합니다. HPO 튜닝 작업에 여러 훈련 알고리즘이 포함된 경우 튜닝 함수는 HyperparameterTuner 의 create 함수를 호출합니다API. create 함수는 에 하나 이상의 추정기가 포함된 사전을 예상API하도록 지시합니다.

다음 섹션에서 코드 예제는 를 사용하여 단일 훈련 알고리즘 또는 여러 알고리즘이 포함된 작업을 조정하는 방법을 보여줍니다. SageMaker Python SDK.

훈련 작업 정의 생성

다중 훈련 알고리즘이 포함된 튜닝 작업을 생성하는 경우 튜닝 작업 구성에는 훈련 작업에 필요한 예측기, 지표 및 기타 파라미터가 포함됩니다. 따라서 먼저 훈련 작업 정의를 생성한 다음에 튜닝 작업을 구성해야 합니다.

다음 코드 예제는 기본 제공 알고리즘이 포함된 SageMaker 두 컨테이너를 검색하는 방법을 보여줍니다. XGBoost 및 Linear Learner. 튜닝 작업에 훈련 알고리즘이 하나만 포함된 경우 컨테이너 중 하나와 추정기 중 하나를 생략합니다.

import sagemaker
from sagemaker import image_uris

from sagemaker.estimator import Estimator

sess = sagemaker.Session()
region = sess.boto_region_name
role = sagemaker.get_execution_role()

bucket = sess.default_bucket()
prefix = "sagemaker/multi-algo-hpo"

# Define the training containers and intialize the estimators
xgb_container = image_uris.retrieve("xgboost", region, "latest")
ll_container = image_uris.retrieve("linear-learner", region, "latest")

xgb_estimator = Estimator(
    xgb_container,
    role=role,
    instance_count=1,
    instance_type="ml.m4.xlarge",
    output_path='s3://{}/{}/xgb_output".format(bucket, prefix)',
    sagemaker_session=sess,
)

ll_estimator = Estimator(
    ll_container,
    role,
    instance_count=1,
    instance_type="ml.c4.xlarge",
    output_path="s3://{}/{}/ll_output".format(bucket, prefix),
    sagemaker_session=sess,
)

# Set static hyperparameters
ll_estimator.set_hyperparameters(predictor_type="binary_classifier")
xgb_estimator.set_hyperparameters(
    eval_metric="auc",
    objective="binary:logistic",
    num_round=100,
    rate_drop=0.3,
    tweedie_variance_power=1.4,
)

다음으로 다음 코드 예제와 같이 훈련, 검증, 테스트 데이터 세트를 지정하여 입력 데이터를 정의합니다. 이 예제에서는 다중 훈련 알고리즘을 튜닝하는 방법을 알아보겠습니다.

training_data = sagemaker.inputs.TrainingInput(
    s3_data="s3://{}/{}/train".format(bucket, prefix), content_type="csv"
)
validation_data = sagemaker.inputs.TrainingInput(
    s3_data="s3://{}/{}/validate".format(bucket, prefix), content_type="csv"
)
test_data = sagemaker.inputs.TrainingInput(
    s3_data="s3://{}/{}/test".format(bucket, prefix), content_type="csv"
)

train_inputs = {
    "estimator-1": {
        "train": training_data,
        "validation": validation_data,
        "test": test_data,
    },
    "estimator-2": {
        "train": training_data,
        "validation": validation_data,
        "test": test_data,
    },
}

튜닝 알고리즘에 훈련 알고리즘이 하나만 포함된 경우 train_inputs에 예측기가 하나만 포함되어야 합니다.

훈련, 검증 및 훈련 데이터 세트에 대한 입력을 HPO 튜닝 작업에 사용하기 전에 Amazon S3 버킷에 업로드해야 합니다.

튜닝 작업용 리소스 및 설정 정의

이 섹션에서는 튜너를 초기화하고, 리소스를 정의하고, 튜닝 작업 설정을 지정하는 방법을 알아보겠습니다. 튜닝 작업에 다중 훈련 알고리즘이 포함된 경우 이러한 설정은 튜닝 작업에 포함된 모든 알고리즘에 적용됩니다. 이 섹션에는 튜너를 정의하는 두 가지 코드 예제가 있습니다. 코드 예제에서 단일 훈련 알고리즘을 최적화하는 방법과 다중 훈련 알고리즘을 튜닝하는 방법을 알아보겠습니다.

단일 훈련 알고리즘 튜닝

다음 코드 예제는 튜너를 초기화하고 SageMaker 내장 알고리즘 하나에 하이퍼파라미터 범위를 설정하는 방법을 보여줍니다.XGBoost.

from sagemaker.tuner import HyperparameterTuner
from sagemaker.parameter import ContinuousParameter, IntegerParameter

hyperparameter_ranges = {
    "max_depth": IntegerParameter(1, 10),
    "eta": ContinuousParameter(0.1, 0.3),
}

objective_metric_name = "validation:accuracy"

tuner = HyperparameterTuner(
    xgb_estimator,
    objective_metric_name,
    hyperparameter_ranges,
    objective_type="Maximize",
    max_jobs=5,
    max_parallel_jobs=2,
)       

다중 훈련 알고리즘 튜닝

훈련 작업마다 다른 구성이 필요하고 이러한 구성은 사전으로 지정됩니다. 다음 코드 예제는 두 개의 SageMaker 기본 제공 알고리즘에 대한 구성으로 튜너를 초기화하는 방법을 보여줍니다.XGBoost 그리고 Linear Learner. 코드 예제는 튜닝 전략 및 튜닝 작업에 대한 컴퓨팅 리소스와 같은 기타 작업 설정을 설정하는 방법도 보여줍니다. 다음 코드 예제에서는 선택 사항인 metric_definitions_dict을(를) 사용합니다.

from sagemaker.tuner import HyperparameterTuner
from sagemaker.parameter import ContinuousParameter, IntegerParameter

# Initialize your tuner
tuner = HyperparameterTuner.create(
    estimator_dict={
        "estimator-1": xgb_estimator,
        "estimator-2": ll_estimator,
    },
    objective_metric_name_dict={
        "estimator-1": "validation:auc",
        "estimator-2": "test:binary_classification_accuracy",
    },
    hyperparameter_ranges_dict={
        "estimator-1": {"eta": ContinuousParameter(0.1, 0.3)},
        "estimator-2": {"learning_rate": ContinuousParameter(0.1, 0.3)},
    },
    metric_definitions_dict={
        "estimator-1": [
            {"Name": "validation:auc", "Regex": "Overall test accuracy: (.*?);"}
        ],
        "estimator-2": [
            {
                "Name": "test:binary_classification_accuracy",
                "Regex": "Overall test accuracy: (.*?);",
            }
        ],
    },
    strategy="Bayesian",
    max_jobs=10,
    max_parallel_jobs=3,
)          

HPO 튜닝 작업 실행

이제 훈련 입력을 HyperparameterTuner 클래스의 fit 함수에 전달하여 튜닝 작업을 실행할 수 있습니다. 다음 코드 예제에서는 이전 코드 예제에 정의된 train_inputs 파라미터를 튜너에 전달하는 방법을 알아보겠습니다.

tuner.fit(inputs=train_inputs, include_cls_metadata ={}, estimator_kwargs ={})