아마존에서 XGBoost 알고리즘 사용 SageMaker

다양한 데이터 유형, 관계, 분포를 강력하게 처리합니다.

미세 조정할 수 있는 다양한 하이퍼파라미터.

Amazon의 SageMaker 내장 알고리즘.

로컬 환경에서 교육 스크립트를 실행하기 위한 프레임워크입니다.

프레임워크(오픈 소스) 모드: 1.0-1, 1.2-1, 1.2-2, 1.3-1, 1.5-1, 1.7-1

알고리즘 모드: 1.0-1, 1.2-1, 1.2-2, 1.3-1, 1.5-1, 1.7-1

XGBoost를 프레임워크로 사용

XGBoost를 프레임워크로 사용하여 추가 데이터 처리를 훈련 작업에 통합할 수 있는 사용자 지정 훈련 스크립트를 실행합니다. 다음 코드 예제에서 SageMaker Python SDK는 XGBoost API를 프레임워크로 제공합니다. 이는 다른 프레임워크 API (예: MXnet 및) 를 SageMaker 제공하는 방식과 유사하게 작동합니다. TensorFlow PyTorch

import boto3
import sagemaker
from sagemaker.xgboost.estimator import XGBoost
from sagemaker.session import Session
from sagemaker.inputs import TrainingInput

# initialize hyperparameters
hyperparameters = {
        "max_depth":"5",
        "eta":"0.2",
        "gamma":"4",
        "min_child_weight":"6",
        "subsample":"0.7",
        "verbosity":"1",
        "objective":"reg:squarederror",
        "num_round":"50"}

# set an output path where the trained model will be saved
bucket = sagemaker.Session().default_bucket()
prefix = 'DEMO-xgboost-as-a-framework'
output_path = 's3://{}/{}/{}/output'.format(bucket, prefix, 'abalone-xgb-framework')

# construct a SageMaker XGBoost estimator
# specify the entry_point to your xgboost training script
estimator = XGBoost(entry_point = "your_xgboost_abalone_script.py", 
                    framework_version='1.7-1',
                    hyperparameters=hyperparameters,
                    role=sagemaker.get_execution_role(),
                    instance_count=1,
                    instance_type='ml.m5.2xlarge',
                    output_path=output_path)

# define the data type and paths to the training and validation datasets
content_type = "libsvm"
train_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'train'), content_type=content_type)
validation_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'validation'), content_type=content_type)

# execute the XGBoost training job
estimator.fit({'train': train_input, 'validation': validation_input})

XGBoost를 프레임워크로 사용하는 end-to-end 예제는 Amazon SageMaker XGBoost를 사용한 회귀 분석을 참조하십시오. SageMaker

XGBoost를 내장 알고리즘으로 사용

XGBoost 기본 제공 알고리즘을 사용하여 다음 코드 예제와 같이 XGBoost 훈련 컨테이너를 빌드합니다. API를 사용하여 XGBoost 내장 알고리즘 이미지 URI를 자동으로 찾아낼 수 있습니다. SageMaker image_uris.retrieve Amazon SageMaker Python SDK 버전 1을 사용하는 경우 get_image_uri API를 사용하십시오. image_uris.retrieveAPI가 올바른 URI를 찾도록 하려면 내장 알고리즘의 일반 파라미터를 참조하십시오. 그런 다음 내장 알고리즘 이미지 URI의 전체 목록과 사용 가능한 지역을 찾아보세요. xgboost

XGBoost 이미지 URI를 지정한 후 XGBoost 컨테이너를 사용하여 Estimator API를 사용하여 추정기를 구성하고 훈련 작업을 시작하십시오 SageMaker . 이 XGBoost 기본 제공 알고리즘 모드는 고유한 XGBoost 훈련 스크립트를 통합하지 않으며 입력 데이터 세트에서 직접 실행됩니다.

import sagemaker
import boto3
from sagemaker import image_uris
from sagemaker.session import Session
from sagemaker.inputs import TrainingInput

# initialize hyperparameters
hyperparameters = {
        "max_depth":"5",
        "eta":"0.2",
        "gamma":"4",
        "min_child_weight":"6",
        "subsample":"0.7",
        "objective":"reg:squarederror",
        "num_round":"50"}

# set an output path where the trained model will be saved
bucket = sagemaker.Session().default_bucket()
prefix = 'DEMO-xgboost-as-a-built-in-algo'
output_path = 's3://{}/{}/{}/output'.format(bucket, prefix, 'abalone-xgb-built-in-algo')

# this line automatically looks for the XGBoost image URI and builds an XGBoost container.
# specify the repo_version depending on your preference.
xgboost_container = sagemaker.image_uris.retrieve("xgboost", region, "1.7-1")

# construct a SageMaker estimator that calls the xgboost-container
estimator = sagemaker.estimator.Estimator(image_uri=xgboost_container, 
                                          hyperparameters=hyperparameters,
                                          role=sagemaker.get_execution_role(),
                                          instance_count=1, 
                                          instance_type='ml.m5.2xlarge', 
                                          volume_size=5, # 5 GB 
                                          output_path=output_path)

# define the data type and paths to the training and validation datasets
content_type = "libsvm"
train_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'train'), content_type=content_type)
validation_input = TrainingInput("s3://{}/{}/{}/".format(bucket, prefix, 'validation'), content_type=content_type)

# execute the XGBoost training job
estimator.fit({'train': train_input, 'validation': validation_input})

XGBoost를 기본 제공 알고리즘으로 설정하는 방법에 대한 자세한 내용은 다음 노트북 예제를 참조하세요.

text/libsvm(기본값)

text/csv

application/x-parquet

애플리케이션/ x-recordio-protobuf

CPU 훈련

GPU 훈련

분산 CPU 훈련

분산 GPU 훈련

Inference

인스턴스 유형을 GPU 인스턴스 중 하나로 지정합니다 (예: P3).

기존 XGBoost gpu_hist 스크립트에서 tree_method 하이퍼파라미터를 로 설정합니다.

XGBoost 버전 1.2-2에서 1.3-1을 사용합니다.

다중 GPU 인스턴스를 사용할 필요는 없습니다.

오픈 소스 Amazon SageMaker XGBoost 알고리즘 컨테이너 소개

Amazon SageMaker XGBoost는 이제 완전히 분산된 GPU 교육을 제공합니다.