TensorFlow 교육 컴파일러로 SageMaker 교육 작업 실행

교육 컴파일러에서는 Amazon SageMaker Studio Classic, Amazon SageMaker 노트북 인스턴스 등 모든 SageMaker 인터페이스를 사용하여 SageMaker 교육 작업을 실행할 수 있습니다. AWS SDK for Python (Boto3) AWS Command Line Interface

SageMaker Python SDK 사용하기

SageMaker 트레이닝 컴파일러를 켜려면 SageMaker TensorFlow 또는 Hugging compiler_config Face 추정기에 파라미터를 추가하십시오. TrainingCompilerConfig 클래스를 가져와서 이 클래스의 인스턴스를 compiler_config 매개변수에 전달합니다. 다음 코드 예제는 트레이닝 컴파일러가 켜진 상태에서의 SageMaker 추정기 클래스 구조를 보여줍니다. SageMaker

사용 사례에 맞는 정보는 다음 옵션 중 하나를 참고하십시오.

다음 목록은 컴파일러로 SageMaker 훈련 작업을 실행하는 데 필요한 최소 매개 변수 집합입니다.

disable_profiler=True,
debugger_hook_config=False

컴파일러를 사용한 훈련 작업이 성공적으로 시작되면, 작업 초기화 단계에서 다음과 같은 로그를 받게 됩니다.

SageMaker Python SDK 및 확장 SageMaker 프레임워크 딥 러닝 컨테이너 사용

AWS Deep Learning Containers (DLC) 는 오픈 소스 TensorFlow 프레임워크 상에서의 변경 사항을 TensorFlow 포함하는 개조된 버전을 TensorFlow 사용하기 위한 것입니다. SageMaker 프레임워크 Deep Learning 컨테이너는 기본 AWS 인프라 및 Amazon에 최적화되어 SageMaker 있습니다. DLC 사용의 이점을 활용하여 SageMaker Training Compiler를 통합하면 네이티브에 비해 성능이 더 향상됩니다. TensorFlow 또한, DLC 이미지를 확장하여 사용자 지정 훈련 컨테이너를 만들 수 있습니다.

사용 사례에 맞게 SageMaker TensorFlow DLC를 확장하고 사용자 지정하려면 다음 지침을 사용하세요.

Dockerfile 생성

다음 Dockerfile 템플릿을 사용하여 DLC를 확장하세요. SageMaker TensorFlow SageMaker TensorFlow DLC 이미지를 Docker 컨테이너의 기본 이미지로 사용해야 합니다. SageMaker TensorFlow DLC 이미지 URI를 찾으려면 지원되는 프레임워크를 참조하십시오.

# SageMaker TensorFlow Deep Learning Container image
FROM 763104351884.dkr.ecr.<aws-region>.amazonaws.com/tensorflow-training:<image-tag>

ENV PATH="/opt/ml/code:${PATH}"

# This environment variable is used by the SageMaker container 
# to determine user code directory.
ENV SAGEMAKER_SUBMIT_DIRECTORY /opt/ml/code

# Add more code lines to customize for your use-case
...

자세한 내용은 2단계: Dockerfile 및 Python 훈련 스크립트 생성 및 업로드를 참고하십시오.

프레임워크 DLC를 확장할 때는 다음과 같은 함정을 고려하십시오. SageMaker

예를 들어, tensorflow/models 및 tensorflow/텍스트 라이브러리가 항상 오픈 소스를 다시 설치하려고 시도한다는 알려진 문제가 있습니다. TensorFlow 사용 사례에 맞는 특정 버전을 선택하기 위해 이러한 라이브러리를 설치해야 하는 경우 v2.9 이상용 DLC Dockerfile을 살펴보는 것이 좋습니다. SageMaker TensorFlow Dockerfile의 경로는 일반적으로 다음과 같은 형식(tensorflow/training/docker/<tensorflow-version>/py3/<cuda-version>/Dockerfile.gpu)입니다. Dockerfile에서 AWS 관리되는 TensorFlow 바이너리 (환경 변수에 지정됨) 및 기타 종속 항목을 순서대로 재설치하기 위한 코드 라인을 찾아야 합니다. TF_URL 재설치 섹션은 다음 예제와 같아야 합니다.

# tf-models does not respect existing installations of TensorFlow 
# and always installs open source TensorFlow

RUN pip3 install --no-cache-dir -U \
    tf-models-official==x.y.z

RUN pip3 uninstall -y tensorflow tensorflow-gpu \
  ; pip3 install --no-cache-dir -U \
    ${TF_URL} \
    tensorflow-io==x.y.z \
    tensorflow-datasets==x.y.z

구축하고 ECR로 푸시

Docker 컨테이너를 빌드하고 Amazon ECR에 푸시하려면, 다음 링크의 지침을 따르십시오.

SageMaker Python SDK 추정기를 사용하여 실행하기

평소와 같이 SageMaker TensorFlow 프레임워크 추정기를 사용하세요. Amazon ECR에서 호스팅한 새 컨테이너를 사용하도록 image_uri를 지정해야 합니다.

import sagemaker, boto3
from sagemaker import get_execution_role
from sagemaker.tensorflow import TensorFlow, TrainingCompilerConfig

account_id = boto3.client('sts').get_caller_identity().get('Account')
ecr_repository = 'tf-custom-container-test'
tag = ':latest'

region = boto3.session.Session().region_name

uri_suffix = 'amazonaws.com'

byoc_image_uri = '{}.dkr.ecr.{}.{}/{}'.format(
    account_id, region, uri_suffix, ecr_repository + tag
)

byoc_image_uri
# This should return something like
# 111122223333.dkr.ecr.us-east-2.amazonaws.com/tf-custom-container-test:latest

estimator = TensorFlow(
    image_uri=image_uri,
    role=get_execution_role(),
    base_job_name='tf-custom-container-test-job',
    instance_count=1,
    instance_type='ml.p3.8xlarge'
    compiler_config=TrainingCompilerConfig(),
    disable_profiler=True,
    debugger_hook_config=False
)

# Start training
estimator.fit()

API 작업을 사용하여 SageMaker 훈련 컴파일러를 활성화합니다. SageMaker CreateTrainingJob

SageMaker 교육 컴파일러 구성 옵션은 CreateTrainingJobAPI 작업에 대한 요청 구문의 AlgorithmSpecification 및 HyperParameters 필드를 통해 지정해야 합니다.

"AlgorithmSpecification": {
    "TrainingImage": "<sagemaker-training-compiler-enabled-dlc-image>"
},

"HyperParameters": {
    "sagemaker_training_compiler_enabled": "true",
    "sagemaker_training_compiler_debug_mode": "false"
}

SageMaker 트레이닝 컴파일러가 구현된 딥러닝 컨테이너 이미지 URI의 전체 목록을 찾으려면 을 참조하십시오. 지원되는 프레임워크