Trainium SageMaker 훈련 작업 훈련 전 자습서

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

이 자습서에서는 AWS Trainium 인스턴스에서 SageMaker 훈련 작업을 사용하여 사전 훈련 작업을 설정하고 실행하는 프로세스를 안내합니다.

시작하기 전에 다음 사전 조건이 있는지 확인합니다.

Trainium SageMaker 훈련 작업을 위한 환경 설정

SageMaker 훈련 작업을 실행하기 전에 aws configure 명령을 사용하여 AWS 자격 증명과 기본 리전을 구성합니다. 또는 , AWS_ACCESS_KEY_ID AWS_SECRET_ACCESS_KEY및와 같은 환경 변수를 통해 자격 증명을 제공할 수도 있습니다AWS_SESSION_TOKEN. 자세한 내용은 SageMaker AI Python SDK를 참조하세요.

SageMaker AI JupyterLab의 SageMaker AI Jupyter 노트북을 사용하여 SageMaker 훈련 작업을 시작하는 것이 좋습니다. JupyterLab 자세한 내용은 SageMaker JupyterLab 단원을 참조하십시오.

Jupyter Notebook으로 훈련 작업 시작

다음 Python 코드를 사용하여 레시피를 사용하여 SageMaker 훈련 작업을 실행할 수 있습니다. SageMaker AI Python SDK의 PyTorch 예측기를 활용하여 레시피를 제출합니다. 다음 예제에서는 llama3-8b 레시피를 SageMaker AI 훈련 작업으로 시작합니다.

import os
import sagemaker,boto3
from sagemaker.debugger import TensorBoardOutputConfig

from sagemaker.pytorch import PyTorch

sagemaker_session = sagemaker.Session()
role = sagemaker.get_execution_role()

recipe_overrides = {
    "run": {
        "results_dir": "/opt/ml/model",
    },
    "exp_manager": {
        "explicit_log_dir": "/opt/ml/output/tensorboard",
    },
    "data": {
        "train_dir": "/opt/ml/input/data/train",
    },
    "model": {
        "model_config": "/opt/ml/input/data/train/config.json",
    },
    "compiler_cache_url": "<compiler_cache_url>"
} 

tensorboard_output_config = TensorBoardOutputConfig(
    s3_output_path=os.path.join(output, 'tensorboard'),
    container_local_output_path=overrides["exp_manager"]["explicit_log_dir"]
)

estimator = PyTorch(
    output_path=output_path,
    base_job_name=f"llama-trn",
    role=role,
    instance_type="ml.trn1.32xlarge",
    sagemaker_session=sagemaker_session,
    training_recipe="training/llama/hf_llama3_70b_seq8k_trn1x16_pretrain",
    recipe_overrides=recipe_overrides,
)

estimator.fit(inputs={"train": "your-inputs"}, wait=True)

앞의 코드는 훈련 레시피를 사용하여 PyTorch 예측기 객체를 생성한 다음 fit() 메서드를 사용하여 모델에 맞춥니다. training_recipe 파라미터를 사용하여 훈련에 사용할 레시피를 지정합니다.

레시피 시작 관리자를 사용하여 훈련 작업 시작

SageMaker 훈련 작업 구성에 대한 자세한 내용은 섹션을 참조하세요SageMaker 훈련 작업 훈련 전 자습서(GPU).