View a markdown version of this page

Amazon Nova 레시피 - Amazon Nova

Amazon Nova 레시피

SageMaker HyperPod 레시피 리포지토리에서 Amazon Nova 레시피를 가져올 수 있습니다. Amazon Nova 레시피는 SageMaker가 모델 사용자 지정 작업을 수행하는 방법에 대한 세부 정보를 제공하는 YAML 구성 파일입니다. 이 레시피는 기본 모델 이름을 제공하고, 훈련 하이퍼파라미터를 설정하고, 최적화 설정을 정의하고, 모델을 성공적으로 미세 조정하거나 훈련하는 데 필요한 추가 옵션을 포함합니다.

Amazon SageMaker Studio 및 JumpStart에서도 Amazon Nova 레시피에 액세스할 수 있습니다. SageMaker JumpStart 모델 허브로 이동하여 AWS를 선택하고 Amazon Nova 모델을 검색하여 관련 레시피를 찾으면 됩니다. Amazon SageMaker Studio와 JumpStart 모두 각 레시피에 대한 샘플 노트북을 제공합니다. 이 노트북에는 레시피를 수정하고 SageMaker AI 훈련 작업 또는 Amazon SageMaker HyperPod 환경을 사용하여 사용자 지정 작업을 실행하는 데 필요한 모든 단계가 포함되어 있습니다.

Amazon SageMaker Studio의 레시피 페이지에 액세스하려면 실행 역할에 다음 권한이 있어야 합니다.

JSON
{ "Version":"2012-10-17", "Statement": [ { "Effect": "Allow", "Action": [ "s3:GetObject" ], "Resource": [ "arn:aws:s3:::*model-customization-recipes*" ] } ] }

SageMaker Training Jobs 및 SageMaker HyperPod에서 샘플 노트북을 실행하려면 SageMaker 배포 이미지 버전 2.7.1+, 2.8.0+, 3.2.1+, 3.3.0+ 중 하나를 사용하세요. 이는 Amazon SageMaker Studio와 JumpStart 모두에 적용됩니다.

Amazon Nova 레시피 가져오기

기본 Amazon Nova 레시피를 가져오려면 다음 명령을 실행하여 SageMaker HyperPod 레시피 리포지토리를 복제합니다.

git clone https://github.com/aws/sagemaker-hyperpod-recipes.git

기본 레시피는 recipes_collection/recipes/에서 사용할 수 있습니다.

cd recipes_collection/recipes/

Amazon Nova 사용자 지정 레시피는 다음 폴더에 있습니다.

레시피 유형 폴더
SFT(전체 순위 및 PEFT), PPO, DPO(전체 순위 및 PEFT) fine-tuning/nova
평가 evaluation/nova
CPT training/nova

Amazon Nova Forge 레시피 가져오기

SageMaker HyperPod 작업을 위한 특수 Amazon Nova Forge 레시피에 액세스하려면 Amazon Nova Forge에 대한 액세스를 설정한 다음, 이 워크숍에 따라 SageMaker HyperPod CLI의 Forge 버전을 설정합니다. SageMaker Training Jobs의 경우 AWS Console 및 SageMaker Python SDK는 Forge 레시피에 자동으로 액세스합니다.

사용 가능한 모델 및 알고리즘

다음 표에는 SageMaker를 사용한 Amazon Nova 모델 및 지원되는 알고리즘에 대한 사용자 지정 가용성이 요약되어 있습니다.

모델 이름

모델 ID

미세 조정

참고

Amazon Nova Lite 2.0

amazon.nova-2-lite-v1:0:256k

  • SFT - 텍스트 및/또는 이미지, 또는 텍스트 및/또는 비디오를 입력으로 받아 텍스트를 출력합니다. 단일 작업의 동일한 실행에서 텍스트, 이미지 및 비디오를 결합할 수 없습니다.

  • DPO - 텍스트와 이미지를 입력으로 받아 텍스트를 출력합니다.

  • RFT - 텍스트와 이미지를 싱글턴 대화의 입력으로 수락하고 출력으로 텍스트를 생성합니다. 보상 최적화 기능을 개선했습니다.

Amazon Nova Lite

아래 표에는 Amazon Nova Lite 레시피 참조에 대한 자세한 정보가 나와 있습니다.

모델 범주/하위 범주 기술 레시피 이름 이미지 URI(훈련 작업) 이미지 URI(SageMaker HyperPod) 컴퓨팅 인스턴스
Nova Lite 훈련/미세 조정 지도 미세 조정(LoRA)

nova_lite_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_sft.yaml

nova_lite_1_0_p5_p4d_gpu_lora_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Lite 훈련/미세 조정 지도 미세 조정(Full) nova_lite_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite 훈련/미세 조정 직접 선호 최적화(Full) nova_lite_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite 훈련/미세 조정 직접 선호 최적화(LoRA)

nova_lite_1_0_p5_p4d_gpu_lora_dpo.yaml

nova_lite_1_0_g5_g6_48x_gpu_lora_dpo.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Lite 훈련/강화 학습 강화 미세 조정(RFT) nova_lite_1_0_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Lite 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_lite_gpu_p5x16_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Lite 평가/평가 표준 텍스트 벤치마크 nova_lite_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가 사용자 지정 데이터세트 평가 nova_lite_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가 멀티모달 벤치마크 nova_lite_p5_48_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Lite 평가/평가 평가형 LLM nova_lite_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Micro

아래 표에는 Amazon Nova Micro 레시피 참조에 대한 자세한 정보가 나와 있습니다.

모델 범주/하위 범주 기술 레시피 이름 이미지 URI(훈련 작업) 이미지 URI(SageMaker HyperPod) 컴퓨팅 인스턴스
Nova Micro 훈련/미세 조정 지도 미세 조정(LoRA)

nova_micro_1_0_p5_p4d_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_12x_gpu_lora_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro 훈련/미세 조정 지도 미세 조정(Full)

nova_micro_1_0_p5_p4d_gpu_sft.yaml

nova_micro_1_0_g5_g6_48x_gpu_sft.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro 훈련/미세 조정 직접 선호 최적화(LoRA)

nova_micro_1_0_g5_g6_12x_gpu_lora_dpo.yaml

nova_micro_1_0_g5_g6_48x_gpu_lora_dpo.yaml

nova_micro_1_0_p5_p4d_gpu_lora_dpo.yaml

708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest

ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge,

ml.g5.12xlarge, ml.g6.12xlarge,

ml.g5.48xlarge, ml.g6.48xlarge

Nova Micro 훈련/미세 조정 직접 선호 최적화(Full) nova_micro_1_0_p5_p4d_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Micro 훈련/강화 학습 강화 미세 조정(RFT) nova_micro_1_0_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Micro 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_micro_gpu_p5x8_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Micro 평가/평가 일반 텍스트 벤치마크 nova_micro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro 평가/평가 사용자 제공 데이터세트(gen_qa) 벤치마크 nova_micro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Micro 평가/평가 평가형 LLM nova_micro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge

Amazon Nova Pro

아래 표에는 Amazon Nova Pro 레시피 참조에 대한 자세한 정보가 나와 있습니다.

모델 범주/하위 범주 기술 레시피 이름 이미지 URI(훈련 작업) 이미지 URI(SageMaker HyperPod) 컴퓨팅 인스턴스
Nova Pro 훈련/미세 조정 지도 미세 조정(LoRA) nova_pro_1_0_p5_p4d_gpu_lora_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro 훈련/미세 조정 지도 미세 조정(Full) nova_pro_1_0_p5_p4d_gpu_sft.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro 훈련/미세 조정 직접 선호 최적화(Full) nova_pro_1_0_p5_gpu_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro 훈련/미세 조정 직접 선호 최적화(LoRA) nova_pro_1_0_p5_p4d_gpu_lora_dpo.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-DPO-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-DPO-latest ml.p5.48xlarge, ml.p5en.48xlarge, ml.p4d.24xlarge
Nova Pro 훈련/강화 학습 강화 미세 조정(RFT) nova_pro_1_0_p5_gpu_ppo.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SMHP-PPO-TRAIN-latest ml.p5.48xlarge, ml.p5en.48xlarge
Nova Pro 훈련/지속적인 사전 훈련 지속적인 사전 훈련(기본 모델) nova_pro_gpu_p5x24_pretrain.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:HP-CPT-latest ml.p5.48xlarge
Nova Pro 훈련/데이터 증강 훈련 후 모델 증류 nova_pro_r5_cpu_distill.yaml 해당 사항 없음 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-distillation-repo:SM-TJ-DISTILL-LATEST ml.r5.24xlarge
Nova Pro 평가/평가 표준 텍스트 벤치마크 nova_pro_p5_48xl_general_text_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 사용자 지정 데이터세트 평가 nova_pro_p5_48xl_bring_your_own_dataset_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 멀티모달 벤치마크 nova_pro_p5_48xl_general_multi_modal_benchmark_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge
Nova Pro 평가/평가 평가형 LLM nova_pro_p5_48xl_llm_judge_eval.yaml 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-latest 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-latest ml.p5.48xlarge