Amazon Nova 配方
您可以从 SageMaker HyperPod 配方
您还可以通过 SageMaker AI Monarch 和 JumpStart 访问 Amazon Nova 配方,方法是导航到 SageMaker JumpStart 模型中心,选择 AWS,浏览 Amazon Nova 模型以找到其关联的配方。SageMaker AI Monarch 和 JumpStart 为每个配方都提供了示例笔记本,其中包括修改配方以及使用 SageMaker 训练作业或 SageMaker HyperPod 环境运行自定义作业的所有必要步骤。
要访问 Amazon SageMaker Studio 中的配方页面,执行角色必须具有以下权限。
要在 SageMaker 训练作业和 SageMaker HyperPod 上执行示例笔记本,请使用以下 SageMaker 分发映像版本之一:2.7.1+、2.8.0+、3.2.1+、3.3.0+。这适用于 SageMaker AI Monarch 和 JumpStart。
获取 Amazon Nova 配方
要获取基本 Amazon Nova 配方,请运行以下命令克隆 SageMaker HyperPod 配方
git clone https://github.com/aws/sagemaker-hyperpod-recipes.git
可通过 recipes_collection/recipes/
cd recipes_collection/recipes/
Amazon Nova 自定义配方位于以下文件夹中。
| 配方类型 | 文件夹 |
|---|---|
| SFT(全秩和 PEFT) | fine-tuning/nova |
| 评测执行 | evaluation/nova |
| CPT | training/nova |
获取 Amazon Nova Forge 配方
如需访问 SageMaker HyperPod 作业专用的 Amazon Nova Forge 配方,请先完成 Amazon Nova Forge 访问权限设置,然后按照本讲习会
可用的模型和算法
下表汇总了 Amazon Nova 2.0 模型自定义功能的可用情况,以及使用 SageMaker 的支持算法。有关 Amazon Nova 1.0 模型定制,请参阅 Amazon Nova 1.0 配方。
模型名称 |
模型 ID |
微调 |
备注 |
|---|---|---|---|
Amazon Nova Lite 2.0 |
amazon.nova-2-lite-v1:0:256k |
是 |
|
Amazon Nova 2.0 Lite
下表列出了 Amazon Nova 2.0 Lite 配方参考的详细信息。水平滚动以查看完整表格,包括映像 URI 和计算实例类型。
| 模型 | 类别/子类别 | 方法 | 配方名称 | 映像 URI(训练作业) | 映像 URI(SageMaker HyperPod) | 计算实例 |
|---|---|---|---|---|---|---|
| Nova 2.0 Lite | 训练 | 持续预训练 | nova_lite_2_0_p5x8_gpu_pretrain.yaml |
不适用 | 708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-CPT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 参数高效微调 | 微调 | nova_lite_2_0_p5_gpu_lora_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 全秩微调 | 微调 | nova_lite_2_0_p5_gpu_sft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-SFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-SFT-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 参数高效 RFT | 微调 | nova_lite_v2_smtj_p5_p5en_gpu_lora_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 全秩 RFT | 微调 | nova_lite_v2_smtj_p5en_gpu_rft.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-TJ-RFT-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-fine-tune-repo:SM-HP-RFT-TRAIN-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 自带数据 | 评测执行 | nova_lite_2_0_p5_48xl_gpu_bring_your_own_dataset_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | 通用文本基准 | 评测执行 | nova_lite_2_0_p5_48xl_gpu_general_text_benchmark_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | RFT 评测 | 评测执行 | nova_lite_2_0_p5_48xl_gpu_rft_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |
| Nova 2.0 Lite | LLM Rubric Judge | 评测执行 | nova_lite_2_0_p5_48xl_gpu_rubric_llm_judge_eval.yaml |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-TJ-Eval-V2-latest |
708977205387.dkr.ecr.us-east-1.amazonaws.com/nova-evaluation-repo:SM-HP-Eval-V2-latest |
ml.p5.48xlarge, ml.p5en.48xlarge |