View a markdown version of this page

Fine-tune 带有增强微调功能的亚马逊 Nova 模型 - Amazon Bedrock

本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。

Fine-tune 带有增强微调功能的亚马逊 Nova 模型

在进行微调之前,请确保您具备先决条件,因为 Amazon Bedrock 需要特定的权限才能创建和管理微调流程。有关全面的安全和权限信息,请参阅Amazon Nova 机型的访问和安全

通过 5 个步骤对亚马逊 Nova 模型进行增强微调:

  1. 提供训练数据集 — 以所需格式(例如 JSONL)上传提示作为强化微调训练数据集。有关更多信息,请参阅 为亚马逊 Nova 模型准备数据

  2. 配置奖励函数(评分器)-定义一个评分者,根据正确性、结构、语气或其他目标对模型答复进行评分。可以使用 Lambda 执行奖励函数来计算目标分数。您还可以选择模型作为判断(通过控制台),并根据您配置的标准和原则对响应进行评分(控制台会自动将其转换为 Lambda 函数)。有关更多信息,请参阅 为亚马逊 Nova 模型设置奖励功能

  3. 提交加固微调任务 -通过指定基础模型、数据集、奖励函数和其他可选设置(例如超参数)来启动加固微调作业。有关更多信息,请参阅 为 Amazon Nova 机型创建和管理微调任务

  4. 监控培训 -跟踪任务状态、奖励指标和培训进度,直至完成。有关更多信息,请参阅 监控您的 RFT 训练作业

  5. 使用 Fine-Tuned 模型 — 任务完成后,一键部署生成的 RFT 模型进行按需推理。您还可以将预置吞吐量用于需要稳定性能的关键任务工作负载。请参阅为自定义模型设置推理。使用 Playgroun d 中的测试来评估响应并将其与基本模型进行比较。

重要

您最多可以向 Amazon Bedrock 提供 2 万条提示,用于对模型进行加固微调。

支持的 Nova 型号

下表显示了您可以通过增强微调自定义的 Amazon Nova 模型:

注意

有关其他支持型号(包括开放式权重模型)的信息,请参阅Fine-tune 使用开放式权重模型 OpenAI-兼容的 API

支持增强微调的模型
Provider 模型 模型 ID Single-region 模型支持
Amazon Nova 2 Lite amazon.nova-2-lite-v1:0:256k us-east-1