View a markdown version of this page

Fine-tune Modelos Amazon Nova com ajuste fino de reforço - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Fine-tune Modelos Amazon Nova com ajuste fino de reforço

Antes do ajuste fino, certifique-se de ter os pré-requisitos, pois o Amazon Bedrock precisa de permissões específicas para criar e gerenciar o processo de ajuste fino. Para obter informações abrangentes sobre segurança e permissões, consulteAcesso e segurança para modelos Amazon Nova.

Execute o ajuste fino do reforço para os modelos Amazon Nova em 5 etapas:

  1. Fornecer conjunto de dados de treinamento — Faça upload de solicitações no formato exigido (por exemplo, JSONL) como o conjunto de dados de treinamento de ajuste fino de reforço. Para obter mais informações, consulte Prepare dados para os modelos Amazon Nova.

  2. Configurar a função de recompensa (avaliador) — Defina um avaliador para pontuar as respostas do modelo com base na correção, estrutura, tom ou outros objetivos. A função de recompensa pode ser executada usando o Lambda para calcular pontuações objetivas. Você também pode escolher um modelo como juiz (via console) e avaliar as respostas com base nos critérios e princípios que você configura (o console os converte automaticamente em funções do Lambda). Para obter mais informações, consulte Configurando funções de recompensa para modelos Amazon Nova.

  3. Enviar tarefa de ajuste fino de reforço — Inicie a tarefa de ajuste fino de reforço especificando o modelo básico, o conjunto de dados, a função de recompensa e outras configurações opcionais, como hiperparâmetros. Para obter mais informações, consulte Crie e gerencie trabalhos de ajuste fino para modelos Amazon Nova.

  4. Monitore o treinamento — Acompanhe o status do trabalho, as métricas de recompensa e o progresso do treinamento até a conclusão. Para obter mais informações, consulte Monitore seu trabalho de treinamento em RFT.

  5. Fine-Tuned Modelo de uso — Após a conclusão do trabalho, implante o modelo RFT resultante com um clique para inferência sob demanda. Você também pode usar a taxa de transferência provisionada para cargas de trabalho essenciais que exigem desempenho consistente. Consulte Configurar a inferência para um modelo personalizado. Use Test in Playground para avaliar e comparar as respostas com o modelo básico.

Importante

Você pode fornecer no máximo 20.000 solicitações ao Amazon Bedrock para o ajuste fino de reforço do modelo.

Modelos Nova suportados

A tabela a seguir mostra os modelos Amazon Nova que você pode personalizar com o ajuste fino do reforço:

nota

Para obter informações sobre outros modelos compatíveis, incluindo modelos de peso aberto, consulteFine-tune modelos de peso aberto usando OpenAI-APIs compatíveis.

Modelos compatíveis para ajuste fino de reforços
Fornecedor Modelo ID do modelo Single-region suporte de modelo
Amazon Nova 2 Lite amazon.nova-2-lite-v1:0:256k us-east-1