Personalização de modelos do Amazon Nova no SageMaker AI

Você pode personalizar os modelos do Amazon Nova, incluindo os modelos aprimorados do Amazon Nova 2.0, por meio de fórmulas, e treiná-los no SageMaker. Essas fórmulas permitem técnicas como ajuste fino supervisionado (SFT) e ajuste fino por reforço (RFT), com opções de adaptação de full-rank e de baixa classificação (LoRA).

O fluxo de trabalho completo de personalização envolve etapas como treinamento de modelo, avaliação de modelo e implantação para inferência. Essa abordagem de personalização de modelos no SageMaker oferece maior flexibilidade e controle para ajustar modelos do Amazon Nova compatíveis, otimizar hiperparâmetros com precisão e implementar técnicas como LoRA, ajuste fino com eficiência de parâmetros (PEFT), SFT de full-rank, RFT e pré-treinamento contínuo (CPT).

Abordagens de personalização

O SageMaker oferece duas abordagens para personalizar os modelos do Amazon Nova:

Experiência baseada em interface de usuário: use para personalizar modelos do Amazon Nova por meio de uma interface simples e guiada. Essa abordagem fornece um fluxo de trabalho completo, incluindo treinamento, avaliação e implantação sem escrever código. A experiência baseada em interface de usuário é ideal para experimentação rápida, desenvolvimento de prova de conceito e usuários que preferem um fluxo de trabalho visual.

Experiência baseada em código: use o SageMaker Python SDK, o Nova SDK e as fórmulas de treinamento para personalizar modelos de forma programática. Essa abordagem oferece maior flexibilidade, permitindo que você configure hiperparâmetros avançados, integre-se aos pipelines de CI/CD e automatize os fluxos de trabalho de treinamento. A experiência baseada em código é recomendada para workloads de produção, requisitos complexos de personalização e equipes com práticas estabelecidas de MLOps.

Plataformas de personalização

A AWS oferece três plataformas para personalizar os modelos do Amazon Nova, cada uma projetada para diferentes casos de uso e requisitos:

Amazon Bedrock: fornece o caminho mais fácil e rápido para a personalização de modelos com configuração mínima. O Bedrock lida com todo o gerenciamento da infraestrutura automaticamente, permitindo que você se concentre em seus dados e casos de uso. Essa plataforma é ideal quando você precisa do menor tempo de retorno do investimento e prefere uma experiência totalmente gerenciada.

Tarefas de treinamento do SageMaker: oferecem um ambiente totalmente gerenciado para personalizar modelos do Amazon Nova, em que você não precisa criar nem manter nenhum cluster. O serviço gerencia automaticamente todo o provisionamento, a escalabilidade e o gerenciamento de recursos de infraestrutura, permitindo que você se concentre na configuração dos parâmetros de treinamento e no envio da tarefa. Essa plataforma oferece um equilíbrio entre facilidade de uso e flexibilidade, compatível com técnicas como ajuste fino com eficiência de parâmetros (PEFT), ajuste fino de full-rank e ajuste fino por reforço (RFT).

SageMaker HyperPod: oferece um ambiente especializado para treinamento distribuído em larga escala, exigindo que você crie e gerencie clusters do EKS com grupos de instâncias restritas (RIGs). Essa plataforma oferece máxima flexibilidade na configuração do ambiente de treinamento com instâncias de GPU especializadas e armazenamento integrado do Amazon FSx para Lustre, o que a torna particularmente adequada para cenários avançados de treinamento distribuído, desenvolvimento contínuo de modelos e workloads de personalização em nível empresarial.