Personalización de los modelos de Amazon Nova en SageMaker AI

Puede personalizar los modelos de Amazon Nova, lo que incluye los modelos mejorados de Amazon Nova 2.0, mediante fórmulas y entrenarlos en SageMaker. Estas fórmulas admiten técnicas como el refinamiento supervisado (SFT) y el refinamiento por refuerzo (RFT) con opciones de adaptación de rango completo y de bajo rango (LoRA).

El flujo de trabajo de personalización integral incluye etapas como el entrenamiento del modelo, la evaluación del modelo y la implementación para inferencia. Este enfoque de personalización de modelos en SageMaker proporciona una mayor flexibilidad y control para refinar los modelos de Amazon Nova compatibles, optimizar los hiperparámetros con precisión e implementar técnicas como el refinamiento eficiente de parámetros (PEFT) de LoRA, el SFT de rango completo, el RFT y el entrenamiento previo continuo (CPT).

Enfoques de personalización

SageMaker ofrece dos enfoques para personalizar los modelos de Amazon Nova:

Experiencia basada en la interfaz de usuario: utilícela para personalizar los modelos de Amazon Nova a través de una interfaz sencilla y guiada. Este enfoque proporciona un flujo de trabajo integral que incluye entrenamiento, evaluación e implementación sin escribir código. La experiencia basada en la interfaz de usuario es ideal para la experimentación rápida, el desarrollo de pruebas de concepto y para los usuarios que prefieren un flujo de trabajo visual.

Experiencia basada en código: utilice el SDK de Python de SageMaker, el SDK de Nova y las fórmulas de entrenamiento para personalizar los modelos mediante programación. Este enfoque ofrece una mayor flexibilidad, ya que le permite configurar hiperparámetros avanzados, integrarlos con las canalizaciones de CI/CD y automatizar los flujos de trabajo de entrenamiento. La experiencia basada en código se recomienda para las cargas de trabajo de producción, los requisitos de personalización complejos y los equipos con prácticas de MLOP establecidas.

Plataformas de personalización

AWS ofrece tres plataformas para personalizar los modelos de Amazon Nova, cada una diseñada para diferentes casos de uso y requisitos:

Amazon Bedrock: proporciona la forma más fácil y rápida de personalizar modelos con una configuración mínima. Bedrock gestiona toda la administración de la infraestructura de forma automática, lo que le permite centrarse en sus datos y en su caso de uso. Esta plataforma es ideal cuando necesita rentabilizar su inversión lo más rápidamente posible y prefiere una experiencia completamente administrada.

Trabajos de entrenamiento de SageMaker: proporciona un entorno completamente administrado para personalizar los modelos de Amazon Nova en el que no es necesario crear ni mantener ningún clúster. El servicio gestiona automáticamente todo el aprovisionamiento, el escalado y la administración de recursos de la infraestructura, lo que le permite centrarse en configurar los parámetros de entrenamiento y enviar su trabajo. Esta plataforma ofrece un equilibrio entre facilidad de uso y flexibilidad, y admite técnicas como el refinamiento eficiente de parámetros (PEFT), el refinamiento de rango completo y el refinamiento por refuerzo (RFT).

SageMaker HyperPod: ofrece un entorno especializado para el entrenamiento distribuido a gran escala, ya que requiere que cree y administre clústeres de EKS con grupos de instancias restringidos (RIG). Esta entorno plataforma le ofrece flexibilidad para configurar su entorno de entrenamiento con instancias de GPU especializadas y almacenamiento de Amazon FSx para Lustre integrado, lo que lo hace especialmente adecuado para escenarios de entrenamiento distribuido avanzado, desarrollo continuo de modelos y cargas de trabajo de personalización empresariales.