View a markdown version of this page

Personnalisation des modèles Amazon Nova sur l'IA SageMaker - Amazon Nova

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Personnalisation des modèles Amazon Nova sur l'IA SageMaker

Vous pouvez personnaliser les modèles Amazon Nova, y compris les modèles Amazon Nova 2.0 améliorés, à l'aide de recettes et les entraîner SageMaker. Ces recettes prennent en charge des techniques telles que le réglage fin supervisé (SFT) et le renforcement Fine-Tuning (RFT), avec des options d'adaptation de rang complet et de rang inférieur (LoRa).

Le flux de travail de personnalisation de bout en bout implique des étapes telles que l’entraînement des modèles, l’évaluation des modèles et le déploiement à des fins d’inférence. Cette approche de personnalisation des modèles SageMaker offre une flexibilité et un contrôle accrus pour affiner les modèles Amazon Nova pris en charge, optimiser les hyperparamètres avec précision et mettre en œuvre des techniques telles que le réglage précis des paramètres LoRa (PEFT), le SFT complet, le RFT et le Continued (CPT). Pre-Training

Approches de personnalisation

SageMaker propose deux approches pour personnaliser les modèles Amazon Nova :

UI-based expérience — À utiliser pour personnaliser les modèles Amazon Nova via une interface simple et guidée. Cette approche fournit un flux de travail de bout en bout comprenant la formation, l'évaluation et le déploiement sans écrire de code. Cette UI-based expérience est idéale pour les expérimentations rapides, le développement de preuves de concept et les utilisateurs qui préfèrent un flux de travail visuel.

Code-based expérience — Utilisez le SDK SageMaker Python, le SDK Nova et les recettes de formation pour personnaliser les modèles par programmation. Cette approche offre une plus grande flexibilité, vous permettant de configurer des hyperparamètres avancés, de les intégrer à des CI/CD pipelines et d'automatiser les flux de formation. L'expérience basée sur le code est recommandée pour les charges de travail de production, les exigences de personnalisation complexes et les équipes ayant des pratiques MLOPS établies.

Approche Idéal pour Principaux avantages
UI-based Expérimentation, prototypage, itérations rapides Configuration simple, flux de travail guidé, aucun codage requis
Code-based Production, automatisation, configurations avancées Flexibilité totale, intégration du pipeline, contrôle des versions

Plateformes de personnalisation

AWS propose trois plateformes pour personnaliser les modèles Amazon Nova, chacune étant conçue pour différents cas d'utilisation et exigences :

Amazon Bedrock — Fournit le moyen le plus simple et le plus rapide de personnaliser un modèle avec une configuration minimale. Bedrock gère automatiquement toute la gestion de l'infrastructure, ce qui vous permet de vous concentrer sur vos données et votre cas d'utilisation. Cette plateforme est idéale lorsque vous avez besoin de rentabiliser le plus rapidement possible et que vous préférez une expérience entièrement gérée.

SageMaker tâches de formation : fournit un environnement entièrement géré pour personnaliser les modèles Amazon Nova, dans lequel vous n'avez pas besoin de créer ou de gérer des clusters. Le service gère automatiquement le provisionnement, le dimensionnement et la gestion des ressources de l'infrastructure, ce qui vous permet de vous concentrer sur la configuration de vos paramètres de formation et la soumission de votre travail. Cette plate-forme offre un équilibre entre facilité d'utilisation et flexibilité, en prenant en charge des techniques telles que Parameter Efficient Fine-tuning (PEFT), le réglage précis du classement complet et le renforcement Fine-Tuning (RFT).

SageMaker HyperPod— Offre un environnement spécialisé pour la formation distribuée à grande échelle en vous demandant de créer et de gérer des clusters EKS avec des groupes d'instances restreints (RIG). Cette plate-forme vous offre une flexibilité maximale pour configurer votre environnement de formation avec des instances GPU spécialisées et un stockage intégré Amazon FSx for Lustre, ce qui la rend particulièrement adaptée aux scénarios de formation distribuée avancés, au développement continu de modèles et aux charges de travail de personnalisation à l'échelle de l'entreprise.

Plateforme Complexité Flexibilité Idéal pour
Amazon Bedrock Le plus faible Standard Personnalisation la plus rapide, configuration minimale
SageMaker emplois de formation Medium Élevée Flexibilité et facilité d'utilisation équilibrées
SageMaker HyperPod Le plus élevé Maximum Formation distribuée de grande envergure, charges de travail d'entreprise
Note

Si vous fournissez une clé KMS à votre tâche de formation à la personnalisation du modèle Amazon Nova pour le chiffrement dans le compartiment S3 Amazon-owned de sortie :

  • Vous devez fournir la même clé KMS lorsque vous appelez des tâches de formation itératives ultérieures ou lorsque vous appelez l' CreateCustomModel API Amazon Bedrock en utilisant le modèle chiffré.

  • L'identité qui appelle l'CreateTrainingJobAPI (plutôt que le rôle d'exécution) doit disposer des autorisations nécessaires pourCreateGrant, RetireGrantEncrypt, et GenerateDataKey telles que définies dans la politique des clés KMS.