View a markdown version of this page

Personnalisation des modèles Amazon Nova sur l'IA SageMaker - Amazon Nova

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Personnalisation des modèles Amazon Nova sur l'IA SageMaker

Vous pouvez personnaliser les modèles Amazon Nova, y compris les modèles Amazon Nova 2.0 améliorés, à l'aide de recettes et les entraîner SageMaker. Ces recettes prennent en charge des techniques telles que le réglage fin supervisé (SFT) et le réglage fin par renforcement (RFT), avec des options d'adaptation de rang complet et de rang inférieur (LoRa).

Le flux end-to-end de travail de personnalisation implique des étapes telles que la formation des modèles, l'évaluation des modèles et le déploiement à des fins d'inférence. Cette approche de personnalisation des modèles SageMaker offre une flexibilité et un contrôle accrus pour affiner les modèles Amazon Nova pris en charge, optimiser les hyperparamètres avec précision et mettre en œuvre des techniques telles que le réglage précis des paramètres LoRa (PEFT), le SFT complet, le RFT et le pré-entraînement continu (CPT).

Approches de personnalisation

SageMaker propose deux approches pour personnaliser les modèles Amazon Nova :

Expérience basée sur l'interface utilisateur : à utiliser pour personnaliser les modèles Amazon Nova via une interface guidée simple. Cette approche fournit un end-to-end flux de travail incluant la formation, l'évaluation et le déploiement sans écrire de code. L'expérience basée sur l'interface utilisateur est idéale pour l'expérimentation rapide, proof-of-concept le développement et pour les utilisateurs qui préfèrent un flux de travail visuel.

Expérience basée sur le code — Utilisez le SDK SageMaker Python, le SDK Nova et les recettes de formation pour personnaliser les modèles par programmation. Cette approche offre une plus grande flexibilité, vous permettant de configurer des hyperparamètres avancés, de les intégrer à des CI/CD pipelines et d'automatiser les flux de formation. L'expérience basée sur le code est recommandée pour les charges de travail de production, les exigences de personnalisation complexes et les équipes ayant des pratiques établies. MLOps

Approche Idéal pour Principaux avantages
Basé sur l'interface utilisateur Expérimentation, prototypage, itérations rapides Configuration simple, flux de travail guidé, aucun codage requis
Basé sur le code Production, automatisation, configurations avancées Flexibilité totale, intégration du pipeline, contrôle des versions

Plateformes de personnalisation

AWS propose trois plateformes pour personnaliser les modèles Amazon Nova, chacune étant conçue pour différents cas d'utilisation et exigences :

Amazon Bedrock — Fournit le moyen le plus simple et le plus rapide de personnaliser un modèle avec une configuration minimale. Bedrock gère automatiquement toute la gestion de l'infrastructure, ce qui vous permet de vous concentrer sur vos données et votre cas d'utilisation. Cette plateforme est idéale lorsque vous avez besoin de la solution la plus rapide time-to-value et que vous préférez une expérience entièrement gérée.

SageMaker tâches de formation : fournit un environnement entièrement géré pour personnaliser les modèles Amazon Nova, dans lequel vous n'avez pas besoin de créer ou de gérer des clusters. Le service gère automatiquement le provisionnement, le dimensionnement et la gestion des ressources de l'infrastructure, ce qui vous permet de vous concentrer sur la configuration de vos paramètres de formation et sur la soumission de votre travail. Cette plate-forme offre un équilibre entre facilité d'utilisation et flexibilité, en prenant en charge des techniques telles que le réglage fin efficace des paramètres (PEFT), le réglage fin du classement complet et le réglage fin du renforcement (RFT).

SageMaker HyperPod— Offre un environnement spécialisé pour la formation distribuée à grande échelle en vous demandant de créer et de gérer des clusters EKS avec des groupes d'instances restreints (RIGs). Cette plate-forme vous offre une flexibilité maximale dans la configuration de votre environnement de formation avec des instances GPU spécialisées et un stockage Amazon FSx for Lustre intégré, ce qui la rend particulièrement adaptée aux scénarios de formation distribuée avancés, au développement continu de modèles et aux charges de travail de personnalisation à l'échelle de l'entreprise.

Plateforme Complexité Flexibilité Idéal pour
Amazon Bedrock Le plus faible Standard Personnalisation la plus rapide, configuration minimale
SageMaker emplois de formation Medium Élevée Flexibilité et facilité d'utilisation équilibrées
SageMaker HyperPod Le plus élevé Maximum Formation distribuée de grande envergure, charges de travail d'entreprise
Note

Si vous fournissez une clé KMS à votre tâche de formation à la personnalisation du modèle Amazon Nova pour le chiffrement dans le compartiment de sortie S3 appartenant à Amazon :

  • Vous devez fournir la même clé KMS lorsque vous appelez des tâches de formation itératives ultérieures ou lorsque vous appelez l' CreateCustomModel API Amazon Bedrock en utilisant le modèle chiffré.

  • L'identité qui appelle l'CreateTrainingJobAPI (plutôt que le rôle d'exécution) doit disposer des autorisations nécessaires pourCreateGrant, RetireGrantEncrypt, et GenerateDataKey telles que définies dans la politique des clés KMS.