Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Fine-tune Nouveau 1.0

Conditions préalables

Avant de commencer une tâche d’entraînement, notez les éléments suivants.

Préparation des données

La préparation de données de haute qualité correctement formatées est une première étape essentielle du processus de peaufinage des grands modèles de langage. Que vous utilisiez un réglage fin supervisé complet (SFT) ou une adaptation de bas rang (LoRa), vos données doivent respecter des exigences de format spécifiques. Ces exigences garantissent la réussite de la formation des modèles. Cette section décrit les formats de données, les méthodes de validation et les bonnes pratiques nécessaires pour vous aider à préparer efficacement vos jeux de données afin d’optimiser les modèles Amazon Nova.

Full-rank Configurations PEFT SFT et LoRa

Cette section fournit des conseils sur les configurations de formules pour les approches de peaufinage supervisé (SFT) de rang complet et de peaufinage efficace des paramètres d’adaptation de rang inférieur (LoRA PEFT). Ces fichiers de formules servent de plan pour les tâches de personnalisation de votre modèle, vous permettant de spécifier des paramètres d’entraînement, des hyperparamètres et d’autres paramètres critiques qui déterminent la manière dont votre modèle apprend à partir de vos données. Pour ajuster les hyperparamètres, suivez les instructions de la section Sélection des hyperparamètres.

Fine-tuning configurations (Full-rank SFT et LoRa PEFT)

La seule différence entre le SFT de rang complet et le PEFT LoRa en termes de recette est la configuration LoRa PEFT, qui est définie sur « null » pour le rang complet et définie sur les valeurs appropriées si vous utilisez le réglage LoRa. PEFT-based Des exemples de recettes sont disponibles dans le GitHub référentiel de SageMaker HyperPod recettes. Les tableaux suivants présentent des configurations détaillées qui pourraient vous être utiles.

À propos de la configuration « run ».

À propos de la configuration « training_config ».

Exécution d'un modèle Nova personnalisé sur SageMaker Training Jobs

Cette section explique comment exécuter un modèle Nova personnalisé sur SageMaker Training Jobs via un environnement de bloc-notes Jupyter. Vous trouverez un exemple complet expliquant le processus de configuration et de lancement d’une tâche d’entraînement, ainsi que des tableaux de référence permettant de sélectionner les URI d’image de conteneur et les configurations d’instance appropriés. Cette approche vous permet de contrôler par programmation vos flux de travail tout en tirant parti de l'infrastructure gérée par l' SageMaker IA pour la personnalisation des modèles. Pour plus d'informations, voir Utiliser un estimateur SageMaker IA pour exécuter une tâche de formation.

Tableaux de référence

Avant d’exécuter l’exemple de bloc-notes, reportez-vous aux tableaux suivants pour sélectionner les URI d’image de conteneur et les configurations d’instance appropriés.

Sélection de l’URI d’image

Sélection du type et du nombre d’instances

Exemple de bloc-notes

L’exemple de bloc-notes suivant montre comment exécuter une tâche d’entraînement. Pour d'autres carnets de démarrage sur la façon de personnaliser les modèles Nova à l'aide de SageMaker Training Jobs, voir Utiliser un estimateur SageMaker IA pour exécuter un job de formation.

# 1. Install dependencies

!pip install sagemaker==2.254.1

# 2. Import dependencies and initialize sagemaker session

import sagemaker,boto3

sm = boto3.client('sagemaker', region_name='us-east-1')
sagemaker_session = sagemaker.session.Session(boto_session=boto3.session.Session(), sagemaker_client=sm)

# 3. Configure your job
# Define the core configuration for launching a SageMaker Training Job. This includes input/output S3 URIs, container image, hardware setup, and other runtime parameters. Update the placeholders below before submitting the job.

job_name = "<Your Job Name>"

input_s3_uri = "<S3 path to input data>"
validation_s3_uri = "<S3 path to validation data>" # optional, leave blank if no validation data

output_s3_uri = "<S3 path to output location>"

image_uri = "<Image URI from documentation>" # use the SFT image
instance_type = "ml.p5.48xlarge" # do not change
instance_count = <Integer number of hosts> # change hosts as needed. Refer to documentation for allowed values based on model type.
role_arn = "<IAM Role you want to use to run the job>"
recipe_path = "<Local path to the recipe file>"
output_kms_key = "<KMS key arn to encrypt trained model in Amazon-owned S3 bucket>" # optional, leave blank for Amazon managed encryption

# 4. Launch SageMaker Training Job
# This block sets up and runs the SageMaker training job using the PyTorch estimator. It configures the training image, hardware, input channels, and TensorBoard integration. Validation data is included if provided.

from sagemaker.debugger import TensorBoardOutputConfig
from sagemaker.pytorch import PyTorch
from sagemaker.inputs import TrainingInput

tensorboard_output_config = TensorBoardOutputConfig(
    s3_output_path=output_s3_uri,
)

estimator = PyTorch(
    output_path=output_s3_uri,
    base_job_name=job_name,
    role=role_arn,
    instance_count=instance_count,
    instance_type=instance_type,
    training_recipe=recipe_path,
    sagemaker_session=sagemaker_session,
    image_uri=image_uri,
    tensorboard_output_config=tensorboard_output_config, # Add the setting for using TensorBoard.
    disable_profiler=True,
    debugger_hook_config=False,
    output_kms_key=output_kms_key
)

trainingInput = TrainingInput(
    s3_data=input_s3_uri,
    distribution='FullyReplicated',
    s3_data_type='Converse'
)

if (validation_s3_uri):
    validationInput = TrainingInput(
        s3_data=validation_s3_uri,
        distribution='FullyReplicated',
        s3_data_type='Converse'
    )

    estimator.fit(inputs={"train": trainingInput, "validation": validationInput}) # inputs must be called "train" and "validation", do not change
else:
    estimator.fit(inputs={"train": trainingInput})

Conseils d’optimisation des hyperparamètres

Fine-tuning votre modèle Nova LLM nécessite une sélection rigoureuse des hyperparamètres. Bien que cette section explique la structure et les composants de base de la formule, l’optimisation des hyperparamètres pour votre cas d’utilisation spécifique nécessite souvent des conseils supplémentaires. Pour des recommandations complètes sur la sélection des hyperparamètres, les bonnes pratiques et les stratégies d’optimisation, consultez Sélection des hyperparamètres. Cette ressource fournit des conseils détaillés sur la sélection des taux d’apprentissage, des tailles de lots, des époques d’apprentissage et d’autres paramètres critiques appropriés en fonction des caractéristiques de votre jeu de données et des objectifs d’entraînement. Nous vous recommandons de consulter ce guide lorsque vous optimisez la configuration de votre formule afin d’obtenir des performances de modèle optimales.

Pour plus de détails sur les valeurs minimales, maximales et par défaut pour les époques, le taux d’apprentissage et les étapes de préparation de l’apprentissage, consultez Hyperparamètres pour la compréhension des modèles.

Modifications courantes de formules

Voici quelques ajustements de formules courants en fonction de cas d’utilisation spécifiques :