View a markdown version of this page

SFT - Amazon SageMaker AI
Quand l’utiliserCe qu'il réaliseFormat du jeu de donnéesHyperparamètres

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

SFT

Supervised Fine-Tuning entraîne un modèle sur des paires d'entrées-sorties étiquetées afin d'aligner son comportement sur des exemples spécifiques. Le modèle apprend à produire des réponses qui correspondent à vos données d'entraînement.

Quand l’utiliser

  • Vous disposez de paires de réponses rapides de haute qualité pour votre tâche cible

  • Vous souhaitez que le modèle apprenne un style, un format ou une connaissance de domaine spécifique

  • Vous avez besoin d'un comportement cohérent sur des tâches bien définies (résumé, classification, questions-réponses)

Ce qu'il réalise

Le modèle apprend à imiter les modèles de vos exemples d'entraînement, en produisant des résultats qui correspondent au style, au format et au contenu de vos données étiquetées.

Format du jeu de données

SFT prend en charge deux formats de jeu de données. Tous les ensembles de données doivent être au format JSONL (un objet JSON par ligne). Un system message est facultatif dans les deux formats.

Format 1 : messages

Représentez la conversation sous la forme d'une liste de messages associés à un rôle. S'il est inclus, le system message doit être le premier élément.

{
  "messages": [
    {"role": "system", "content": "..."},
    {"role": "user", "content": "..."},
    {"role": "assistant", "content": "..."}
  ]
}

Format 2 : prompt/complétion

Fournissez l'entrée et la sortie attendue dans des champs distincts, avec un system champ de niveau supérieur facultatif.

{
  "system": "...",
  "prompt": "...",
  "completion": "..."
}
Note

Le system message est facultatif. Garantissez la diversité des invites et des styles de réponse.

Hyperparamètres

Note

Les tableaux ci-dessous présentent les hyperparamètres disponibles lorsque vous utilisez la personnalisation des modèles sans serveur. Les autres hyperparamètres sont prédéfinis par Amazon SageMaker AI à l'aide de valeurs par défaut optimisées. Lorsque vous utilisez SageMaker AI Training Jobs ou HyperPod, vous pouvez accéder à la liste complète des hyperparamètres disponibles dans les recettes. Consultez le référentiel SageMaker AI Recipes pour obtenir une recette et accéder à tous les hyperparamètres.

ST LoRa

Paramètre Type Obligatoire ? Plage/Valeurs Description
max_epochsintegerObligatoire1–100Nombre de passages complets dans l'ensemble de données d'entraînement.
global_batch_sizeentierObligatoire8, 16, 32, 64, 128, 256, 512 et 1024Nombre total d'échantillons traités par étape de l'optimiseur sur toutes les instances.
learning_ratefloatObligatoire5e-07—1e-04Taille du pas pour les mises à jour du poids lors de l'optimisation.
lr_schedulerchaîneObligatoirecosinus, constanteCalendrier de baisse du taux d'apprentissage au fil de l'entraînement.
lr_warmup_steps_ratiofloatObligatoire0—1Fraction du nombre total d'étapes passées à augmenter le taux d'apprentissage à partir de 0.
weight_decayfloatObligatoire0.0-1.0Coefficient de régularisation L2. Aide à prévenir le surajustement.
gradient_clippingbooleanObligatoiretrue, falseRéduisez les gradients si la norme dépasse le seuil.
gradient_clipping_thresholdfloatObligatoire0,0-5,0Norme de pente maximale autorisée.
dataset_max_lenentierObligatoire256—131072Longueur de séquence maximale en jetons. Les séquences plus longues sont tronquées.
seedentierObligatoire0–2147483647Semence aléatoire pour la reproductibilité.
logging_stepsentierObligatoire1–100Fréquence d'enregistrement des métriques dans les étapes de l'optimiseur.
lora_rankentierObligatoire8, 16, 32, 64 et 128Dimensionnalité des matrices de bas rang. Inférieur = moins de paramètres pouvant être entraînés.
lora_dropoutfloatObligatoire0.0-1.0Probabilité d'abandon pour les couches LoRA adaptatrices.
lora_alphaentierObligatoire16, 32, 64, 128 et 256LoRAfacteur d'échelle. Le LR efficace s'échelonne comme suit alpha/rank :
merge_weightsbooleanObligatoiretrue, falseFusionnez LoRA les poids dans le modèle de base après l'entraînement.
train_val_split_ratiofloatFacultatif0.0-1.0Fraction allouée à la formation par rapport à la validation.
temperaturefloatObligatoire0,0-2,0Température d'échantillonnage pour évaluation.

PIEDS DOUX

Paramètre Type Obligatoire ? Plage/Valeurs Description
max_epochsintegerObligatoire1–100Nombre de passages complets dans l'ensemble de données d'entraînement.
global_batch_sizeentierObligatoire8, 16, 32, 64, 128, 256, 512 et 1024Nombre total d'échantillons traités par étape de l'optimiseur.
learning_ratefloatObligatoire5e-07—1e-04Taille du pas pour les mises à jour du poids.
lr_schedulerchaîneObligatoirecosinus, constanteCalendrier de décroissance du taux d'apprentissage.
lr_warmup_steps_ratiofloatObligatoire0—1Fraction d'étapes pour l'échauffement du LR.
weight_decayfloatObligatoire0.0-1.0Coefficient de régularisation L2.
gradient_clippingbooleanObligatoiretrue, falseRéduisez les gradients si la norme dépasse le seuil.
gradient_clipping_thresholdfloatObligatoire0,0-5,0Norme de pente maximale autorisée.
dataset_max_lenentierObligatoire256—131072Longueur de séquence maximale en jetons.
max_response_lengthentierObligatoire100 à 200 000Nombre maximum de jetons pour la réponse générée.
seedentierObligatoire0–2147483647Semence aléatoire pour la reproductibilité.
logging_stepsentierObligatoire1–100Fréquence de l'enregistrement métrique.
train_val_split_ratiofloatFacultatif0.0-1.0Fraction allouée à la formation par rapport à la validation.
temperaturefloatObligatoire0,0-2,0Température d'échantillonnage pour évaluation.