Vorbereitung der Datensätze

Wählen Sie in der &Snowconsole; Ihren Auftrag aus der Tabelle. Titan, Cohere, und Llama text-to-textModelle, bereiten Sie einen Trainingsdatensatz und optional einen Validierungsdatensatz vor. Jedes JSON-Objekt ist ein Beispiel, das prompt sowohl ein completion UN-Feld enthält. Verwenden Sie 6 Zeichen pro Token als Näherungswert für die Anzahl der Token. Das Format ist wie folgt:

{"prompt": "<prompt1>", "completion": "<expected generated text>"}
{"prompt": "<prompt2>", "completion": "<expected generated text>"}
{"prompt": "<prompt3>", "completion": "<expected generated text>"}      

Das folgende Beispiel ist ein Element für eine Frage-Antwort-Aufgabe:

{"prompt": "what is AWS", "completion": "it's Amazon Web Services"}

Amazon Nova Modelle erwarten die Trainingsdaten in einer anderen JSON-Struktur. Diese Modelle verwenden eine Systemaufforderung zusammen mit "role": "user" "role": "assistant" Meldungen zur Feinabstimmung des Modells. Das Format ist wie folgt:

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a digital assistant with a friendly personality"
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What is the capital of Mars?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Mars does not have a capital. Perhaps it will one day."
        }
      ]
    }
  ]
}

Weitere Informationen finden Sie in den Anweisungen unter Richtlinien für die Vorbereitung Ihrer Daten für Amazon Nova.

Bereiten Sie für text-to-image image-to-embedding unsere Modelle einen Trainingsdatensatz vor. Validierungsdatensätze werden nicht unterstützt. Jedes JSON-Objekt ist ein Beispielimage-ref, das eine Amazon S3 S3-URI für ein Bild und eine, caption die eine Aufforderung für das Bild sein könnte, enthält.

Die Bilder müssen im JPEG- oder PNG-Format vorliegen.

{"image-ref": "s3://bucket/path/to/image001.png", "caption": "<prompt text>"}
{"image-ref": "s3://bucket/path/to/image002.png", "caption": "<prompt text>"}
{"image-ref": "s3://bucket/path/to/image003.png", "caption": "<prompt text>"}    

Im Folgenden wird ein Beispielelement gezeigt:

{"image-ref": "s3://amzn-s3-demo-bucket/my-pets/cat.png", "caption": "an orange cat with white spots"}

Um Amazon Bedrock Zugriff auf die Bilddateien zu gewähren, fügen Sie eine IAM-Richtlinie hinzu, die der Service-Rolle für die Amazon Bedrock-Modellanpassung ähnelt, die Sie eingerichtet haben oder die automatisch für Sie in der Konsole eingerichtet wurde. Berechtigungen für den Zugriff auf Schulungs- und Validierungsdateien sowie für das Schreiben von Ausgabedateien in S3 Die Amazon-S3-Pfade, die Sie im Trainingsdatensatz angeben, müssen sich in Ordnern befinden, die Sie in der Richtlinie angeben.

Um eine fortlaufende Vorschulung an einem text-to-text Modell durchzuführen, bereiten Sie einen Datensatz mit Schulung und optionaler Validierung vor. Da Continued Pre-Training Daten ohne Label beinhaltet, ist jede JSON-Zeile eine Stichprobe, die nur ein Feld enthält. input Verwenden Sie 6 Zeichen pro Token als Näherungswert für die Anzahl der Token. Das Format lautet wie folgt.

{"input": "<input text>"}
{"input": "<input text>"}
{"input": "<input text>"}

Das Folgende ist ein Beispielelement, das in den Trainingsdaten enthalten sein könnte.

{"input": "AWS stands for Amazon Web Services"}

Um ein text-to-text Modell mithilfe des Single-Turn-Messaging-Formats zu verfeinern, bereiten Sie einen Trainingsdatensatz und optional einen Validierungsdatensatz vor. Beide Datendateien müssen im JSONL-Format vorliegen. Jede Zeile gibt ein vollständiges Datenbeispiel im JSON-Format an; und jedes Datenbeispiel muss auf eine Zeile formatiert werden (entfernen Sie alle '\n' in jeder Stichprobe). Eine Zeile mit mehreren Datenstichproben oder die Aufteilung einer Datenprobe auf mehrere Zeilen funktionieren nicht.

Felder

Regeln

{"system": "<system message>","messages":[{"role": "user", "content": "<user query>"},{"role": "assistant", "content": "<expected generated text>"}]}

Beispiel

{"system": "You are an helpful assistant.","messages":[{"role": "user", "content": "what is AWS"},{"role": "assistant", "content": "it's Amazon Web Services."}]}

Um ein text-to-text Modell mithilfe des Multi-Turn-Messaging-Formats zu verfeinern, bereiten Sie einen Trainingsdatensatz und optional einen Validierungsdatensatz vor. Beide Datendateien müssen im JSONL-Format vorliegen. Jede Zeile gibt ein vollständiges Datenbeispiel im JSON-Format an; und jedes Datenbeispiel muss auf eine Zeile formatiert werden (entfernen Sie alle '\n' in jeder Stichprobe). Eine Zeile mit mehreren Datenstichproben oder die Aufteilung einer Datenprobe auf mehrere Zeilen funktionieren nicht.

Felder

Regeln

{"system": "<system message>","messages":[{"role": "user", "content": "<user query 1>"},{"role": "assistant", "content": "<expected generated text 1>"}, {"role": "user", "content": "<user query 2>"},{"role": "assistant", "content": "<expected generated text 2>"}]}

Beispiel

{"system": "system message","messages":[{"role": "user", "content": "Hello there."},{"role": "assistant", "content": "Hi, how can I help you?"},{"role": "user", "content": "what are LLMs?"},{"role": "assistant", "content": "LLM means large language model."},]}  

Informationen zur Vorbereitung von Trainings- und Validierungsdatensätzen für eine Modelldestillation finden Sie unterVoraussetzungen für Amazon Bedrock Model Distillation.

Einschränkungen bei Bild und Video