Vorbereitung der Datensätze

Bereiten Sie für text-to-text Modelle einen Datensatz mit Training und optionaler Validierung vor. Jedes JSON Objekt ist eine Stichprobe, die prompt sowohl ein completion UND-Feld enthält. Verwenden Sie 6 Zeichen pro Token als Näherungswert für die Anzahl der Token. Das Format lautet wie folgt.

{"prompt": "<prompt1>", "completion": "<expected generated text>"}
{"prompt": "<prompt2>", "completion": "<expected generated text>"}
{"prompt": "<prompt3>", "completion": "<expected generated text>"}      

Das folgende Beispiel ist ein Element für eine Frage-Antwort-Aufgabe:

{"prompt": "what is AWS", "completion": "it's Amazon Web Services"}

Bereiten Sie für text-to-image image-to-embedding unsere Modelle einen Trainingsdatensatz vor. Validierungsdatensätze werden nicht unterstützt. Jedes JSON Objekt ist ein Beispielimage-ref, das einen Amazon S3 URI für ein Bild und ein, caption das eine Aufforderung für das Bild sein könnte, enthält.

Die Bilder müssen im PNG Format JPEG OR vorliegen.

{"image-ref": "s3://bucket/path/to/image001.png", "caption": "<prompt text>"}
{"image-ref": "s3://bucket/path/to/image002.png", "caption": "<prompt text>"}
{"image-ref": "s3://bucket/path/to/image003.png", "caption": "<prompt text>"}    

Im Folgenden wird ein Beispielelement gezeigt:

{"image-ref": "s3://amzn-s3-demo-bucket/my-pets/cat.png", "caption": "an orange cat with white spots"}

Um Amazon Bedrock Zugriff auf die Bilddateien zu gewähren, fügen Sie eine IAM Richtlinie hinzu, die der Servicerolle Amazon Bedrock Model Customization ähnelt, die Sie eingerichtet haben oder die automatisch für Sie in der Konsole eingerichtet wurde. Berechtigungen für den Zugriff auf Schulungs- und Validierungsdateien sowie für das Schreiben von Ausgabedateien in S3 Die Amazon-S3-Pfade, die Sie im Trainingsdatensatz angeben, müssen sich in Ordnern befinden, die Sie in der Richtlinie angeben.

Um eine fortlaufende Vorschulung an einem text-to-text Modell durchzuführen, bereiten Sie einen Datensatz mit Schulung und optionaler Validierung vor. Da Continued Pre-Training Daten ohne Bezeichnung beinhaltet, ist jede JSON Zeile eine Stichprobe, die nur ein Feld enthält. input Verwenden Sie 6 Zeichen pro Token als Näherungswert für die Anzahl der Token. Das Format lautet wie folgt.

{"input": "<input text>"}
{"input": "<input text>"}
{"input": "<input text>"}

Das Folgende ist ein Beispielelement, das in den Trainingsdaten enthalten sein könnte.

{"input": "AWS stands for Amazon Web Services"}

Um ein text-to-text Modell mithilfe des Single-Turn-Messaging-Formats zu optimieren, bereiten Sie einen Trainingsdatensatz und optional einen Validierungsdatensatz vor. Beide Datendateien müssen das Format haben. JSONL Jede Zeile gibt ein vollständiges Datenbeispiel im JSON-Format an; und jedes Datenbeispiel muss auf eine Zeile formatiert werden (entfernen Sie alle '\n' in jeder Stichprobe). Eine Zeile mit mehreren Datenstichproben oder die Aufteilung einer Datenprobe auf mehrere Zeilen funktionieren nicht.

Felder

Regeln

{"system": "<system message>","messages":[{"role": "user", "content": "<user query>"},{"role": "assistant", "content": "<expected generated text>"}]}

Beispiel

{"system": "You are an helpful assistant.","messages":[{"role": "user", "content": "what is AWS"},{"role": "assistant", "content": "it's Amazon Web Services."}]}

Um ein text-to-text Modell mithilfe des Multi-Turn-Messaging-Formats zu optimieren, bereiten Sie einen Trainingsdatensatz und optional einen Validierungsdatensatz vor. Beide Datendateien müssen das Format haben. JSONL Jede Zeile gibt ein vollständiges Datenbeispiel im JSON-Format an; und jedes Datenbeispiel muss auf eine Zeile formatiert werden (entfernen Sie alle '\n' in jeder Stichprobe). Eine Zeile mit mehreren Datenstichproben oder die Aufteilung einer Datenprobe auf mehrere Zeilen funktionieren nicht.

Felder

Regeln

{"system": "<system message>","messages":[{"role": "user", "content": "<user query 1>"},{"role": "assistant", "content": "<expected generated text 1>"}, {"role": "user", "content": "<user query 2>"},{"role": "assistant", "content": "<expected generated text 2>"}]}

Beispiel

{"system": "system message","messages":[{"role": "user", "content": "Hello there."},{"role": "assistant", "content": "Hi, how can I help you?"},{"role": "user", "content": "what are LLMs?"},{"role": "assistant", "content": "LLM means large language model."},]}