Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Daten für SFT auf Amazon Nova 2 vorbereiten
SFT auf Amazon Nova 2 unterstützt das Verstehen von Text-, Bild-, Video- und Dokumenten sowie das Aufrufen von Tools, mit oder ohne Argumentationsunterstützung. Auf dieser Seite werden die Einschränkungen, unterstützten Formate und bewährten Methoden für die Vorbereitung von SFT-Trainingsdaten für Amazon Nova 2 Understanding-Modelle beschrieben.
Tipp
Informationen zur Validierung Ihres Datensatzformats, bevor Sie mit einem Trainingsjob beginnen, finden Sie unterTools zur Validierung.
Themen
Data format (Datenformat)
Amazon Nova 2 SFT-Daten verwenden dasselbe https://docs.aws.amazon.com/bedrock/latest/userguide/conversation-inference-call.html Converse-API-Format wie Amazon Nova 1, mit zusätzlichen optionalen Inhaltsfeldern zur Begründung.
Jede Zeile in Ihrer JSONL-Trainingsdatei ist ein JSON-Objekt mit den folgenden Feldern auf oberster Ebene. Erweitern Sie einen Abschnitt, um mehr zu erfahren:
Erforderlich Das messages Feld besteht aus einer Reihe von Nachrichtenobjekten, von denen jedes eine Wendung in der Konversation definiert. Ein Nachrichtenobjekt enthält die folgenden Felder:
-
Rolle — Erforderlich. Definiert, ob die Nachricht von
user(der an das Modell gesendeten Aufforderung) oderassistant(der Modellantwort) stammt. Der erste Zug muss seinuser, der letzte muss seinassistant, und die Züge müssen sich abwechseln. -
Inhalt — Erforderlich. Eine Reihe von Inhaltsblöcken für diesen Spielzug.
Das content Feld ist einer Reihe von Inhaltsblöcken zugeordnet. Amazon Nova 2 SFT-Daten unterstützen die folgenden Blöcke:
Ein optionales Array, das eine Systemaufforderung definiert — Anweisungen oder Kontext für das Modell in Bezug auf die Aufgabe, die es ausführen soll, oder die Persona, die es annehmen soll. Verwenden Sie beim Training und bei der Inferenz dieselbe Systemaufforderung, um optimale Ergebnisse zu erzielen.
"system": [ { "text": "You are a helpful assistant." } ]
Ein optionales Objekt, das die Tools definiert, die dem Modell zur Verfügung stehen, um es während der Konversation zu verwenden. Jedes Tool ist mit einem Namen, einer Beschreibung und einem JSON-Schema für seine Eingabeparameter definiert.
"toolConfig": { "tools": [ { "toolSpec": { "name": "tool-name", "description": "tool-description", "inputSchema": { "json": { "type": "object", "properties": { "param": { "type": "string", "description": "param-description" } }, "required": ["param"] } } } } ] }
Erforderlich Ein Zeichenfolgenfeld, das die Schemaversion identifiziert. Kann ein beliebiger Zeichenfolgenwert sein.
"schemaVersion": "bedrock-conversation-2024"
Wir validieren Ihre Daten
Bevor Sie Ihren Trainingsjob einreichen, validieren Sie Ihren Datensatz, um Formatierungsprobleme frühzeitig zu erkennen. Verfügbare Validierungstools finden Sie unterTools zur Validierung.
Beispiele für Eingaben
Im Folgenden finden Sie vollständige Beispiel-JSON-Objekte, die zeigen, wie die Felder und Inhaltsblöcke für verschiedene Modalitäten kombiniert werden.
Unterstützte Features
In der folgenden Tabelle wird die Funktionsunterstützung für SFT in allen Nova-Modellversionen verglichen.
| Feature | SFT auf Nova 2.0 |
|---|---|
| Textverständnis | Wird auf Nova 2.0 Lite unterstützt. Siehe General/Text Verständnis. |
| Bildverständnis | Wird auf Nova 2.0 Lite unterstützt. Siehe Bildverständnis. |
| Video-Verständnis | Wird auf Nova 2.0 Lite unterstützt. Siehe Video-Verständnis. |
| Verstehen von Dokumenten | Wird auf Nova 2.0 Lite unterstützt. Siehe Verstehen von Dokumenten. |
| Aufrufen des Tools | Wird auf Nova 2.0 Lite unterstützt. Siehe Aufrufen des Tools. |
| Reasoning | Wird auf Nova 2.0 Lite unterstützt. Siehe Reasoning. |
General/Text Verständnis
In diesem Abschnitt werden die allgemeinen Einschränkungen für die Vorbereitung von SFT auf Amazon Nova 2-Trainingsdaten zusammengefasst.
Beschränkungen
| Einschränkung | Details |
|---|---|
| Format des Datensatzes | JSONL (ein JSON-Objekt pro Zeile). Dateinamen können nur aus alphanumerischen Zeichen, Unterstrichen, Bindestrichen, Schrägstrichen und Punkten bestehen. |
| Mindestanzahl an Stichproben | 8 |
| Maximale Anzahl an Stichproben | 20 000 |
| Kontextlänge | 32 000 |
| Homogenität des Datensatzes | Ein Datensatz kann verschiedene Medienmodalitäten nicht mischen. Verwenden Sie Text mit Bildern, Text mit Videos oder Text mit Dokumenten — aber keine Kombination. |
| Reservierte Schlüsselwörter | User:,Bot:,Assistant:,System:,<image>,<video>,[EOS]. Eingabeaufforderungen, die diese Schlüsselwörter enthalten, führen dazu, dass der Trainingsjob fehlschlägt. Ersetzen Sie sie durch andere Schlüsselwörter mit ähnlicher Bedeutung. |
Bewährte Methoden
Die Mindestdatengröße für die Feinabstimmung hängt von der Aufgabe ab (d. h. komplex oder einfach). Wir empfehlen jedoch, für jede Aufgabe, die das Modell lernen soll, mindestens 200 Stichproben zu verwenden.
Wir empfehlen, Ihren optimierten Prompt sowohl während des Trainings als auch während der Inferenz in einer Zero-Shot-Umgebung zu verwenden, um optimale Ergebnisse zu erzielen.
Geben Sie der Qualität Vorrang vor der Quantität. Einige hundert qualitativ hochwertige, konsistente Beispiele übertreffen in der Regel Tausende von lauten oder widersprüchlichen Beispielen.
Stichprobeneingabe
schemaVersionkann ein beliebiger Zeichenfolgenwert seinUnterstützte Rollen sind
userundassistant. Die (Optional)system-Runde kann ein vom Kunden bereitgestellter benutzerdefinierter System-Prompt sein.Die erste Runde in
messagessollte immer mit"role": "user"beginnen. Die letzte Runde ist die Antwort des Bots, gekennzeichnet durch."role": "assistant"
{ "schemaVersion": "bedrock-conversation-2024", "system": [ { "text": "You are a digital assistant with a friendly personality" } ], "messages": [ { "role": "user", "content": [ { "text": "What country is right next to Australia?" } ] }, { "role": "assistant", "content": [ { "text": "The closest country is New Zealand" } ] } ] }
Bildverständnis
SFT unterstützt Schulungen zu bildbasierten Aufgaben, sodass Ihr Modell lernt, Bilder zu analysieren und auf Fragen zu Bildern zu antworten.
Beschränkungen
| Einschränkung | Details |
|---|---|
| Unterstützte Formate | PNG, JPEG, GIF, WebP |
| Maximale Anzahl Bilder pro Probe | 10 |
| Maximale Größe von Bilddateien | 10 MB |
| Homogenität des Datensatzes | Eine Stichprobe kann Bilder und Text enthalten, aber keine Bilder in Kombination mit anderen Modalitäten (Videos, Dokumente). |
| S3-Speicherort | Das image.source.s3Location.uri muss sich im selben Amazon S3-Bucket wie Ihr Datensatz befinden. Wenn sich Ihr Datensatz beispielsweise in s3://amzn-s3-demo-bucket/train/train.jsonl befindet, müssen Ihre Bilder oder Videos in s3://amzn-s3-demo-bucket gespeichert sein |
Bewährte Methoden
Stellen Sie sicher, dass die Bilder von hoher Qualität sind und für die Aufgabe relevant sind.
Stellen Sie verschiedene Beispiele für verschiedene Bildtypen und Fragenformate bereit.
Fügen Sie klare Fragen hinzu, die sich auf bestimmte Aspekte des Bildinhalts beziehen.
Beispiel für eine Eingabe
{ "schemaVersion": "bedrock-conversation-2024", "system": [ { "text": "You are a helpful assistant." } ], "messages": [ { "role": "user", "content": [ { "image": { "format": "jpeg", "source": { "s3Location": { "uri": "s3://your-bucket/your-path/your-image.jpg", "bucketOwner": "your-aws-account-id" } } } }, { "text": "Which country is highlighted in the image?" } ] }, { "role": "assistant", "content": [ { "text": "The highlighted country is New Zealand" } ] } ] }
Video-Verständnis
SFT unterstützt Schulungen zu videobasierten Aufgaben, sodass Ihr Model lernt, Videoinhalte zu analysieren und Fragen zu diesen zu beantworten.
Beschränkungen
| Einschränkung | Details |
|---|---|
| Unterstützte Formate | MOV, MKV, MP4, WebM |
| Maximale Anzahl Videos pro Probe | 1 |
| Maximale Größe von Videodateien | 50 MB |
| Maximale Videodauer | 15 Minuten |
| Homogenität des Datensatzes | Ein Beispiel kann Video und Text enthalten, Video kann jedoch nicht mit anderen Modalitäten (Bildern, Dokumenten) kombiniert werden. |
| S3-Speicherort | Der video.source.s3Location.uri muss sich im selben Amazon S3-Bucket wie Ihr Datensatz befinden. Wenn sich Ihr Datensatz beispielsweise darin befindets3://amzn-s3-demo-bucket/train/train.jsonl, müssen sich Ihre Videos darin befinden s3://amzn-s3-demo-bucket |
Bewährte Methoden
Halte die Videos kurz und konzentriere dich auf den Inhalt, der für deine Aufgabe relevant ist.
Stellen Sie sicher, dass die Videoqualität ausreicht, damit das Modell aussagekräftige Informationen extrahieren kann.
Stellen Sie klare Fragen, die sich auf bestimmte Aspekte des Videoinhalts beziehen.
Fügen Sie verschiedene Beispiele hinzu, die verschiedene Videotypen und Fragenformate behandeln.
Beispiel für eine Eingabe
{ "schemaVersion": "bedrock-conversation-2024", "messages": [ { "role": "user", "content": [ { "text": "What are the ways in which a customer can experience issues during checkout on Amazon?" }, { "video": { "format": "mp4", "source": { "s3Location": { "uri": "s3://my-bucket-name/path/to/videos/customer_service_debugging.mp4", "bucketOwner": "123456789012" } } } } ] }, { "role": "assistant", "content": [ { "text": "Customers can experience issues with 1. Data entry, 2. Payment methods, 3. Connectivity while placing the order. Which one would you like to dive into?" } ] } ] }
Verstehen von Dokumenten
SFT unterstützt Schulungen zu dokumentenbasierten Aufgaben, sodass Ihr Modell lernen kann, wie man Fragen zu PDF-Dokumenten analysiert und beantwortet.
Beschränkungen
| Einschränkung | Details |
|---|---|
| Unterstütztes Format | |
| Maximale Dokumentgröße | 10 MB |
| Homogenität des Datensatzes | Eine Stichprobe kann Dokumente und Text enthalten, aber keine Dokumente, die mit anderen Modalitäten (Bilder, Videos) vermischt sind. |
| S3-Speicherort | Das document.source.s3Location.uri muss sich im selben Amazon S3-Bucket wie Ihr Datensatz befinden. Wenn sich Ihr Datensatz beispielsweise darin befindets3://amzn-s3-demo-bucket/train/train.jsonl, müssen sich Ihre Dokumente darin befinden s3://amzn-s3-demo-bucket |
Bewährte Methoden
Stellen Sie sicher, dass die Dokumente klar formatiert sind und der Text extrahierbar ist.
Stellen Sie verschiedene Beispiele für verschiedene Dokumenttypen und Fragenformate bereit.
Fügen Sie Inhalte zur Argumentation hinzu, damit das Modell Muster der Dokumentenanalyse erlernen kann.
Beispiel für eine Eingabe
{ "schemaVersion": "bedrock-conversation-2024", "messages": [ { "role": "user", "content": [ { "text": "What are the ways in which a customer can experience issues during checkout on Amazon?" }, { "document": { "format": "pdf", "source": { "s3Location": { "uri": "s3://my-bucket-name/path/to/documents/customer_service_debugging.pdf", "bucketOwner": "123456789012" } } } } ] }, { "role": "assistant", "content": [ { "text": "Customers can experience issues with 1. Data entry, 2. Payment methods, 3. Connectivity while placing the order. Which one would you like to dive into?" } ] } ] }
Aufrufen des Tools
SFT unterstützt Trainingsmodelle zu Werkzeugaufrufmustern, sodass Ihr Modell lernt, wann und wie externe Tools oder Funktionen aufgerufen werden müssen.
Beschränkungen
| Einschränkung | Details |
|---|---|
| Unterstützte Formate | Text oder JSON für ToolResult Inhalte |
| ToolUse Platzierung | ToolUse darf nur beim Abbiegen des Assistenten erscheinen |
| ToolResult Platzierung | ToolResult darf nur abwechselnd vom Benutzer erscheinen |
| InputSchema-Format | Das InputSchema in der ToolSpec muss ein gültiges JSON-Schemaobjekt sein |
| UseId Abgleich der Werkzeuge | Jedes Tool ToolResult muss auf ein gültiges Tool UseId eines vorherigen Assistenten verweisen ToolUse, wobei jedes Tool pro Konversation genau einmal UseId verwendet wird |
Bewährte Methoden
Stellen Sie sicher, dass Ihre Tooldefinitionen in allen Trainingsbeispielen konsistent sind.
Das Modell erlernt anhand der von Ihnen bereitgestellten Demonstrationen die Muster für den Werkzeugaufruf.
Fügen Sie verschiedene Beispiele hinzu, wann Sie die einzelnen Werkzeuge verwenden sollten und wann Sie sie nicht verwenden sollten.
Beispiel für eine Eingabe
{ "schemaVersion": "bedrock-conversation-2024", "system": [ { "text": "You are an expert in composing function calls." } ], "toolConfig": { "tools": [ { "toolSpec": { "name": "getItemAvailability", "description": "Retrieve whether an item is available in a given location", "inputSchema": { "json": { "type": "object", "properties": { "zipcode": { "type": "string", "description": "The zipcode of the location to check in" }, "quantity": { "type": "integer", "description": "The number of items to check availability for" }, "item_id": { "type": "string", "description": "The ASIN of item to check availability for" } }, "required": ["item_id", "zipcode"] } } } } ] }, "messages": [ { "role": "user", "content": [ { "text": "I need to check whether there are twenty pieces of the following item available. Here is the item ASIN on Amazon: id-123. Please check for the zipcode 94086" } ] }, { "role": "assistant", "content": [ { "toolUse": { "toolUseId": "getItemAvailability_0", "name": "getItemAvailability", "input": { "zipcode": "94086", "quantity": 20, "item_id": "id-123" } } } ] }, { "role": "user", "content": [ { "toolResult": { "toolUseId": "getItemAvailability_0", "content": [ { "text": "[{\"name\": \"getItemAvailability\", \"results\": {\"availability\": true}}]" } ] } } ] }, { "role": "assistant", "content": [ { "text": "Yes, there are twenty pieces of item id-123 available at 94086. Would you like to place an order or know the total cost?" } ] } ] }
Reasoning
Der Inhalt der Argumentation (auch als Gedankenkette bezeichnet) erfasst die Zwischenschritte des Denkens des Modells, bevor eine endgültige Antwort generiert wird.
Beschränkungen
| Einschränkung | Details |
|---|---|
| Unterstütztes Format | Nur Text. Image-based Argumentationsinhalte werden nicht unterstützt. |
| Placement | Der Assistent dreht sich nur über das reasoningContent Feld. |
| Formatierung | Verwenden Sie Klartext. Vermeiden Sie Markup-Tags wie <thinking> und, </thinking> sofern dies nicht ausdrücklich für Ihre Aufgabe erforderlich ist. |
Bewährte Methoden
High-quality Der Inhalt der Argumentation sollte Zwischengedanken, logische Schlussfolgerungen, schrittweise Problemlösungsansätze und explizite Zusammenhänge zwischen Schritten und Schlussfolgerungen beinhalten.
In Konversationen, die mehrere Runden lang sind, können
reasoningContentSie mehrere Assistenten-Runden einbeziehen.Wenn es Ihrem Datensatz an Argumentationsspuren mangelt, können Sie diese mithilfe eines logischen Modells wie Nova Premier erstellen.
Stichprobeneingabe
{ "schemaVersion": "bedrock-conversation-2024", "system": [ { "text": "You are a digital assistant with a friendly personality" } ], "messages": [ { "role": "user", "content": [ { "text": "What country is right next to Australia?" } ] }, { "role": "assistant", "content": [ { "reasoningContent": { "reasoningText": { "text": "I need to use my world knowledge of geography to answer this question" } } }, { "text": "The closest country to Australia is New Zealand, located to the southeast across the Tasman Sea." } ] } ] }
Zusätzliche Hinweise
Wie wird der Verlust berechnet:
Mit Argumentationsinhalten — Der Trainingsverlust beinhaltet sowohl die Argumentationsmarker als auch die Token für die endgültige Leistung.
Ohne Begründungsinhalt — Der Trainingsverlust wird nur anhand der Endausgabe-Token berechnet.
Stellen Sie reasoning_enabled: true in Ihrer Trainingskonfiguration ein, wenn Ihre Trainingsdaten Argumentationstoken enthalten, Sie möchten, dass das Modell Denkanstöße generiert, bevor die endgültigen Ergebnisse erzielt werden, oder wenn Sie eine bessere Leistung bei komplexen Argumentationsaufgaben benötigen.
Stellen Sie ein, reasoning_enabled: false wenn Ihre Trainingsdaten keine Argumentationstoken enthalten, Sie an einfachen Aufgaben trainieren, für die keine expliziten Denkschritte erforderlich sind, oder wenn Sie die Geschwindigkeit optimieren und den Tokenverbrauch reduzieren möchten.
Es ist zulässig, Nova anhand eines Datensatzes ohne Argumentation zu trainieren. reasoning_enabled = true Dies kann jedoch dazu führen, dass das Modell seine Argumentationsfähigkeit verliert, da Nova in erster Linie lernt, die in den Daten enthaltenen Antworten zu generieren, ohne Argumentation anzuwenden. Im Allgemeinen sollten Sie die Argumentation sowohl für das Training als auch für die Inferenz aktivieren, wenn Sie Datensätze verwenden, die keine Argumentation verwenden, und deaktivieren Sie sie für beide, wenn Sie Datensätze ohne Argumentation verwenden.
Entwerfen effektiver Trainingsbeispiele
Ihre Trainingsdaten sollten das Verhalten zeigen, das das Modell zeigen soll. SFT bringt dem Modell bei, wie es reagieren muss, nicht, was es wissen soll. Wenn Sie feststellen, dass Sie Trainingsbeispiele in erster Linie erstellen, um Faktenwissen zu vermitteln (z. B. „Was bedeutet Fehlercode E-45 ?“ mit der Antwort "E-45 weist auf einen Sensor-Timeout hin“), überlegen Sie, ob RAG oder Prompt Engineering ohne Feinabstimmung dasselbe Ergebnis erzielen könnten.
Beachten Sie bei der Konvertierung von Quelldaten in das Konversationsformat die folgenden Prinzipien:
-
Beginnen Sie mit echten Benutzerabfragen. Der Write-Benutzer dreht diesen Spiegel um, wie die Endbenutzer das Modell in der Produktion tatsächlich aufrufen werden. Vermeiden Sie künstliche oder zu vereinfachte Fragen, die nicht den tatsächlichen Nutzungsmustern entsprechen.
-
Schreiben Sie Antworten von Assistenten auf Goldstandard. Jeder Drehassistent sollte die ideale Reaktion sein, die das Modell erzeugen soll — korrekt, gut formatiert und in Ton und Struktur in allen Beispielen konsistent.
-
Verwenden Sie die Systemaufforderung strategisch. Platzieren Sie persistente Anweisungen wie Ausgabeformat, Persona und Domänenkontext im System-Turn. Verwenden Sie beim Training und bei der Inferenz dieselbe Systemaufforderung, um die besten Ergebnisse zu erzielen.
-
Konzentrieren Sie sich bei den Beispielen auf eine Fähigkeit pro Stichprobe. Wenn Sie das Modell zum Klassifizieren, Beantworten von Fragen und Zusammenfassen benötigen, erstellen Sie separate Beispielsätze für jede Fähigkeit, anstatt mehrere Fähigkeiten in einer einzigen Stichprobe zu kombinieren.
-
Geben Sie Qualität Vorrang vor Quantität. Einige hundert qualitativ hochwertige, konsistente Beispiele übertreffen in der Regel Tausende von lauten oder widersprüchlichen Exemplaren. Deduplizieren und überprüfen Sie Ihre Daten vor dem Training.
Allgemeine Muster der Datentransformation
Die folgenden Muster veranschaulichen, wie gängige Unternehmensdatenformate in effektive SFT-Schulungsbeispiele umgewandelt werden können.
Muster 1: Strukturierte Datensätze zur Klassifizierung oder Suche
Wenn es sich bei Ihren Quelldaten um eine Tabelle oder Datenbank mit Datensätzen mit Feldern wie issuecause, und handeltresolution, stellen Sie jeden Datensatz als Benutzerfrage mit den entsprechenden Eingabefeldern und der Antwort des Assistenten als Zielausgabefelder zusammen.
// train.jsonl { "schemaVersion": "bedrock-conversation-2024", "system": [ { "text": "You are a technical support assistant. Given an issue description, identify the most likely root cause and recommended resolution." } ], "messages": [ { "role": "user", "content": [ { "text": "A user reports: 'Application crashes on startup after the latest update.' What is the likely cause and resolution?" } ] }, { "role": "assistant", "content": [ { "text": "Cause: Incompatible configuration file from the previous version.\nResolution: Delete the local configuration cache and restart the application to regenerate default settings." } ] } ] }
Muster 2: Hierarchische oder taxonomische Daten bis hin zu strukturiertem Q A &
Wenn es sich bei Ihren Quelldaten um eine Codehierarchie oder Taxonomie wie Produktkategoriebäume oder Klassifikationssysteme handelt, generieren Sie Fragen, die das Modell bitten, sich in der Hierarchie zurechtzufinden. Nehmen Sie den Klassifikationskontext in die Systemaufforderung oder in die Benutzerfolge auf.
// train.jsonl { "schemaVersion": "bedrock-conversation-2024", "system": [ { "text": "You are a product catalog assistant. Answer questions about product categories and classifications accurately." } ], "messages": [ { "role": "user", "content": [ { "text": "What top-level category does product code 'EL-4520' belong to, and what subcategories does it include?" } ] }, { "role": "assistant", "content": [ { "text": "Product code EL-4520 belongs to the Electronics category. It includes the subcategories: Audio Equipment, Portable Speakers, and Wireless Accessories." } ] } ] }
Muster 3: Prozedurale Dokumente zum Anweisungsdialog
Wenn Ihre Quelldaten aus Standardarbeitsanweisungen, Runbooks oder schrittweisen Anleitungen bestehen, wandeln Sie die Verfahren in aufgabenorientierte Fragen um. Der Benutzer fragt, wie eine Aufgabe ausgeführt werden soll, und der Assistent stellt die Schritte in einem einheitlichen Format zur Verfügung.
// train.jsonl { "schemaVersion": "bedrock-conversation-2024", "system": [ { "text": "You are an IT operations assistant. Provide step-by-step instructions based on approved runbooks and standard operating procedures." } ], "messages": [ { "role": "user", "content": [ { "text": "How do I reset a user's multi-factor authentication when they have lost access to their device?" } ] }, { "role": "assistant", "content": [ { "text": "Follow these steps to reset a user's multi-factor authentication:\n1. Verify the user's identity using the approved verification procedure.\n2. Disable the existing MFA configuration in the identity management console.\n3. Generate a new temporary access code and send it to the user's verified email.\n4. Instruct the user to log in with the temporary code and re-enroll their new device.\n5. Confirm the new MFA device is working by requesting a test authentication.\n6. Document the reset in the support ticket." } ] } ] }
Anmerkung
Wenn in den Mustern 1 und 2 der tatsächliche Inhalt (wie Codes, Kategorien oder Auflösungen) nicht bereits in den Daten des Modells vor dem Training enthalten ist, sollten Sie erwägen, RAG zu verwenden, um diese Informationen zum Zeitpunkt der Inferenz bereitzustellen, anstatt sich ausschließlich auf SFT zu verlassen, um sie auswendig zu lernen. SFT ist am effektivsten, wenn es darum geht, dem Modell das Antwortformat und das Argumentationsmuster beizubringen, während RAG die sachliche Grundlage übernimmt.