Vorbereitung der Daten für die multimodale Feinabstimmung

Im Folgenden finden Sie Richtlinien und Anforderungen für die Vorbereitung von Daten für die Feinabstimmung von Verständnismodellen:

Entwerfen effektiver Schulungsbeispiele

Ihre Trainingsdaten sollten das Verhalten zeigen, das das Modell zeigen soll. SFT bringt dem Modell bei, wie es reagieren soll, und nicht, was es wissen soll. Wenn Sie Trainingsbeispiele in erster Linie erstellen, um Ihnen Faktenwissen zu vermitteln (zum Beispiel „Was bedeutet Fehlercode E-45 ?“ mit der Antwort „E-45 weist auf ein Sensor-Timeout hin“) sollten Sie sich überlegen, ob RAG oder Prompt Engineering ohne Feinabstimmung dasselbe Ergebnis erzielen könnten.

Beachten Sie bei der Konvertierung von Quelldaten in das Konversationsformat die folgenden Prinzipien:

Gängige Muster für die Datentransformation

Die folgenden Muster veranschaulichen, wie gängige Unternehmensdatenformate in effektive SFT-Schulungsbeispiele umgewandelt werden können.

Muster 1: Strukturierte Datensätze zur Klassifizierung oder Suche

Wenn es sich bei Ihren Quelldaten um eine Tabelle oder Datenbank mit Datensätzen mit Feldern wie issuecause, und handeltresolution, stellen Sie jeden Datensatz als Benutzerfrage mit den entsprechenden Eingabefeldern und der Antwort des Assistenten als Zielausgabefeldern ein.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a technical support assistant. Given an issue description, identify the most likely root cause and recommended resolution."
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "A user reports: 'Application crashes on startup after the latest update.' What is the likely cause and resolution?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Cause: Incompatible configuration file from the previous version.\nResolution: Delete the local configuration cache and restart the application to regenerate default settings."
        }
      ]
    }
  ]
}

Muster 2: Von hierarchischen oder taxonomischen Daten bis hin zu strukturierten Fragen und Antworten

Wenn es sich bei Ihren Quelldaten um eine Codehierarchie oder Taxonomie wie Produktkategoriebäume oder Klassifikationssysteme handelt, generieren Sie Fragen, die das Modell bitten, sich in der Hierarchie zurechtzufinden. Beziehen Sie den Klassifizierungskontext in die Systemaufforderung oder in die Benutzerrunde ein.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a product catalog assistant. Answer questions about product categories and classifications accurately."
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What top-level category does product code 'EL-4520' belong to, and what subcategories does it include?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Product code EL-4520 belongs to the Electronics category. It includes the subcategories: Audio Equipment, Portable Speakers, and Wireless Accessories."
        }
      ]
    }
  ]
}

Muster 3: Von den prozeduralen Dokumenten zum Anleitungsdialog

Wenn Ihre Quelldaten aus Standardarbeitsanweisungen, Runbooks oder schrittweisen Anleitungen bestehen, konvertieren Sie Verfahren in aufgabenorientierte Fragen. Der Benutzer fragt, wie eine Aufgabe ausgeführt werden soll, und der Assistent stellt die Schritte in einem konsistenten Format bereit.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are an IT operations assistant. Provide step-by-step instructions based on approved runbooks and standard operating procedures."
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "How do I reset a user's multi-factor authentication when they have lost access to their device?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Follow these steps to reset a user's multi-factor authentication:\n1. Verify the user's identity using the approved verification procedure.\n2. Disable the existing MFA configuration in the identity management console.\n3. Generate a new temporary access code and send it to the user's verified email.\n4. Instruct the user to log in with the temporary code and re-enroll their new device.\n5. Confirm the new MFA device is working by requesting a test authentication.\n6. Document the reset in the support ticket."
        }
      ]
    }
  ]
}

Beispieldatensatzformate

Die folgenden Beispieldatensatzformate bieten Ihnen eine Orientierungshilfe.

// train.jsonl
{
  "schemaVersion": "bedrock-conversation-2024",
  "system": [
    {
      "text": "You are a digital assistant with a friendly personality"
    }
  ],
  "messages": [
    {
      "role": "user",
      "content": [
        {
          "text": "What is the capital of Mars?"
        }
      ]
    },
    {
      "role": "assistant",
      "content": [
        {
          "text": "Mars does not have a capital. Perhaps it will one day."
        }
      ]
    }
  ]
}

// train.jsonl{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [{
        "text": "You are a smart assistant that answers questions respectfully"
    }],
    "messages": [{
            "role": "user",
            "content": [{
                    "text": "What does the text in this image say?"
                },
                {
                    "image": {
                        "format": "png",
                        "source": {
                            "s3Location": {
                                "uri": "s3://your-bucket/your-path/your-image.png",
                                "bucketOwner": "your-aws-account-id"
                            }
                        }
                    }
                }
            ]
        },
        {
            "role": "assistant",
            "content": [{
                "text": "The text in the attached image says 'LOL'."
            }]
        }
    ]
}

{
    "schemaVersion": "bedrock-conversation-2024",
    "system": [{
        "text": "You are a helpful assistant designed to answer questions crisply and to the point"
    }],
    "messages": [{
            "role": "user",
            "content": [{
                    "text": "How many white items are visible in this video?"
                },
                {
                    "video": {
                        "format": "mp4",
                        "source": {
                            "s3Location": {
                                "uri": "s3://your-bucket/your-path/your-video.mp4",
                                "bucketOwner": "your-aws-account-id"
                            }
                        }
                    }
                }
            ]
        },
        {
            "role": "assistant",
            "content": [{
                "text": "There are at least eight visible items that are white"
            }]
        }
    ]
}

Einschränkungen für Datensätze

Amazon Nova wendet die folgenden Einschränkungen auf Modellanpassungen für Verständnismodelle an.