Formatieren Sie Ihre Batch-Inferenzdaten und laden Sie sie hoch - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Formatieren Sie Ihre Batch-Inferenzdaten und laden Sie sie hoch

Um Eingaben für die Batch-Inferenz vorzubereiten, erstellen Sie eine.jsonl-Datei im folgenden Format:

{ "recordId" : "11 character alphanumeric string", "modelInput" : {JSON body} }
...

Jede Zeile enthält ein JSON Objekt mit einem recordId Feld und ein modelInput Feld, das den Anforderungstext für eine Eingabe enthält, die Sie einreichen möchten. Das Format des modelInput JSON Objekts muss mit dem body Feld für das Modell übereinstimmen, das Sie in der InvokeModel Anfrage verwenden. Weitere Informationen finden Sie unter Inferenzanforderungsparameter und Antwortfelder für Foundation-Modelle.

Anmerkung

Wenn Sie das recordId Feld weglassen, fügt Amazon Bedrock es der Ausgabe hinzu.

Sie könnten beispielsweise eine JSONL Datei mit der folgenden Zeile bereitstellen, wenn Sie beabsichtigen, Batch-Inferenz mithilfe der Anthropic Claude 3 Haiku Modell:

{
    "recordId": "CALL0000001", 
    "modelInput": {
        "anthropic_version": "bedrock-2023-05-31", 
        "max_tokens": 1024,
        "messages": [ 
            { 
                "role": "user", 
                "content": [
                    {
                        "type": "text", 
                        "text": "Summarize the following call transcript: ..." 
                    } 
                ]
            }
        ]
    }
}

Nachdem Sie Ihre Eingabedateien vorbereitet haben, laden Sie sie in einen S3-Bucket hoch. Fügen Sie Ihrer Batch-Inferenz-Servicerolle die folgenden Berechtigungen hinzu und ersetzen Sie sie ${{s3-bucket-input}} mit dem Bucket, in den Sie die Eingabedateien hochgeladen haben, und ${{s3-bucket-output}} mit dem Bucket, in den Sie die Ausgabedateien schreiben möchten.

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "s3:GetObject",
                "s3:PutObject",
                "s3:ListBucket"
            ],
            "Resource": [
                "arn:aws:s3:::${{s3-bucket-input}}", 
                "arn:aws:s3:::${{s3-bucket-input}}/*",
                "arn:aws:s3:::${{s3-bucket-output}}",
                "arn:aws:s3:::${{s3-bucket-output}}/*"
            ],
            "Effect": "Allow"
        }
    ]
}