バッチ推論データをフォーマットしてアップロードする - Amazon Bedrock

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

バッチ推論データをフォーマットしてアップロードする

バッチ推論の入力を準備するには、次の形式で .jsonl ファイルを作成します。

{ "recordId" : "11 character alphanumeric string", "modelInput" : {JSON body} }
...

各行には、 recordId フィールドを含む JSON オブジェクトと、送信する入力のリクエストボディを含む modelInputフィールドが含まれます。modelInput JSON オブジェクトの形式は、InvokeModelリクエストで使用するモデルの bodyフィールドと一致する必要があります。詳細については、「Inference request parameters and response fields for foundation models」を参照してください。

注記

recordId フィールドを省略すると、Amazon Bedrock はそのフィールドを出力に追加します。

たとえば、 を使用してバッチ推論を実行する場合は、次の行を含むJSONLファイルを指定できます。Anthropic Claude 3 Haiku モデル：

{
    "recordId": "CALL0000001", 
    "modelInput": {
        "anthropic_version": "bedrock-2023-05-31", 
        "max_tokens": 1024,
        "messages": [ 
            { 
                "role": "user", 
                "content": [
                    {
                        "type": "text", 
                        "text": "Summarize the following call transcript: ..." 
                    } 
                ]
            }
        ]
    }
}

入力ファイルを準備したら、S3 バケットにアップロードします。バッチ推論サービスロールに次のアクセス許可をアタッチし、 を入力ファイルをアップロードしたバケット${{s3-bucket-output}}に、 を出力ファイルを書き込むバケット${{s3-bucket-input}}に置き換えます。

{
    "Version": "2012-10-17",
    "Statement": [
        {
            "Action": [
                "s3:GetObject",
                "s3:PutObject",
                "s3:ListBucket"
            ],
            "Resource": [
                "arn:aws:s3:::${{s3-bucket-input}}", 
                "arn:aws:s3:::${{s3-bucket-input}}/*",
                "arn:aws:s3:::${{s3-bucket-output}}",
                "arn:aws:s3:::${{s3-bucket-output}}/*"
            ],
            "Effect": "Allow"
        }
    ]
}