Mise en forme et chargement des données d’inférence - Amazon Bedrock

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

Mise en forme et chargement des données d’inférence

Note

L’inférence par lots est actuellement disponible en version préliminaire et susceptible d’être modifiée. L'inférence par lots n'est actuellement disponible que via leAPI. Accédez au lot APIs par les moyens suivantsSDKs.

Nous vous recommandons de créer un environnement virtuel pour utiliser leSDK. L'inférence par lots APIs n'étant pas disponible dans la dernière versionSDKs, nous vous recommandons de désinstaller la dernière version SDK de l'environnement virtuel avant d'installer la version avec l'inférence APIs par lots. Pour un exemple guidé, voirExemples de code.

Téléchargez JSONL les fichiers contenant les données à saisir dans le modèle dans votre compartiment S3 au format suivant. Chaque ligne doit correspondre au format suivant et constitue un élément d’inférence différent. Si vous omettez le champ recordId, Amazon Bedrock l’ajoutera dans la sortie.

Note

Le format de l'modelInputJSONLobjet doit correspondre au body champ du modèle que vous utilisez dans la InvokeModel demande. Pour de plus amples informations, veuillez consulter Paramètres d’inférence pour les modèles de fondation.

{ "recordId" : "11 character alphanumeric string", "modelInput" : {JSON body} }
...

Par exemple, vous pouvez fournir un JSONL fichier contenant les données suivantes et exécuter une inférence par lots sur un modèle de Titan texte.

{ "recordId" : "3223593EFGH", "modelInput" : {"inputText": "Roses are red, violets are"} }
{ "recordId" : "1223213ABCD", "modelInput" : {"inputText": "Hello world"} }