Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Formattazione e caricamento dei tuoi dati di inferenza
Nota
L'inferenza in batch è disponibile nella versione di anteprima ed è soggetta a modifiche. L'inferenza in batch è attualmente disponibile solo tramite. API Accedi al batch APIs tramite quanto segueSDKs.
Si consiglia di creare un ambiente virtuale per utilizzareSDK. Poiché l'inferenza in batch APIs non è disponibile nella versione più recenteSDKs, si consiglia di disinstallare la versione più recente di SDK dall'ambiente virtuale prima di installare la versione con l'inferenza APIs in batch. Per un esempio guidato, vedi. Esempi di codice
Carica JSONL i file contenenti i dati da inserire nel modello nel tuo bucket S3 con il seguente formato. Ogni riga deve corrispondere al formato seguente ed è un elemento di inferenza diverso. Se ometti il campo recordId
, Amazon Bedrock lo aggiunge nell'output.
Nota
Il formato dell'modelInput
JSONLoggetto deve corrispondere al body
campo per il modello utilizzato nella InvokeModel
richiesta. Per ulteriori informazioni, consulta Parametri di inferenza per modelli di fondazione.
{ "recordId" : "
11 character alphanumeric string
", "modelInput" :{JSON body}
} ...
Ad esempio, potreste fornire un JSONL file contenente i seguenti dati ed eseguire l'inferenza in batch su un modello di Titan testo.
{ "recordId" : "
3223593EFGH
", "modelInput" : {"inputText": "Roses are red, violets are
"} } { "recordId" : "1223213ABCD
", "modelInput" : {"inputText": "Hello world
"} }