Parametri di richiesta di inferenza e campi di risposta per modelli di base

Questa sezione descrive i parametri di richiesta e i campi di risposta per i modelli forniti da Amazon Bedrock. Utilizza queste informazioni per effettuare chiamate di inferenza ai modelli con le operazioni InvokeModeland InvokeModelWithResponseStream(streaming). Questa sezione include anche Python esempi di codice che mostrano come chiamare i modelli. Per utilizzare un modello in un'operazione di inferenza, è necessario l'ID del modello. Per ottenere l'ID del modello, consultaModello Amazon Bedrock IDs. Alcuni modelli funzionano anche con Converse. API Per verificare se la Converse API supporta un modello specifico, consulta. Modelli e caratteristiche del modello supportati Per altri esempi di codice, consultaEsempi di codice per l'utilizzo di Amazon Bedrock AWS SDKs.

Facoltativamente, è possibile impostare parametri di inferenza per influenzare la risposta generata dal modello. Se utilizzate un modello personalizzato, utilizzate gli stessi parametri di inferenza del modello di base da cui è stato personalizzato.

I modelli Foundation di Amazon Bedrock supportano modalità di input e output, che variano da modello a modello. Per verificare le modalità supportate da un modello, consulta. Modelli di fondazione supportati in Amazon Bedrock Per verificare quali funzionalità di Amazon Bedrock sono supportate da un modello, consultaSupporto del modello per funzionalità. Per verificare in quali AWS regioni è disponibile un modello, consultaSupporto del modello per AWS regione.

Quando si effettuano chiamate di inferenza a un modello, si include una richiesta per il modello. Per informazioni generali sulla creazione di prompt per i modelli supportati da Amazon Bedrock, consulta. Concetti ingegneristici rapidi