Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Usa uno strumento per completare una risposta al modello Amazon Bedrock
Puoi utilizzare Amazon Bedrock API per consentire a un modello di accedere a strumenti che possono aiutarlo a generare risposte ai messaggi che invii al modello. Ad esempio, potresti avere un'applicazione di chat che consente agli utenti di scoprire la canzone più popolare riprodotta su una stazione radio. Per rispondere a una richiesta per la canzone più popolare, un modello necessita di uno strumento in grado di interrogare e restituire le informazioni sul brano.
Nota
L'uso dello strumento con i modelli è noto anche come chiamata di funzione.
In Amazon Bedrock, il modello non chiama direttamente lo strumento. Piuttosto, quando invii un messaggio a un modello, fornisci anche una definizione per uno o più strumenti che potrebbero potenzialmente aiutare il modello a generare una risposta. In questo esempio, si dovrebbe fornire una definizione per uno strumento che restituisce la canzone più popolare per una stazione radio specificata. Se il modello determina che necessita dello strumento per generare una risposta al messaggio, risponde con una richiesta di chiamata allo strumento. Include anche i parametri di input (la stazione radio richiesta) da passare allo strumento.
Nel codice, si chiama lo strumento per conto del modello. In questo scenario, supponiamo che l'implementazione dello strumento sia unaAPI. Lo strumento potrebbe essere altrettanto facilmente un database, una funzione Lambda o qualche altro software. Sei tu a decidere come implementare lo strumento. Quindi continuate la conversazione con il modello fornendo un messaggio con il risultato dello strumento. Infine, il modello genera una risposta al messaggio originale che include i risultati dell'utensile che avete inviato al modello.
Per utilizzare gli strumenti con un modello è possibile utilizzare il Converse API(Converse o ConverseStream). Il codice di esempio in questo argomento utilizza il Converse APIper mostrare come utilizzare uno strumento che consente di ottenere la canzone più popolare per una stazione radio. Per informazioni generali sulla chiamata al Converse API, vediEffettuare una conversazione con Converse Operazioni API.
È possibile utilizzare strumenti con le operazioni di inferenza di base (InvokeModelor InvokeModelWithResponseStream). Per trovare i parametri di inferenza che passate nel corpo della richiesta, consultate i parametri di inferenza per il modello che desiderate utilizzare. Si consiglia di utilizzare Converse APIin quanto fornisce un servizio coerenteAPI, che funziona con tutti i modelli Amazon Bedrock che supportano l'uso degli strumenti.
Per informazioni sui modelli che supportano la chiamata agli strumenti, consultaModelli e caratteristiche del modello supportati.
