Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Usa uno strumento per completare una risposta al modello Amazon Bedrock
Puoi utilizzare Amazon Bedrock API per consentire a un modello di accedere a strumenti che possono aiutarlo a generare risposte ai messaggi che invii al modello. Ad esempio, potresti avere un'applicazione di chat che consente agli utenti di scoprire la canzone più popolare riprodotta su una stazione radio. Per rispondere a una richiesta per la canzone più popolare, un modello necessita di uno strumento in grado di interrogare e restituire le informazioni sul brano.
Nota
L'uso dello strumento con i modelli è noto anche come chiamata di funzione.
In Amazon Bedrock, il modello non chiama direttamente lo strumento. Piuttosto, quando invii un messaggio a un modello, fornisci anche una definizione per uno o più strumenti che potrebbero potenzialmente aiutare il modello a generare una risposta. In questo esempio, si dovrebbe fornire una definizione per uno strumento che restituisce la canzone più popolare per una stazione radio specificata. Se il modello determina che necessita dello strumento per generare una risposta al messaggio, risponde con una richiesta di chiamata allo strumento. Include anche i parametri di input (la stazione radio richiesta) da passare allo strumento.
Nel codice, si chiama lo strumento per conto del modello. In questo scenario, supponiamo che l'implementazione dello strumento sia unaAPI. Lo strumento potrebbe essere altrettanto facilmente un database, una funzione Lambda o qualche altro software. Sei tu a decidere come implementare lo strumento. Quindi continuate la conversazione con il modello fornendo un messaggio con il risultato dello strumento. Infine, il modello genera una risposta al messaggio originale che include i risultati dell'utensile che avete inviato al modello.
Per utilizzare gli strumenti con un modello puoi usare Converse API (Converse o). ConverseStream Il codice di esempio riportato in questo argomento utilizza Converse API per mostrare come utilizzare uno strumento che recupera la canzone più popolare di una stazione radio. Per informazioni generali su come chiamare le ConverseAPI, consulta. Effettua una conversazione con le operazioni di Converse API
È possibile utilizzare strumenti con le operazioni di inferenza di base (InvokeModelor InvokeModelWithResponseStream). Per trovare i parametri di inferenza che passate nel corpo della richiesta, consultate i parametri di inferenza per il modello che desiderate utilizzare. Ti consigliamo di utilizzare Converse in API quanto fornisce un servizio coerente API e compatibile con tutti i modelli Amazon Bedrock che supportano l'uso degli strumenti.
Per informazioni sui modelli che supportano la chiamata agli strumenti, consulta. Modelli e caratteristiche del modello supportati
