View a markdown version of this page

Chiamata asincrona degli strumenti - Amazon Nova
Come funzionaGestione delle interruzioni degli utentiCome funziona

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Chiamata asincrona degli strumenti

A differenza della tradizionale chiamata sincrona degli strumenti, in cui l'intelligenza artificiale attende silenziosamente i risultati degli strumenti, l'approccio asincrono di Amazon Nova 2 Sonic consente di:

  • Continua ad accettare l'input dell'utente mentre gli strumenti sono in esecuzione

  • Rispondi a nuove domande senza attendere i risultati degli strumenti in sospeso

  • Gestisci più chiamate allo strumento contemporaneamente

  • Mantieni un flusso di conversazione naturale senza pause imbarazzanti

  • Non è richiesta alcuna configurazione aggiuntiva. La chiamata asincrona degli strumenti funziona immediatamente.

Come funziona

Quando Nova 2 Sonic effettua una chiamata telefonica, non mette in pausa la conversazione. Al contrario, continua ad ascoltare e a rispondere in modo naturale fino all'arrivo dello strumento.

Diagramma di flusso che mostra Nova Sonic che risponde alle domande degli utenti mentre gli strumenti meteorologici e di calendario funzionano in modo asincrono.

Gestione delle interruzioni degli utenti

Se un utente modifica la richiesta durante l'esecuzione di uno strumento, Nova 2 Sonic la gestisce in modo intelligente senza annullare le chiamate agli strumenti in sospeso.

Diagramma di sequenza che mostra l'utente che interrompe la ricerca di un volo da Chicago a Seattle durante il processo.

Scenario di esempio

User: "Can I book a flight from Boston to Chicago?"
                Agent: "Sure, let me look that up for you."
                Agent: [initiates tool call for Chicago flights]
                User: "Actually, I want to go to Seattle"
                Agent: "Ok let me update that search"
                Agent: [initiates tool call for Seattle flights]
                [First tool returns with Chicago flight results]
                Agent: [receives Chicago results and processes them contextually]

Come funziona

I risultati dello strumento vengono sempre forniti: al termine di una chiamata allo strumento, il risultato viene sempre inviato al modello, anche se l'utente ha modificato la richiesta. Il modello utilizza le sue capacità di ragionamento per determinare come gestire le informazioni.

Context-aware elaborazione: Il modello comprende il contesto della conversazione ed è in grado di gestire in modo appropriato i risultati degli strumenti obsoleti. Esempio:

  • Se l'utente dice «grazie» dopo aver cambiato idea, il modello necessita comunque dei risultati originali come contesto

  • Se l'utente modifica la richiesta, il modello può riconoscere i risultati originali mentre si concentra sulla nuova richiesta

Nessuna cancellazione automatica: il sistema non annulla o ignora automaticamente le chiamate agli strumenti in base all'input di un nuovo utente. Ciò garantisce che il modello disponga di informazioni complete per prendere decisioni intelligenti su come rispondere.