Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.
Comprendi l'osservabilità delle risorse agentiche in AgentCore
Questa sezione definisce i concetti di sessioni, tracce e intervalli in relazione al monitoraggio e all'osservabilità degli agenti.
Sessioni
Una sessione rappresenta un contesto di interazione completo tra un utente e un agente. Le sessioni incapsulano l'intero flusso di conversazione o interazione, mantenendo lo stato e il contesto in più scambi. Ogni sessione ha un identificatore univoco e registra l'intero ciclo di vita del coinvolgimento degli utenti con l'agente, dall'inizializzazione alla chiusura.
Le sessioni forniscono le seguenti funzionalità per gli agenti:
-
Persistenza del contesto tra più interazioni all'interno della stessa conversazione
-
Gestione dello stato per il mantenimento delle informazioni specifiche dell'utente
-
Monitoraggio della cronologia delle conversazioni per la comprensione contestuale
-
Allocazione e gestione delle risorse per la durata dell'interazione
-
Isolamento tra le diverse interazioni degli utenti con lo stesso agente
Dal punto di vista dell'osservabilità, le sessioni forniscono una visione di alto livello dei modelli di coinvolgimento degli utenti, consentendo di monitorare le prestazioni degli agenti attraverso metriche, tracce e intervalli e di capire come gli utenti interagiscono con gli agenti nel tempo e nei diversi casi d'uso.
Per impostazione predefinita, AgentCore fornisce una serie di metriche di osservabilità a livello di sessione per gli agenti in esecuzione in fase di esecuzione. AgentCore Puoi visualizzare le metriche di runtime nella CloudWatch console Amazon nella pagina di osservabilità dell'IA generativa. Questa pagina offre una varietà di grafici e visualizzazioni per aiutarti a interpretare i dati dei tuoi agenti. AgentCore genera anche un set predefinito di metriche per le risorse di memoria, le risorse del gateway e gli strumenti integrati. Tutte queste metriche possono essere visualizzate in. CloudWatch Oltre alle metriche fornite, i log e gli intervalli vengono forniti di default per le risorse di memoria e, strumentando il codice dell'agente, è possibile acquisire metriche, log e intervalli personalizzati per l'agente, che possono essere visualizzati anche nella pagina di osservabilità dell'IA generativa. CloudWatch Consulta le sezioni seguenti e Visualizza i dati di osservabilità per i tuoi agenti Amazon Bedrock per saperne di più. AgentCore
Tracce
Una traccia rappresenta una registrazione dettagliata di un singolo ciclo richiesta-risposta che inizia con la chiamata di un agente e può includere chiamate aggiuntive ad altri agenti. Le tracce registrano il percorso completo di esecuzione di una richiesta, comprese tutte le fasi di elaborazione interne, le chiamate di servizio esterne, i punti decisionali e l'utilizzo delle risorse. Ogni traccia è associata a una sessione specifica e fornisce una visibilità granulare sul comportamento dell'agente per una particolare interazione.
Le tracce includono i seguenti componenti per gli agenti:
-
Dettagli della richiesta, tra cui data e ora, parametri di input e contesto
-
Fasi di elaborazione che mostrano la sequenza delle operazioni eseguite
-
Richiami degli strumenti con input/output parametri e tempi di esecuzione
-
Metriche di utilizzo delle risorse, come il tempo di elaborazione
-
Informazioni sugli errori, inclusi dettagli sulle eccezioni e tentativi di ripristino
-
Dettagli sulla generazione della risposta e output finale
Dal punto di vista dell'osservabilità, le tracce forniscono informazioni approfondite sul funzionamento interno degli agenti, consentendovi di risolvere i problemi, ottimizzare le prestazioni e comprendere i modelli di comportamento. Analizzando i dati di tracciamento, è possibile identificare i colli di bottiglia, rilevare anomalie e verificare che l'agente funzioni come previsto in diversi scenari e input.
Per raccogliere dati di tracciamento, è necessario strumentare il codice dell'agente utilizzando AWS Distro for Open Telemetry (ADOT). Per saperne di più, consulta Abilitazione dell'osservabilità nel codice dell'agente per AgentCore-hosted gli agenti e Abilitazione dell'osservabilità per gli agenti ospitati all'esterno. AgentCore
Intervalli
Un intervallo rappresenta un'unità di lavoro discreta e misurabile all'interno del flusso di esecuzione di un agente. Gli intervalli acquisiscono le operazioni granulari che si verificano durante l'elaborazione delle richieste, fornendo una visibilità dettagliata dei componenti interni e delle fasi che costituiscono una traccia completa. Ogni intervallo ha un'ora di inizio e di fine definita, creando una cronologia precisa delle attività degli agenti e della loro durata.
Gli intervalli includono i seguenti attributi essenziali per l'osservabilità degli agenti:
-
Nome dell'operazione che identifica la funzione o il processo specifico in esecuzione
-
Timestamp che indicano l'ora esatta di inizio e fine dell'operazione
-
Parent-child relazioni che mostrano come le operazioni si incastrino all'interno di processi più ampi
-
Tag e attributi che forniscono metadati contestuali sull'operazione
-
Eventi che segnano eventi significativi nel corso della durata dell'intervallo
-
Informazioni sullo stato che indicano il successo, il fallimento o altri stati di completamento
-
Metriche di utilizzo delle risorse specifiche per l'operazione
Gli intervalli formano una struttura gerarchica all'interno delle tracce, mentre gli intervalli principali comprendono gli intervalli secondari che rappresentano operazioni più granulari. Ad esempio, un intervallo «elabora una query utente» di alto livello potrebbe contenere intervalli secondari per «analizza input», «recupera contesto», «genera risposta» e «formatta output». Questa organizzazione gerarchica crea un albero di esecuzione dettagliato che rivela il flusso completo delle operazioni all'interno dell'agente.
Per impostazione predefinita, AgentCore genera un set di dati di estensione solo per le risorse di memoria. Questi dati possono essere visualizzati nei CloudWatch registri e nei segnali delle CloudWatch applicazioni. Per registrare i dati di intervallo per i tuoi agenti o le risorse del gateway, devi strumentare il tuo agente. Per saperne di più, consulta Abilitazione dell'osservabilità nel codice dell'agente per AgentCore-hosted gli agenti e Abilitazione dell' AgentCoreosservabilità per gli agenti ospitati all'esterno.
Relazione tra sessioni, tracce e intervalli
Le sessioni, le tracce e gli intervalli formano una relazione gerarchica a tre livelli nel framework di osservabilità per gli agenti. Una sessione contiene più tracce, ognuna delle quali rappresenta un'interazione discreta all'interno del contesto più ampio della sessione. Ogni traccia, a sua volta, contiene più intervalli che catturano le operazioni e i passaggi dettagliati all'interno di tale interazione. Questa struttura gerarchica consente di analizzare il comportamento degli agenti a diversi livelli di granularità, dai modelli di sessione di alto livello ai flussi di interazione di medio livello ai percorsi di esecuzione dettagliati per operazioni specifiche.
La relazione tra questi tre componenti di osservabilità può essere visualizzata come:
-
Sessioni (livello più alto): rappresentano conversazioni o contesti di interazione completi degli utenti
-
Tracce (livello intermedio): rappresentano i singoli cicli di richiesta-risposta all'interno di una sessione
-
Intervalli (livello più basso): rappresentano operazioni o passaggi specifici all'interno di una traccia
Questa relazione a più livelli consente diverse importanti funzionalità di osservabilità:
-
Analisi contestuale delle interazioni individuali all'interno del loro più ampio flusso di conversazione
-
Correlazione delle richieste correlate nel percorso di interazione di un utente
-
Risoluzione progressiva dei problemi, dalle anomalie a livello di sessione ai pattern a livello di traccia fino alle cause principali a livello di intervallo
-
Profilazione completa delle prestazioni in diverse dimensioni temporali e funzionali
-
Comprensione olistica dei modelli di comportamento e dell'evoluzione degli agenti nel corso di una conversazione
-
Identificazione precisa delle difficoltà prestazionali a livello operativo mediante analisi degli intervalli
Mentre le tracce forniscono visibilità sui cicli completi di richiesta-risposta, gli intervalli offrono informazioni più approfondite sul funzionamento interno di tali cicli. Gli intervalli rivelano esattamente quali operazioni richiedono più tempo, da dove provengono gli errori e in che modo i diversi componenti interagiscono all'interno di un'unica traccia. Questa granularità è particolarmente utile quando si risolvono problemi complessi o si ottimizzano le prestazioni in sofisticate implementazioni di agenti.
Sfruttando i dati di sessione, traccia e intervallo nella tua strategia di osservabilità, puoi ottenere informazioni complete sul comportamento, sulle prestazioni e sull'efficacia del tuo agente a più livelli di dettaglio. Questo approccio multilivello all'osservabilità supporta il miglioramento continuo, una solida risoluzione dei problemi e l'ottimizzazione informata delle implementazioni degli agenti, dai modelli di conversazione di alto livello fino alle prestazioni operative individuali.
