Comprendi l'osservabilità per le risorse agentiche in AgentCore
Questa sezione definisce i concetti di sessioni, tracce e intervalli in relazione al monitoraggio e all'osservabilità degli agenti.
Sessioni
Una sessione rappresenta un contesto di interazione completo tra un utente e un agente. Le sessioni incapsulano l'intero flusso di conversazione o interazione, mantenendo lo stato e il contesto tra più scambi. Ogni sessione ha un identificatore univoco e registra l'intero ciclo di vita del coinvolgimento degli utenti con l'agente, dall'inizializzazione alla cessazione.
Le sessioni offrono agli agenti le seguenti funzionalità:
-
Persistenza del contesto tra più interazioni all'interno della stessa conversazione
-
Gestione dello stato per il mantenimento delle informazioni specifiche dell'utente
-
Monitoraggio della cronologia delle conversazioni per la comprensione contestuale
-
Allocazione e gestione delle risorse per tutta la durata dell'interazione
-
Isolamento tra diverse interazioni utente con lo stesso agente
Dal punto di vista dell'osservabilità, le sessioni offrono una visione di alto livello dei modelli di coinvolgimento degli utenti, consentendoti di monitorare le prestazioni degli agenti attraverso metriche, tracce e intervalli e di comprendere come gli utenti interagiscono con i tuoi agenti nel tempo e in diversi casi d'uso.
Per impostazione predefinita, AgentCore fornisce un set di metriche di osservabilità a livello di sessione per gli agenti in esecuzione in fase di esecuzione. AgentCore Puoi visualizzare le metriche di runtime nella CloudWatch console Amazon nella pagina di osservabilità dell'IA generativa. Questa pagina offre una varietà di grafici e visualizzazioni per aiutarti a interpretare i dati dei tuoi agenti. AgentCore genera anche un set predefinito di metriche per le risorse di memoria, le risorse gateway e gli strumenti integrati. Tutte queste metriche possono essere visualizzate in. CloudWatch Oltre alle metriche fornite, per impostazione predefinita vengono forniti log e intervalli per le risorse di memoria e, utilizzando la strumentazione del codice dell'agente, è possibile acquisire metriche, log e intervalli personalizzati per l'agente, che possono essere visualizzati anche nella pagina di osservabilità dell'IA generativa. CloudWatch Per ulteriori informazioni, consulta le sezioni seguenti e Visualizza i dati di osservabilità per i tuoi AgentCore agenti Amazon Bedrock.
Tracce
Una traccia rappresenta un record dettagliato di un singolo ciclo di richiesta-risposta che inizia con la chiamata di un agente e può includere chiamate aggiuntive ad altri agenti. Le tracce acquisiscono il percorso di esecuzione completo di una richiesta, incluse tutte le fasi di elaborazione interne, le chiamate di servizio esterne, i punti decisionali e l'utilizzo delle risorse. Ogni traccia è associata a una sessione specifica e fornisce una visibilità granulare sul comportamento dell'agente per una particolare interazione.
Le tracce includono i seguenti componenti per gli agenti:
-
Dettagli della richiesta, inclusi timestamp, parametri di input e contesto
-
Fasi di elaborazione che mostrano la sequenza delle operazioni eseguite
-
Richiamazioni degli strumenti con input/output parametri e tempi di esecuzione
-
Metriche di utilizzo delle risorse, come il tempo di elaborazione
-
Informazioni sugli errori, inclusi dettagli sulle eccezioni e tentativi di ripristino
-
Dettagli sulla generazione della risposta e sull'output finale
Dal punto di vista dell'osservabilità, le tracce forniscono informazioni approfondite sul funzionamento interno degli agenti, consentendovi di risolvere i problemi, ottimizzare le prestazioni e comprendere i modelli di comportamento. Analizzando i dati di traccia, è possibile identificare i punti deboli, rilevare anomalie e verificare che l'agente funzioni come previsto in diversi scenari e input.
Per raccogliere i dati di traccia, è necessario strumentare il codice dell'agente utilizzando AWS Distro for Open Telemetry (ADOT). Per ulteriori informazioni, consulta Abilitazione dell'osservabilità nel codice dell'agente per AgentCore-hosted gli agenti e Abilitazione dell'osservabilità per gli agenti ospitati all'esterno di. AgentCore
Intervalli
Un intervallo rappresenta un'unità di lavoro discreta e misurabile all'interno del flusso di esecuzione di un agente. Gli spans acquisiscono operazioni dettagliate che si verificano durante l'elaborazione delle richieste, fornendo una visibilità dettagliata dei componenti interni e dei passaggi che costituiscono una traccia completa. Ogni intervallo ha un'ora di inizio e di fine definita, creando una sequenza temporale precisa delle attività degli agenti e della loro durata.
Gli intervalli includono i seguenti attributi essenziali per l'osservabilità degli agenti:
-
Nome dell'operazione che identifica la funzione o il processo specifico in esecuzione
-
Timestamp che indicano l'ora esatta di inizio e fine dell'operazione
-
Parent-child relazioni che mostrano come le operazioni si annidano all'interno di processi più ampi
-
Tag e attributi che forniscono metadati contestuali sull'operazione
-
Eventi che segnano eventi significativi nel corso della durata dell'intervallo
-
Informazioni sullo stato che indicano lo stato di successo, il fallimento o altri stati di completamento
-
Metriche di utilizzo delle risorse specifiche dell'operazione
Gli intervalli formano una struttura gerarchica all'interno di Traces, mentre gli intervalli principali comprendono gli intervalli secondari che rappresentano operazioni più granulari. Ad esempio, un intervallo di «elaborazione delle interrogazioni utente» di alto livello potrebbe contenere intervalli secondari per «parse input», «retrieve context», «generate response» e «format output». Questa organizzazione gerarchica crea un albero di esecuzione dettagliato che rivela il flusso completo di operazioni all'interno dell'agente.
Per impostazione predefinita, AgentCore emette un set di dati di estensione solo per le risorse di memoria. Questi dati possono essere visualizzati in CloudWatch Log e CloudWatch Application signals. Per registrare i dati relativi alla portata degli agenti o delle risorse del gateway, è necessario utilizzare uno strumento per l'operatore. Per ulteriori informazioni, consulta Abilitazione dell'osservabilità nel codice dell'agente per AgentCore-hosted gli agenti e Abilitazione dell'osservabilità per gli agenti ospitati all'esterno di AgentCore.
Relazione tra sessioni, tracce e intervalli
Sessioni, tracce e intervalli formano una relazione gerarchica a tre livelli nel framework di osservabilità per gli agenti. Una sessione contiene più tracce, ognuna delle quali rappresenta un'interazione discreta all'interno del contesto più ampio della sessione. Ogni traccia, a sua volta, contiene più intervalli che registrano le operazioni e i passaggi dettagliati all'interno di tale interazione. Questa struttura gerarchica consente di analizzare il comportamento degli agenti a diversi livelli di granularità, dai modelli di sessione di alto livello ai flussi di interazione di medio livello fino ai percorsi di esecuzione dettagliati per operazioni specifiche.
La relazione tra questi tre componenti di osservabilità può essere visualizzata come:
-
Sessioni (livello più alto): rappresentano conversazioni utente complete o contesti di interazione
-
Tracce (livello intermedio): rappresentano i singoli cicli di richiesta-risposta all'interno di una sessione
-
Spans (livello più basso): rappresentano operazioni o passaggi specifici all'interno di una traccia
Questa relazione a più livelli consente diverse importanti funzionalità di osservabilità:
-
Analisi contestuale delle interazioni individuali all'interno del flusso di conversazione più ampio
-
Correlazione delle richieste correlate durante il percorso di interazione di un utente
-
Risoluzione progressiva dei problemi, dalle anomalie a livello di sessione ai modelli a livello di traccia alle cause principali a livello di estensione
-
Profilazione completa delle prestazioni in diverse dimensioni temporali e funzionali
-
Comprensione olistica dei modelli di comportamento degli agenti e dell'evoluzione durante una conversazione
-
Identificazione precisa degli ostacoli prestazionali a livello operativo attraverso l'analisi dell'intervallo
Mentre le tracce forniscono visibilità su cicli completi di richiesta-risposta, gli span offrono informazioni più approfondite sul funzionamento interno di tali cicli. Gli intervalli rivelano esattamente quali operazioni richiedono più tempo, da dove hanno origine gli errori e come i diversi componenti interagiscono all'interno di una singola traccia. Questa granularità è particolarmente utile per la risoluzione di problemi complessi o l'ottimizzazione delle prestazioni in implementazioni sofisticate di agenti.
Sfruttando i dati di sessione, di traccia e di estensione nella strategia di osservabilità, è possibile ottenere informazioni complete sul comportamento, le prestazioni e l'efficacia degli agenti a più livelli di dettaglio. Questo approccio multilivello all'osservabilità supporta il miglioramento continuo, una solida risoluzione dei problemi e l'ottimizzazione informata delle implementazioni degli agenti, dai modelli di conversazione di alto livello fino alle prestazioni operative individuali.
