Verstehen Sie die Beobachtbarkeit für Agentenressourcen in AgentCore
In diesem Abschnitt werden die Konzepte von Sessions, Traces und Spans in Bezug auf die Überwachung und Beobachtbarkeit von Agenten definiert.
Sitzungen
Eine Sitzung stellt einen vollständigen Interaktionskontext zwischen einem Benutzer und einem Agenten dar. Sitzungen kapseln den gesamten Konversations- oder Interaktionsfluss ab, wobei der Status und der Kontext über mehrere Austausche hinweg beibehalten werden. Jede Sitzung hat eine eindeutige Kennung und erfasst den gesamten Lebenszyklus der Benutzerinteraktion mit dem Agenten, von der Initialisierung bis zur Beendigung.
Sitzungen bieten Agenten die folgenden Funktionen:
-
Kontext-Persistenz über mehrere Interaktionen innerhalb derselben Konversation hinweg
-
Statusverwaltung zur Pflege benutzerspezifischer Informationen
-
Verfolgung des Konversationsverlaufs zum besseren Verständnis des Kontextes
-
Zuweisung und Verwaltung von Ressourcen für die Dauer der Interaktion
-
Isolierung zwischen verschiedenen Benutzerinteraktionen mit demselben Agenten
Aus Sicht der Beobachtbarkeit bieten Sitzungen einen umfassenden Überblick über die Muster der Benutzerinteraktion. So können Sie die Leistung der Agenten anhand von Kennzahlen, Traces und Zeiträumen überwachen und verstehen, wie Benutzer im Laufe der Zeit und in verschiedenen Anwendungsfällen mit Ihren Agenten interagieren.
Standardmäßig AgentCore stellt es eine Reihe von Beobachtbarkeitsmetriken auf Sitzungsebene für Agenten bereit, die während der Laufzeit ausgeführt werden. AgentCore Sie können die Laufzeitmetriken in der CloudWatch Amazon-Konsole auf der generativen KI-Observabilitätsseite einsehen. Diese Seite bietet eine Vielzahl von Grafiken und Visualisierungen, die Ihnen bei der Interpretation der Daten Ihrer Agenten helfen. AgentCore gibt außerdem einen Standardsatz von Metriken für Speicherressourcen, Gateway-Ressourcen und integrierte Tools aus. Alle diese Metriken können in eingesehen werden CloudWatch. Zusätzlich zu den bereitgestellten Metriken werden standardmäßig Protokolle und Spans für Speicherressourcen bereitgestellt. Durch die Instrumentierung Ihres Agentencodes können Sie benutzerdefinierte Metriken, Protokolle und Spans für Ihren Agenten erfassen, die auch auf der CloudWatch generativen KI-Observabilitätsseite eingesehen werden können. Weitere Informationen finden Sie in den folgenden Abschnitten und unter Beobachtbarkeitsdaten für Ihre Amazon AgentCore Bedrock-Agenten anzeigen.
Ablaufverfolgungen
Ein Trace stellt eine detaillierte Aufzeichnung eines einzelnen Anfrage-Antwort-Zyklus dar, der mit einem Agentenaufruf beginnt und zusätzliche Anrufe an andere Agenten beinhalten kann. Traces erfassen den vollständigen Ausführungspfad einer Anfrage, einschließlich aller internen Verarbeitungsschritte, externer Serviceanfragen, Entscheidungspunkte und der Ressourcennutzung. Jeder Trace ist einer bestimmten Sitzung zugeordnet und bietet detaillierte Einblicke in das Verhalten des Agenten bei einer bestimmten Interaktion.
Traces beinhalten die folgenden Komponenten für Agenten:
-
Anforderungsdetails wie Zeitstempel, Eingabeparameter und Kontext
-
Verarbeitungsschritte, die die Reihenfolge der ausgeführten Operationen zeigen
-
Werkzeugabrufe mit input/output Parametern und Ausführungszeiten
-
Kennzahlen zur Ressourcennutzung wie die Verarbeitungszeit
-
Fehlerinformationen, einschließlich Details zu Ausnahmen und Wiederherstellungsversuchen
-
Einzelheiten zur Antwortgenerierung und endgültige Ausgabe
Aus Sicht der Beobachtbarkeit bieten Traces tiefe Einblicke in die internen Abläufe Ihrer Agenten, sodass Sie Probleme beheben, die Leistung optimieren und Verhaltensmuster verstehen können. Durch die Analyse von Trace-Daten können Sie Engpässe identifizieren, Anomalien erkennen und überprüfen, ob Ihr Agent in verschiedenen Szenarien und Eingaben erwartungsgemäß funktioniert.
Um Trace-Daten zu sammeln, müssen Sie Ihren Agentencode mithilfe von AWS Distro for Open Telemetry (ADOT) instrumentieren. Weitere Informationen finden Sie unter Observability im Agentcode für AgentCore-hosted Agenten aktivieren und Observability für Agenten aktivieren, die außerhalb von gehostet werden. AgentCore
Spans
Eine Spanne stellt eine diskrete, messbare Arbeitseinheit innerhalb des Ausführungsablaufs eines Agenten dar. Spans erfassen feinkörnige Vorgänge, die während der Bearbeitung von Anfragen anfallen, und bieten so einen detaillierten Einblick in die internen Komponenten und Schritte, aus denen sich eine vollständige Ablaufverfolgung zusammensetzt. Jeder Zeitraum hat eine definierte Start- und Endzeit, sodass ein genauer Zeitplan für die Aktivitäten der Agenten und deren Dauer erstellt wird.
Die Zeitspannen beinhalten die folgenden wesentlichen Merkmale für die Beobachtbarkeit der Agenten:
-
Name des Vorgangs, der die spezifische Funktion oder den Prozess identifiziert, der gerade ausgeführt wird
-
Zeitstempel, die die genauen Start- und Endzeiten des Vorgangs angeben
-
Parent-child Beziehungen, die zeigen, wie Operationen in größere Prozesse eingebettet sind
-
Tags und Attribute, die kontextbezogene Metadaten über den Vorgang bereitstellen
-
Ereignisse, die auf signifikante Ereignisse innerhalb der Lebensdauer der Spanne hinweisen
-
Statusinformationen, die auf Erfolg, Misserfolg oder andere Abschlussstatus hinweisen
-
Für den Vorgang spezifische Kennzahlen zur Ressourcennutzung
Bereiche bilden innerhalb von Ablaufverfolgungen eine hierarchische Struktur, wobei übergeordnete Bereiche untergeordnete Bereiche umfassen, die detailliertere Operationen darstellen. Beispielsweise kann ein übergeordneter Bereich „Benutzerabfrage verarbeiten“ untergeordnete Bereiche für „Eingabe analysieren“, „Kontext abrufen“, „Antwort generieren“ und „Ausgabe formatieren“ enthalten. Durch diese hierarchische Organisation wird ein detaillierter Ausführungsbaum erstellt, der den gesamten Ablauf der Operationen innerhalb des Agenten aufzeigt.
Standardmäßig werden nur Span-Daten für Speicherressourcen AgentCore ausgegeben. Diese Daten können in CloudWatch Protokollen und CloudWatch Anwendungssignalen eingesehen werden. Um Span-Daten für Ihre Agenten oder Gateway-Ressourcen aufzuzeichnen, müssen Sie Ihren Agenten instrumentieren. Weitere Informationen finden Sie unter Observability im Agentencode für AgentCore-hosted Agenten aktivieren und Observability für Agenten aktivieren, die außerhalb von gehostet AgentCore werden.
Beziehung zwischen Sessions, Traces und Spans
Sessions, Traces und Spans bilden im Observability-Framework für Agenten eine dreistufige hierarchische Beziehung. Eine Sitzung enthält mehrere Traces, wobei jede Trace eine diskrete Interaktion innerhalb des breiteren Kontextes der Sitzung darstellt. Jede Ablaufverfolgung wiederum enthält mehrere Bereiche, die die feinkörnigen Operationen und Schritte innerhalb dieser Interaktion erfassen. Diese hierarchische Struktur ermöglicht es Ihnen, das Verhalten von Agenten auf verschiedenen Granularitätsebenen zu analysieren, von Sitzungsmustern auf hoher Ebene über Interaktionsabläufe auf mittlerer Ebene bis hin zu detaillierten Ausführungspfaden für bestimmte Operationen.
Die Beziehung zwischen diesen drei Komponenten der Beobachtbarkeit kann wie folgt visualisiert werden:
-
Sitzungen (höchste Ebene) — Stellen vollständige Benutzerkontexte oder Interaktionskontexte dar
-
Traces (mittlere Ebene) — stellen einzelne Anfrage-Antwort-Zyklen innerhalb einer Sitzung dar
-
Spans (niedrigste Ebene) — Stellt bestimmte Operationen oder Schritte innerhalb einer Ablaufverfolgung dar
Diese mehrstufige Beziehung ermöglicht mehrere wichtige Funktionen zur Beobachtbarkeit:
-
Kontextuelle Analyse einzelner Interaktionen innerhalb ihres breiteren Konversationsflusses
-
Korrelation verwandter Anfragen während des gesamten Interaktionsprozesses eines Benutzers
-
Schrittweise Problembehebung von Anomalien auf Sitzungsebene über Muster auf Trace-Ebene bis hin zu Grundursachen auf Gesamtebene
-
Umfassende Leistungsprofile für verschiedene zeitliche und funktionale Dimensionen
-
Ganzheitliches Verständnis der Verhaltensmuster und der Entwicklung von Agenten während eines Gesprächs
-
Präzise Identifizierung von Leistungsengpässen auf Betriebsebene durch eine Spannweitenanalyse
Traces bieten zwar Einblick in komplette Anfrage-Antwort-Zyklen, Zeitspannen bieten jedoch tiefere Einblicke in die internen Abläufe dieser Zyklen. Anhand von Spans lässt sich genau ablesen, welche Operationen am meisten Zeit in Anspruch nehmen, wo Fehler ihren Ursprung haben und wie verschiedene Komponenten innerhalb einer einzigen Ablaufverfolgung interagieren. Diese Granularität ist besonders nützlich bei der Behebung komplexer Probleme oder bei der Optimierung der Leistung anspruchsvoller Agentenimplementierungen.
Durch die Nutzung von Sitzungs-, Trace- und Span-Daten in Ihrer Observability-Strategie können Sie umfassende Einblicke in das Verhalten, die Leistung und die Effektivität Ihres Agenten auf mehreren Detailebenen gewinnen. Dieser vielschichtige Observability-Ansatz unterstützt die kontinuierliche Verbesserung, zuverlässige Fehlerbehebung und fundierte Optimierung Ihrer Agentenimplementierungen — von allgemeinen Gesprächsmustern bis hin zur individuellen Betriebsleistung.
