View a markdown version of this page

Funktionsweise - Amazon Grundgestein AgentCore

Funktionsweise

AgentCore Die Optimierung verbindet die Bewertungsergebnisse mit validierten Verbesserungen in einem wiederholbaren Zyklus. Eine typische Iteration folgt diesen Schritten:

  1. Generieren Sie eine Empfehlung: Richten Sie die Recommendations-API auf Agenten-Traces in CloudWatch Logs und geben Sie den Evaluator an, für den Sie optimieren möchten. Der Service analysiert Fehlermuster und gibt eine optimierte Systemaufforderung oder eine Reihe von Toolbeschreibungen zurück, zusammen mit einer Erklärung, was geändert wurde und warum.

  2. (Optional) Package als Konfigurationspaket: Erstellen Sie eine Bundle-Version mit der empfohlenen Konfiguration. Ein Bundle ist ein versionierter, unveränderlicher Snapshot der Konfiguration eines Agenten (Systemaufforderungen, Modell-IDs, Toolbeschreibungen), der ohne Codebereitstellungen dynamisch geändert werden kann. Konfigurationspakete sind nützlich, wenn Sie das Verhalten von Agenten vom Code trennen möchten. Sie sind nicht erforderlich. Sie können Änderungen auch überprüfen, indem Sie sie auf einem separaten Runtime-Endpunkt bereitstellen.

  3. Mit einem A/B Test validieren: Teilen Sie den Produktionsdatenverkehr über AgentCore Gateway zwischen dem aktuellen Agenten (Steuerung) und der verbesserten Version (Behandlung) auf. Bei der Online-Evaluierung wird jede Sitzung bewertet und Ergebnisse mit statistischer Signifikanz gemeldet. A/B Tests unterstützen zwei Muster:

    • Varianten des Konfigurationspakets: Gleiche Laufzeit, unterschiedliche Bundle-Versionen. Verwenden Sie diese Option, wenn es sich bei der Änderung ausschließlich um eine Konfiguration handelt (Aufforderung, Modell-ID, Werkzeugbeschreibungen).

    • Target-based Varianten: Verschiedene Gateway-Ziele, die auf unterschiedliche Runtime-Endpunkte verweisen. Verwenden Sie diese Option, wenn die Änderung Codeänderungen oder ein Framework-Upgrade beinhaltet oder wenn Sie völlig unterschiedliche Agentenimplementierungen vergleichen möchten. Jede Variante kann ihre eigene Online-Evaluierungskonfiguration haben.

  4. Setzen Sie die Gewinnervariante ein und wiederholen Sie den Vorgang: Leiten Sie 100% des Traffics an die Gewinnervariante weiter. Neue Traces aus der neuen Baseline bilden die Grundlage für die nächste Iteration.