View a markdown version of this page

Host-Agent oder Tools mit Amazon Bedrock Runtime AgentCore - Amazon Grundgestein AgentCore

Host-Agent oder Tools mit Amazon Bedrock Runtime AgentCore

Amazon Bedrock AgentCore Runtime bietet eine sichere, serverlose und speziell entwickelte Hosting-Umgebung für die Bereitstellung und Ausführung von KI-Agenten oder -Tools. Sie bietet die folgenden Vorteile:

Framework-unabhängig

AgentCore Mit Runtime können Sie beliebigen lokalen Agentencode mit wenigen Codezeilen in cloudnative Bereitstellungen umwandeln, unabhängig vom zugrunde liegenden Framework. Funktioniert nahtlos mit gängigen Frameworks wie LangGraph Strands und CrewAI. Sie können es auch mit benutzerdefinierten Agenten nutzen, die kein bestimmtes Framework verwenden.

Flexibilität des Modells

AgentCore Runtime funktioniert mit jedem Large Language Model, z. B. mit Modellen, die von Amazon Bedrock, Anthropic Claude, Google Gemini und OpenAI angeboten werden.

Protokollunterstützung

AgentCore Mit Runtime können Agenten über Model Context Protocol (MCP) oder Agent to Agent (A2A) mit anderen Agenten und Tools kommunizieren.

Isolierung von Sitzungen

In AgentCore Runtime läuft jede Benutzersitzung auf einer dedizierten MicroVM mit isolierten CPU-, Speicher- und Dateisystemressourcen. Dies trägt zu einer vollständigen Trennung zwischen Benutzersitzungen bei, gewährleistet Stateful-Reasoning-Prozesse und verhindert eine sitzungsübergreifende Datenkontamination. Nach Abschluss der Sitzung wird die gesamte MicroVM beendet und der Arbeitsspeicher bereinigt, sodass selbst bei der Arbeit mit nicht deterministischen KI-Prozessen deterministische Sicherheit gewährleistet ist.

Verlängerte Ausführungszeit

AgentCore Runtime unterstützt sowohl Interaktionen in Echtzeit als auch Workloads mit langer Laufzeit von bis zu 8 Stunden und ermöglicht so komplexe Argumentationsprozesse und asynchrone Workloads, die die Zusammenarbeit mehrerer Agenten oder ausgedehnte Problemlösungssitzungen erfordern können.

Persistente Dateisysteme

Runtime unterstützt die Beibehaltung des Dateisystemstatus über Sitzungszyklen hinweg. stop/resume Die Dateien, installierten Pakete und Build-Artefakte des Agenten können Sitzungsstopps ohne externen Speicher überstehen.

Consumption-based Preismodell

Runtime implementiert eine verbrauchsabhängige Preisgestaltung, bei der nur die tatsächlich verbrauchten Ressourcen berechnet werden. Im Gegensatz zu zuweisungsbasierten Modellen, bei denen Ressourcen vorab ausgewählt werden müssen, stellt Runtime die benötigten Ressourcen dynamisch bereit, ohne dass eine richtige Dimensionierung erforderlich ist. Der Service passt die CPU-Abrechnung an die tatsächliche aktive Verarbeitung an. Dadurch fallen in der Regel Gebühren für I/O Wartezeiten, in denen die Agenten hauptsächlich auf LLM-Antworten warten, an, während Ihr Sitzungsstatus kontinuierlich beibehalten wird.

Built-in authentication

AgentCore Runtime, unterstützt von AgentCore Identity, weist KI-Agenten unterschiedliche Identitäten zu und lässt sich nahtlos in Ihren Corporate Identity Provider wie Okta, Microsoft Entra ID oder Amazon Cognito integrieren, sodass sich Ihre Endbenutzer nur bei den Agenten authentifizieren können, auf die sie Zugriff haben. Darüber hinaus ermöglicht Runtime ausgehende Authentifizierungsflüsse für den sicheren Zugriff auf Dienste von Drittanbietern wie Slack, Zoom und GitHub — unabhängig davon, ob sie im Namen von Benutzern oder autonom (entweder mit OAuth- oder API-Schlüsseln) betrieben werden.

Agent-specific Beobachtbarkeit

AgentCore Runtime bietet spezielles integriertes Tracing, das die Argumentationsschritte der Agenten, Tool-Aufrufe und Modellinteraktionen erfasst und so einen klaren Einblick in die Entscheidungsprozesse der Agenten bietet — eine wichtige Funktion für das Debuggen und Prüfen des Verhaltens von KI-Agenten.

Verbesserte Handhabung von Nutzlasten

AgentCore Runtime kann 100 MB Payloads verarbeiten und ermöglicht so die nahtlose Verarbeitung mehrerer Modalitäten (Text, Bilder, Audio, Video) mit reichhaltigen Medieninhalten oder großen Datensätzen.

Bidirektionales Streaming

AgentCore Runtime unterstützt sowohl HTTP-API-Aufrufe als auch persistente WebSocket Verbindungen für bidirektionales Streaming in Echtzeit und ermöglicht so interaktive Anwendungen mit sofortigem Antwortfeedback und gleichbleibendem Konversationskontext.

Einheitlicher Satz agentenspezifischer Funktionen

AgentCore Runtime wird über ein einziges, umfassendes SDK bereitgestellt, das einen optimierten Zugriff auf alle AgentCore Funktionen wie Speicher, Tools und Gateway bietet. Durch diesen integrierten Ansatz entfällt der Integrationsaufwand, der normalerweise beim Aufbau einer gleichwertigen Agenteninfrastruktur aus unterschiedlichen Komponenten erforderlich ist.