Hébergez un agent ou des outils avec Amazon Bedrock Runtime AgentCore

AgentCore Runtime vous permet de transformer n'importe quel code d'agent local en déploiements natifs du cloud en quelques lignes de code, quel que soit le framework sous-jacent. Fonctionne parfaitement avec les frameworks populaires tels que LangGraph Strands et CrewAI. Vous pouvez également en tirer parti avec des agents personnalisés qui n'utilisent pas de framework spécifique.

AgentCore Runtime fonctionne avec tous les modèles de langage étendus, tels que les modèles proposés par Amazon Bedrock, Anthropic Claude, Google Gemini et OpenAI.

AgentCore Runtime permet aux agents de communiquer avec d'autres agents et outils via le protocole MCP (Model Context Protocol) ou A2A (agent to agent).

Dans AgentCore Runtime, chaque session utilisateur s'exécute sur une microVM dédiée avec des ressources de processeur, de mémoire et de système de fichiers isolées. Cela permet de créer une séparation complète entre les sessions utilisateur, de préserver les processus de raisonnement des agents avec état et d'empêcher la contamination des données entre les sessions. Une fois la session terminée, l'intégralité de la microVM est arrêtée et la mémoire est nettoyée, ce qui garantit une sécurité déterministe même lorsque vous travaillez avec des processus d'IA non déterministes.

AgentCore Runtime propose deux types de calcul. Choisissez MicroVMS pour des sessions entièrement gérées et sans serveur qui démarrent instantanément et évoluent à la demande, dans le cadre desquelles vous ne payez que ce que vous utilisez. Choisissez Instances pour exécuter des agents sur une infrastructure Amazon EC2 AWS gérée dans votre propre compte. Les instances prennent en charge des sessions persistantes de plusieurs jours, GPU-accelerated des charges de travail et plusieurs agents collaborateurs sur une instance partagée. Pour plus d'informations, consultez Exécuter des agents sur des instances avec des fournisseurs de capacité.

AgentCore Runtime prend en charge à la fois les interactions en temps réel et les charges de travail de longue durée, permettant un raisonnement complexe des agents et des charges de travail asynchrones qui peuvent impliquer une collaboration multi-agents ou des sessions de résolution de problèmes prolongées. Les sessions durent jusqu'à 8 heures sur des micromachines virtuelles, ou jusqu'à 14 jours sur des instances. Pour plus d'informations, consultez Configurer les paramètres de AgentCore cycle de vie d'Amazon Bedrock.

Runtime prend en charge la persistance de l'état du système de fichiers au cours des cycles de session stop/resume . Les fichiers de l'agent, les packages installés et les artefacts de génération peuvent survivre aux arrêts de session sans stockage externe.

Runtime met en œuvre une tarification basée sur la consommation qui ne facture que les ressources réellement consommées. Contrairement aux modèles basés sur l'allocation qui nécessitent une présélection des ressources, Runtime fournit de manière dynamique ce qui est nécessaire sans nécessiter de redimensionnement. Le service aligne la facturation du processeur sur le traitement actif réel, éliminant ainsi généralement les frais pendant les périodes d' I/O attente lorsque les agents attendent principalement des réponses LLM, tout en maintenant l'état de votre session en permanence.

AgentCore Runtime, optimisé par AgentCore Identity, attribue des identités distinctes aux agents IA et s'intègre parfaitement à votre fournisseur d'identité d'entreprise, tel qu'Okta, Microsoft Entra ID ou Amazon Cognito, permettant à vos utilisateurs finaux de s'authentifier uniquement auprès des agents auxquels ils ont accès. En outre, Runtime permet aux flux d'authentification sortants d'accéder en toute sécurité à des services tiers tels que Slack, Zoom et GitHub , qu'ils fonctionnent pour le compte des utilisateurs ou de manière autonome (à l'aide de clés OAuth ou API).

AgentCore Runtime fournit un suivi intégré spécialisé qui capture les étapes de raisonnement des agents, les appels d'outils et les interactions des modèles, offrant une visibilité claire sur les processus de prise de décision des agents, une fonctionnalité essentielle pour le débogage et l'audit des comportements des agents d'IA.

AgentCore Runtime peut traiter des charges utiles de 100 Mo, ce qui permet un traitement fluide de multiples modalités (texte, images, audio, vidéo), avec du contenu multimédia enrichi ou des ensembles de données volumineux.

AgentCore Runtime prend en charge à la fois les appels d'API HTTP et les WebSocket connexions persistantes pour un streaming bidirectionnel en temps réel, permettant des applications interactives avec un retour de réponse immédiat et un contexte de conversation maintenu.

AgentCore L'exécution est fournie via un SDK unique et complet qui fournit un accès simplifié à l'ensemble des AgentCore fonctionnalités, notamment la mémoire, les outils et la passerelle. Cette approche intégrée élimine le travail d'intégration généralement requis lors de la création d'une infrastructure d'agents équivalente à partir de composants disparates.