本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
使用亚马逊 Bedrock R AgentCore untime 托管代理或工具
Amazon Bedrock AgentCore Runtime 为部署和运行 AI 代理或工具提供安全、无服务器和专门构建的托管环境。它具备下列优点:
- 与框架无关
-
AgentCore 无论底层框架如何,Runtime 都允许您使用几行代码将任何本地代理代码转换为云原生部署。可与流行的框架(如 LangGraph Strands 和 CrewaI)无缝协作。您也可以将其与不使用特定框架的自定义代理一起使用。
- 模型灵活性
-
AgentCore Runtime 适用于任何大型语言模型,例如亚马逊 Bedrock、Anthropic Claude、谷歌 Gemini 和 OpenAI 提供的模型。
- 协议支持
-
AgentCore 运行时允许代理通过模型上下文协议 (MCP) 或代理对代理 (A2A) 与其他代理和工具进行通信。
- 会话隔离
-
在 AgentCore Runtime 中,每个用户会话都在具有独立的 CPU、内存和文件系统资源的专用 microVM 中运行。这有助于在用户会话之间建立完全的分离,保护有状态的代理推理过程,并有助于防止跨会话数据污染。会话完成后,整个 microVM 将终止并清理内存,即使在使用非确定性 AI 进程时也能提供确定性的安全性。
- 计算类型选择
-
AgentCore 运行时提供两种计算类型。选择 MicroVMS 可进行完全托管的无服务器会话,这些会话可立即启动并按需扩展,您只需按使用量付费。选择实例,在您自己的账户中 AWS 托管的 Amazon EC2 基础设施上运行代理。实例支持持续的多日会话、 GPU-accelerated 工作负载和共享实例上的多个协作代理。有关更多信息,请参阅使用容量提供商在实例上运行代理。
- 延长执行时间
-
AgentCore 运行时支持实时交互和长时间运行的工作负载,支持复杂的代理推理和可能涉及多代理协作或长时间问题解决会话的异步工作负载。会话在微型虚拟机上运行长达 8 小时,在实例上运行最长可达 14 天。有关更多信息,请参阅配置 Amazon Bedrock AgentCore 生命周期设置。
- 永久文件系统
-
运行时支持跨会话 stop/resume 周期保持文件系统状态。代理的文件、已安装的包和构建项目可以在没有外部存储的情况下在会话停止后继续运行。
- Consumption-based 定价模型
-
Runtime 实行基于消耗的定价,仅对实际消耗的资源收费。与需要预先选择资源的基于分配的模型不同,Runtime 无需调整规模即可动态配置所需的资源。该服务使 CPU 计费与实际活跃处理保持一致,通常是在代理主要 I/O 等待 LLM 响应的等待期间免除费用,同时持续保持您的会话状态。
- Built-in authentication
-
AgentCore 由 I AgentCore dentity 提供支持的 Runtime 为 AI 代理分配不同的身份,并与您的企业身份提供商(例如 Okta、Microsoft Entra ID 或 Amazon Cognito)无缝集成,使您的最终用户能够仅向他们有权访问的代理进行身份验证。此外,Runtime允许出站身份验证流安全地访问第三方服务,例如Slack、Zoom以及 GitHub ——无论是代表用户还是自主操作(使用OAuth或API密钥)。
- Agent-specific 可观察性
-
AgentCore Runtime 提供专业的内置跟踪,可捕获代理推理步骤、工具调用和模型交互,为代理决策过程提供清晰的可见性,这是调试和审计 AI 代理行为的关键功能。
- 增强的有效载荷处理能力
-
AgentCore Runtime 可以处理 100MB 的有效负载,从而可以无缝处理多种模式(文本、图像、音频、视频),包括富媒体内容或大型数据集。
- 双向直播
-
AgentCore Runtime 支持 HTTP API 调用和持久 WebSocket 连接,以实现实时双向流式传输,从而使交互式应用程序能够即时响应反馈并保持对话上下文。
- 一组统一的代理特定功能
-
AgentCore Runtime 通过单一、全面的 SDK 交付,该软件开发工具包可简化对内存、工具和网关等完整 AgentCore 功能的访问。这种集成方法消除了使用不同的组件构建等效代理基础架构时通常需要的集成工作。
注意
更新的平台版本 V2 可用。它从快照启动代理,无论并发量或映像大小如何都能保持冷启动的快速和一致,并降低常开或突发代理的成本。有关更多信息,请参阅平台版本。