使用 Amazon Bedrock AgentCore 运行时处理异步代理和长时间运行的代理

Amazon Bedrock AgentCore Runtime 可以处理异步处理和长时间运行的代理。异步任务允许您的代理在响应客户端后继续处理，并在不阻塞响应的情况下处理长时间运行的操作。通过异步处理，您的代理可以：

重要概念

异步处理模型

Amazon Bedrock AgentCore SDK 通过统一的 API 支持同步和异步处理。这为客户和代理开发人员创建了一种灵活的实现模式。代理客户端可以使用相同的 API，而无需区分客户端的同步和异步。由于能够在调用之间调用相同的会话，代理开发人员可以重复使用上下文，并在此上下文的基础上逐步构建，而无需实现复杂的任务管理逻辑。

运行时会话生命周期管理

代理代码使用 “/ping” 端点运行状况来传达其处理状态。/ping终端节点必须返回包含以下 JSON 有效负载的 HTTP 200 响应：

{"status": "HealthyBusy"}

响应包含一个必填字段和一个可选字段：

处于空闲状态 ("Healthy") 15 分钟的会话将自动终止。返回的会话在空闲超时后"HealthyBusy"仍处于活动状态。

实现异步任务

要开始使用，请安装bedrock-agentcore软件包：

pip install bedrock-agentcore

AgentCore SDK 为集成异步处理提供了以下选项。

完整示例

首先，安装所需的软件包：

pip install strands-agents

然后，使用以下代码创建一个 Python 文件：

import threading
import time
from strands import Agent, tool
from bedrock_agentcore.runtime import BedrockAgentCoreApp

# Initialize app with debug mode for task management
app = BedrockAgentCoreApp()

@tool
def start_background_task(duration: int = 5) -> str:
    """Start a simple background task that runs for specified duration."""
    # Start tracking the async task
    task_id = app.add_async_task("background_processing", {"duration": duration})

    # Run task in background thread
    def background_work():
        time.sleep(duration)  # Simulate work
        app.complete_async_task(task_id)  # Mark as complete

    threading.Thread(target=background_work, daemon=True).start()
    return f"Started background task (ID: {task_id}) for {duration} seconds. Agent status is now BUSY."

# Create agent with the tool
agent = Agent(tools=[start_background_task])

@app.entrypoint
def main(payload):
    """Main entrypoint - handles user messages."""
    user_message = payload.get("prompt", "Try: start_background_task(3)")
    return {"message": agent(user_message).message}

if __name__ == "__main__":
    print("🚀 Simple Async Strands Example")
    print("Test: curl -X POST http://localhost:8080/invocations -H 'Content-Type: application/json' -d '{\"prompt\": \"start a 3 second task\"}'")
    app.run()

此示例演示：

常见问题和解决方案

Long-running 15 分钟后代理被终止

当应用程序为单线程且 ping 线程被阻塞时，可能会发生这种情况。