性能优化
要优化 Gateway 实现的性能,请考虑以下最佳实践:
- 最大限度减少工具延迟
-
网关的总体延迟在很大程度上取决于底层工具的延迟。要最大限度地减少延迟:
-
在与您的网关相同的区域中使用 Lambda 函数
-
优化 Lambda 函数以实现快速冷启动
-
为需要低延迟的 Lambda 函数使用预配置的并发性
-
确保 REST API 具有低延迟和高可用性
-
- 使用高效的工具架构
-
Well-designed 工具架构可以提高网关的性能:
-
尽量简化架构
-
为参数使用适当的数据类型
-
包括参数的清晰描述,以帮助工程师正确使用工具
-
使用必填字段确保代理提供必要的参数
-
- 启用语义搜索
-
语义搜索可帮助代理找到适合其任务的工具,从而提高代理与网关交互的整体性能。创建网关时启用语义搜索:
import boto3 # Initialize the AgentCore control client client = boto3.client('bedrock-agentcore-control', region_name="us-west-2") # Create a gateway with semantic search enabled gateway = client.create_gateway( name="semantic-search-gateway", description="A gateway with semantic search enabled", protocolConfiguration={ "mcp": { "searchType": "SEMANTIC" } } ) - 监控和优化
-
使用上一节中描述的可观测性功能来监控网关的性能并确定优化的机会:
-
为关键指标设置 CloudWatch 警报
-
分析日志以识别模式和问题
-
定期审查绩效指标并根据需要进行调整
-