View a markdown version of this page

效能最佳化 - Amazon Bedrock AgentCore

效能最佳化

若要最佳化閘道實作的效能，請考慮下列最佳實務：

將工具延遲降至最低

閘道的整體延遲主要取決於基礎工具的延遲。若要將延遲降至最低：

  • 在與閘道相同的區域中使用 Lambda 函數

  • 針對快速冷啟動最佳化 Lambda 函數

  • 針對需要低延遲的 Lambda 函數使用佈建並行

  • 確保 REST APIs具有低延遲和高可用性

使用高效的工具結構描述

設計良好的工具結構描述可以改善閘道的效能：

  • 盡可能簡化結構描述

  • 針對參數使用適當的資料類型

  • 包含參數的明確描述，以協助客服人員正確使用工具

  • 使用必要欄位，以確保客服人員提供必要的參數

啟用語意搜尋

語意搜尋可協助客服人員找到適合其任務的工具，改善客服人員閘道互動的整體效能。建立閘道時啟用語意搜尋：

import boto3

# Initialize the AgentCore control client
client = boto3.client('bedrock-agentcore-control', region_name="us-west-2")

# Create a gateway with semantic search enabled
gateway = client.create_gateway(
    name="semantic-search-gateway",
    description="A gateway with semantic search enabled",
    protocolConfiguration={
        "mcp": {
            "searchType": "SEMANTIC"
        }
    }
)
監控和最佳化

使用上一節所述的可觀測性功能來監控閘道的效能，並識別最佳化的機會：

  • 設定關鍵指標的 CloudWatch 警示

  • 分析日誌以識別模式和問題

  • 定期檢閱效能指標並視需要進行調整