View a markdown version of this page

성능 최적화 - Amazon Bedrock AgentCore

성능 최적화

게이트웨이 구현의 성능을 최적화하려면 다음 모범 사례를 고려하세요.

도구 지연 시간 최소화

게이트웨이의 전체 지연 시간은 대부분 기본 도구의 지연 시간에 따라 결정됩니다. 지연 시간을 최소화하려면:

  • 게이트웨이와 동일한 리전에서 Lambda 함수 사용

  • 빠른 콜드 스타트를 위한 Lambda 함수 최적화

  • 짧은 지연 시간이 필요한 Lambda 함수에 프로비저닝된 동시성 사용

  • REST APIs 지연 시간이 짧고 가용성이 높은지 확인

효율적인 도구 스키마 사용

잘 설계된 도구 스키마는 게이트웨이의 성능을 개선할 수 있습니다.

  • 스키마를 최대한 단순하게 유지

  • 파라미터에 적절한 데이터 형식 사용

  • 에이전트가 도구를 올바르게 사용하는 데 도움이 되는 파라미터에 대한 명확한 설명 포함

  • 필수 필드를 사용하여 에이전트가 필요한 파라미터를 제공하는지 확인합니다.

의미 체계 검색 활성화

의미 체계 검색을 사용하면 에이전트가 작업에 적합한 도구를 찾아 에이전트-게이트웨이 상호 작용의 전반적인 성능을 개선할 수 있습니다. 게이트웨이를 생성할 때 의미 체계 검색을 활성화합니다.

import boto3

# Initialize the AgentCore control client
client = boto3.client('bedrock-agentcore-control', region_name="us-west-2")

# Create a gateway with semantic search enabled
gateway = client.create_gateway(
    name="semantic-search-gateway",
    description="A gateway with semantic search enabled",
    protocolConfiguration={
        "mcp": {
            "searchType": "SEMANTIC"
        }
    }
)
모니터링 및 최적화

이전 섹션에 설명된 관찰성 기능을 사용하여 게이트웨이의 성능을 모니터링하고 최적화 기회를 식별합니다.

  • 주요 지표에 대한 CloudWatch 경보 설정

  • 로그를 분석하여 패턴 및 문제 식별

  • 성능 지표를 정기적으로 검토하고 필요에 따라 조정합니다.