View a markdown version of this page

Optimalisasi kinerja - Batuan Dasar Amazon AgentCore

Optimalisasi kinerja

Untuk mengoptimalkan kinerja implementasi Gateway Anda, pertimbangkan praktik terbaik berikut:

Minimalkan latensi alat

Latensi keseluruhan gateway Anda sangat ditentukan oleh latensi alat yang mendasarinya. Untuk meminimalkan latensi:

  • Gunakan fungsi Lambda di wilayah yang sama dengan gateway Anda

  • Optimalkan fungsi Lambda Anda untuk memulai dingin yang cepat

  • Gunakan konkurensi yang disediakan untuk fungsi Lambda yang membutuhkan latensi rendah

  • Pastikan REST API memiliki latensi rendah dan ketersediaan tinggi

Gunakan skema alat yang efisien

Well-designed skema alat dapat meningkatkan kinerja gateway Anda:

  • Jaga skema sesederhana mungkin

  • Gunakan tipe data yang sesuai untuk parameter

  • Sertakan deskripsi yang jelas untuk parameter untuk membantu agen menggunakan alat dengan benar

  • Gunakan bidang wajib untuk memastikan bahwa agen menyediakan parameter yang diperlukan

Aktifkan pencarian semantik

Pencarian semantik membantu agen menemukan alat yang tepat untuk tugas mereka, meningkatkan kinerja keseluruhan interaksi agen-gateway Anda. Aktifkan pencarian semantik saat membuat gateway Anda:

import boto3

# Initialize the AgentCore control client
client = boto3.client('bedrock-agentcore-control', region_name="us-west-2")

# Create a gateway with semantic search enabled
gateway = client.create_gateway(
    name="semantic-search-gateway",
    description="A gateway with semantic search enabled",
    protocolConfiguration={
        "mcp": {
            "searchType": "SEMANTIC"
        }
    }
)
Pantau dan optimalkan

Gunakan fitur observabilitas yang dijelaskan di bagian sebelumnya untuk memantau kinerja gateway Anda dan mengidentifikasi peluang untuk pengoptimalan:

  • Mengatur CloudWatch alarm untuk metrik utama

  • Menganalisis log untuk mengidentifikasi pola dan masalah

  • Tinjau metrik kinerja secara teratur dan lakukan penyesuaian sesuai kebutuhan