Konsep inti untuk Amazon Bedrock AgentCore Gateway

AgentCore Gateway menyediakan jalur akses tunggal yang aman bagi agen untuk menjangkau alat, agen lain, dan model. Sebuah gateway dapat memiliki beberapa target di tiga kategori—MCP, HTTP, dan inferensi. Untuk target MCP, gateway beroperasi dalam mode agregasi, bertindak sebagai server MCP yang menggabungkan kemampuan semua target MCP-nya ke dalam server MCP virtual terpadu. Untuk target HTTP, gateway mengirimkan lalu lintas langsung ke target (misalnya, agen lain atau layanan A2A) tanpa agregasi atau terjemahan protokol. Untuk target inferensi, gateway merutekan permintaan LLM ke satu atau lebih penyedia model melalui titik akhir perutean berbasis model terpadu.

Target mendefinisikan backend yang terhubung dengan gateway. Ada tiga kategori target. Target MCP mendefinisikan API, fungsi Lambda, server MCP, atau definisi alat yang digabungkan gateway ke dalam server MCP terpadu. Target HTTP mendefinisikan HTTP-based layanan, seperti agen AgentCore Runtime dan agen lainnya, yang diminta oleh proxy gateway secara langsung. Inferensi menargetkan rute lalu lintas LLM ke satu atau lebih penyedia model melalui titik akhir terpadu, memilih tujuan berdasarkan model yang diminta.

Setiap gateway harus memiliki konfigurasi otorisasi masuk untuk mengontrol akses klien. Gateway mendukung jenis otorisasi masuk berikut: OAuth (JWT) untuk otorisasi berbasis token, IAM (Versi AWS Tanda Tangan 4) untuk otorisasi berbasis AWS identitas, mengautentikasi hanya untuk memvalidasi token saat mendelegasikan otorisasi ke target, dan tidak ada otorisasi untuk pengembangan dan skenario pengujian. Anda dapat mengonfigurasi otorisasi saat membuat atau memperbarui gateway.

Saat Gateway melakukan panggilan ke API atau fungsi Lambda Anda, Gateway harus menggunakan beberapa kredensi untuk mengakses fungsionalitas tersebut. Saat Anda membuat target Smithy atau Lambda, Gateway menggunakan peran eksekusi terlampir untuk melakukan panggilan ke target tersebut. Saat membuat target server OpenAPI atau MCP, Anda dapat melampirkan penyedia kredensi yang menyimpan AgentCore kredensi Kunci API atau OAuth, mengonfigurasi IAM-based otorisasi dengan penandatanganan SigV4, atau tidak menggunakan otorisasi untuk titik akhir yang dapat diakses publik.

Target MCP beroperasi dalam mode agregasi. Gateway menggabungkan kemampuan semua target MCP ke dalam satu server MCP virtual terpadu. Klien melihat satu tools/list respons terkonsolidasi yang mencakup alat dari semua target MCP terlampir. Target MCP mendukung sinkronisasi kemampuan, pencarian alat semantik, dan OAuth berkaki tiga (3LO) di tingkat target. Jenis target MCP meliputi fungsi Lambda, API Gateway REST API, spesifikasi OpenAPI, model Smithy, server MCP, templat penyedia integrasi bawaan, dan konektor bawaan ke alat.

Target HTTP mengirim lalu lintas langsung ke target tanpa agregasi atau terjemahan protokol. Target HTTP tidak mendukung sinkronisasi kemampuan atau pencarian alat semantik. Klien menangani setiap target secara individual melalui routing berbasis jalur. Jenis target HTTP mencakup agen Amazon Bedrock AgentCore Runtime, agen lain (termasuk layanan Agent-to-Agent (A2A)), server MCP eksternal, dan titik akhir HTTP apa pun yang dicapai melalui target passthrough.

Inferensi menargetkan rute lalu lintas model bahasa besar (LLM) ke satu atau lebih penyedia model melalui titik akhir terpadu. Gateway memilih penyedia tujuan berdasarkan model bidang dalam permintaan, memberikan agen antarmuka tunggal yang konsisten di seluruh penyedia seperti Amazon Bedrock, OpenAI, dan Anthropic.

Ubah REST API yang ada menjadi MCP-compatible alat dengan menyediakan spesifikasi OpenAPI. Gateway secara otomatis menangani terjemahan antara format MCP dan REST.

Connect Lambda berfungsi sebagai alat, memungkinkan Anda menerapkan logika bisnis khusus dalam bahasa pemrograman pilihan Anda. Gateway memanggil fungsi Lambda dan menerjemahkan respons ke dalam format MCP.

Gunakan model Smithy untuk menentukan antarmuka API Anda dan menghasilkan alat. MCP-compatible Smithy adalah bahasa untuk mendefinisikan layanan dan SDK yang dapat digunakan dengan layanan. AWS Gateway dapat menggunakan model Smithy untuk menghasilkan alat yang berinteraksi dengan AWS layanan atau API khusus.

Gunakan server MCP jarak jauh untuk menghubungkan alat, petunjuk, dan sumber daya ke runtime agen Anda. Gateway mendukung alat MCP, petunjuk, dan kemampuan sumber daya. Alat diperlukan; petunjuk dan sumber daya bersifat opsional. Prompt menyediakan template prompt yang dapat digunakan kembali dengan argumen. Sumber daya menyediakan data kontekstual yang diidentifikasi oleh URI. Selama sinkronisasi, gateway menemukan semua kemampuan yang diiklankan oleh server MCP.

Gunakan templat yang telah dikonfigurasi sebelumnya dari penyedia integrasi.

Gunakan konektor bawaan untuk alat.