View a markdown version of this page

Cara kerjanya - Batuan Dasar Amazon AgentCore
Komponen kunciOtentikasi dan keamananFitur tambahanIkhtisar implementasi

Cara kerjanya

Amazon Bedrock AgentCore Runtime menangani penskalaan, manajemen sesi, isolasi keamanan, dan manajemen infrastruktur, memungkinkan Anda untuk fokus membangun pengalaman agen cerdas daripada kompleksitas operasional. Dengan memanfaatkan fitur dan kemampuan yang dijelaskan di sini, Anda dapat membangun, menerapkan, dan mengelola agen AI canggih yang memberikan nilai bagi pengguna Anda sambil membantu menjaga keamanan dan keandalan tingkat perusahaan.

Komponen kunci

AgentCore Runtime

AgentCore Runtime adalah komponen dasar yang menghosting agen AI atau kode alat Anda. Ini mewakili aplikasi kontainer yang memproses input pengguna, mempertahankan konteks, dan menjalankan tindakan menggunakan kemampuan AI. Saat Anda membuat agen, Anda menentukan perilaku, kemampuan, dan alat yang dapat diakses. Misalnya, agen dukungan pelanggan mungkin menjawab pertanyaan produk, memproses pengembalian, dan meningkatkan masalah kompleks kepada perwakilan manusia.

Anda dapat membangun dan menyebarkan agen ke AgentCore Runtime menggunakan AgentCore CLI, SDK AgentCore Python, atau langsung melalui SDK.AWS Dengan AgentCore Python SDK, Anda dapat menentukan agen Anda menggunakan kerangka kerja populer seperti, CreWai LangGraph, atau Strands Agents. SDK menangani kompleksitas infrastruktur, memungkinkan Anda untuk fokus pada logika dan kemampuan agen.

Setiap AgentCore Runtime:

  • Memiliki identitas yang unik

  • Berversi untuk mendukung penerapan dan pembaruan terkontrol

Versi

Setiap AgentCore Runtime mempertahankan versi yang tidak dapat diubah yang menangkap snapshot lengkap konfigurasi pada titik waktu tertentu:

  • Saat Anda membuat AgentCore Runtime, Versi 1 (V1) dibuat secara otomatis

  • Setiap pembaruan konfigurasi (gambar kontainer, pengaturan protokol, pengaturan jaringan) membuat versi baru

  • Setiap versi berisi semua konfigurasi yang diperlukan untuk eksekusi

Sistem pembuatan versi ini memberikan riwayat penerapan dan kemampuan rollback yang andal.

Titik akhir

Titik akhir menyediakan titik akses yang dapat dialamatkan ke versi Runtime tertentu. AgentCore Setiap titik akhir:

  • Memiliki ARN unik untuk doa

  • Mereferensikan versi tertentu dari Agent Runtime Anda

  • Menyediakan akses stabil ke agen Anda bahkan saat Anda memperbarui implementasi

Detail titik akhir utama:

  • Titik akhir “DEFAULT” dibuat secara otomatis saat Anda menelepon CreateAgentRuntimedan menunjuk ke versi terbaru

  • Saat Anda memperbarui AgentCore Runtime, versi baru dibuat tetapi DEFAULT titik akhir secara otomatis diperbarui untuk mereferensikannya

  • Anda dapat membuat titik akhir khusus dengan CreateAgentRuntimeEndpointoperasi untuk lingkungan yang berbeda (dev, test, prod)

  • Ketika pengguna membuat permintaan ke titik akhir, permintaan diselesaikan ke versi agen tertentu yang direferensikan oleh titik akhir tersebut

Titik akhir memiliki status siklus hidup yang berbeda:

  • CREATING- Status awal selama pembuatan titik akhir

  • CREATE_FAILED- Menunjukkan kegagalan pembuatan karena izin atau masalah lainnya

  • READY- Endpoint operasional dan menerima permintaan

  • UPDATING- Endpoint sedang dimodifikasi untuk referensi versi baru

  • UPDATE_FAILED- Menunjukkan kegagalan operasi pembaruan

Anda dapat memperbarui titik akhir tanpa downtime, memungkinkan transisi dan rollback versi yang mulus.

Sesi

Sesi mewakili konteks interaksi individual antara pengguna dan Runtime Anda AgentCore . Setiap sesi:

  • Diidentifikasi oleh unik yang runtimeSessionId disediakan oleh aplikasi Anda, atau oleh Runtime itu sendiri dalam pemanggilan pertama jika dibiarkan kosong runtimeSessionId

  • Berjalan dalam microVM khusus dengan sumber daya CPU, memori, dan sistem file yang sepenuhnya terisolasi

  • Mempertahankan konteks di berbagai interaksi dalam percakapan yang sama

  • Dapat bertahan hingga 8 jam dari total runtime

Status sesi meliputi:

  • Aktif - Saat ini memproses permintaan atau menjalankan tugas latar belakang

  • Idle - Tidak memproses permintaan apa pun tetapi mempertahankan konteks sambil menunggu interaksi berikutnya

  • Dihentikan - Sesi berakhir karena tidak aktif (15 menit), mencapai masa pakai maksimum (8 jam), atau dianggap tidak sehat

Karakteristik sesi penting:

  • Setelah penghentian sesi, seluruh microVM dihentikan dan memori disanitasi

  • Permintaan berikutnya dengan hal yang sama runtimeSessionId setelah penghentian akan menciptakan lingkungan eksekusi baru

  • Isolasi sesi mencegah kontaminasi data lintas sesi dan memastikan keamanan

  • Status sesi bersifat fana dan tidak boleh digunakan untuk daya tahan jangka panjang (gunakan AgentCore Memori untuk daya tahan konteks)

Isolasi lengkap antar sesi ini sangat penting untuk keamanan perusahaan, terutama ketika berhadapan dengan proses AI non-deterministik.

Otentikasi dan keamanan

Kontrol otentikasi masuk yang dapat mengakses agen Anda melalui AWS Identity and Access Management atau OAuth 2.0, memvalidasi token pembawa dari penyedia identitas sebelum mengizinkan permintaan untuk dilanjutkan. Otentikasi keluar memungkinkan agen Anda mengakses layanan pihak ketiga dengan aman menggunakan kunci OAuth atau API, dengan kredensi pengelolaan AgentCore Identitas dalam mode yang didelegasikan pengguna atau otonom. Untuk informasi selengkapnya, lihat Mengautentikasi dan mengotorisasi dengan Auth Masuk dan Auth Keluar.

Otentikasi masuk

Inbound Auth, didukung oleh AgentCore Identity, mengontrol siapa yang dapat mengakses dan memanggil agen atau alat Anda di Runtime. AgentCore

Metode autentikasi

  • AWS IAM (SiGv4): Menggunakan AWS kredensil untuk verifikasi identitas

  • OAuth 2.0: Terintegrasi dengan penyedia identitas eksternal

Opsi konfigurasi OAuth

  • URL Penemuan: Titik akhir penemuan OpenID Connect penyedia identitas Anda

  • Audiens yang Diizinkan: Daftar nilai audiens yang valid harus berisi token Anda

  • Klien yang Diizinkan: Daftar pengidentifikasi klien yang dapat mengakses agen ini

Alur autentikasi

  1. Pengguna akhir mengautentikasi dengan penyedia identitas Anda (Amazon Cognito, Okta, Microsoft Entra ID)

  2. Aplikasi klien Anda menerima token pembawa setelah otentikasi berhasil

  3. Klien meneruskan token ini di header otorisasi saat memanggil agen

  4. AgentCore Runtime memvalidasi token dengan server otorisasi

  5. Jika valid, permintaan diproses; jika tidak valid, itu ditolak

Ini memastikan hanya pengguna yang diautentikasi dengan otorisasi yang tepat yang dapat mengakses agen Anda.

Otentikasi keluar

Outbound Auth, didukung oleh Amazon Bedrock AgentCore Identity, memungkinkan agen Anda yang dihosting di AgentCore Runtime mengakses layanan pihak ketiga dengan aman:

Metode autentikasi

  • OAuth: Untuk layanan yang mendukung aliran OAuth

  • Kunci API: Untuk layanan yang menggunakan otentikasi berbasis kunci

Mode otentikasi

  • User-delegated: Bertindak atas nama pengguna akhir dengan kredensialnya

  • Otonom: Bertindak secara independen dengan kredensil tingkat layanan

Layanan yang didukung

  • Sistem perusahaan seperti Slack, Zoom, dan GitHub

  • AWS layanan

  • API kustom dan sumber data

AgentCore Identity mengelola kredensil ini dengan aman, mencegah eksposur kredensi dalam kode agen atau log Anda.

Fitur tambahan

Pemrosesan asinkron

AgentCore Runtime mendukung beban kerja yang berjalan lama melalui:

  • Penanganan tugas latar belakang untuk operasi yang melebihi request/response siklus

  • Pelacakan status otomatis melalui titik /ping akhir

  • Support untuk operasi berdurasi hingga 8 jam

Untuk informasi selengkapnya, lihat Menangani agen asinkron dan berjalan lama dengan Amazon Bedrock Runtime. AgentCore

Respons streaming

Agen dapat melakukan streaming sebagian hasil saat tersedia daripada menunggu pemrosesan lengkap. Ini memungkinkan Anda memberikan pengalaman pengguna yang lebih responsif, terutama untuk operasi yang menghasilkan konten dalam jumlah besar atau membutuhkan waktu yang signifikan untuk menyelesaikannya. Untuk informasi selengkapnya, lihat tanggapan agen Streaming.

WebSocket API

AgentCore Runtime menyediakan WebSocketdukungan untuk koneksi streaming dua arah waktu nyata untuk komunikasi agen interaktif. Ini memungkinkan pengalaman agen yang lebih responsif dan interaktif. Untuk informasi selengkapnya, lihat Memulai menggunakan streaming dua arah. WebSocket

Dukungan protokol

AgentCore Runtime mendukung beberapa protokol komunikasi:

Ikhtisar implementasi

Berikut cara memulai dengan AgentCore Runtime. Untuk contoh lengkapnya, lihat Memulai AgentCore CLI.

Siapkan kode agen atau alat Anda

  • Tentukan logika agen Anda menggunakan kerangka kerja AI atau kode khusus apa pun

  • Tambahkan titik akhir HTTP yang diperlukan menggunakan AgentCore SDK atau implementasi khusus

  • Package dependensi dalam file requirements.txt

Menyebarkan agen atau alat Anda

  • Buat dan dorong image container ke Amazon ECR secara langsung atau melalui SDK AgentCore

  • Buat AgentCore Runtime menggunakan gambar kontainer

  • Versi awal (V1) dan titik akhir DEFAULT dibuat secara otomatis

Panggil agen atau alat Anda

Kelola dan amati sesi, dan buat pembaruan

  • Gunakan ID sesi yang sama untuk interaksi tindak lanjut guna mempertahankan konteks

  • Tinjau log, jejak, dan metrik observabilitas

  • Terapkan pembaruan dengan memodifikasi AgentCore Runtime Anda (membuat versi baru)

  • Kontrol peluncuran dengan memperbarui titik akhir untuk menunjuk ke versi baru