Komponen kunci Versi platform Otentikasi dan keamanan Fitur tambahan Ikhtisar implementasi

MicroVM

Amazon Bedrock AgentCore Runtime menangani penskalaan, manajemen sesi, isolasi keamanan, dan manajemen infrastruktur, memungkinkan Anda untuk fokus membangun pengalaman agen cerdas daripada kompleksitas operasional. Dengan memanfaatkan fitur dan kemampuan yang dijelaskan di sini, Anda dapat membangun, menerapkan, dan mengelola agen AI canggih yang memberikan nilai kepada pengguna Anda sambil membantu menjaga keamanan dan keandalan tingkat perusahaan.

Komponen kunci

AgentCore Waktu pelaksanaan

AgentCore Runtime adalah komponen dasar yang menghosting agen AI atau kode alat Anda. Ini mewakili aplikasi kontainer yang memproses input pengguna, mempertahankan konteks, dan mengeksekusi tindakan menggunakan kemampuan AI. Saat Anda membuat agen, Anda menentukan perilaku, kemampuan, dan alat yang dapat diakses. Misalnya, agen dukungan pelanggan mungkin menjawab pertanyaan produk, memproses pengembalian, dan meningkatkan masalah kompleks kepada perwakilan manusia.

Anda dapat membangun dan menerapkan agen ke AgentCore Runtime menggunakan AgentCore CLI, AgentCore Python SDK atau langsung melalui AWS SDK. Dengan AgentCore Python SDK, Anda dapat menentukan agen Anda menggunakan kerangka kerja populer seperti LangGraph, CrewAI, atau Strands Agents. SDK menangani kompleksitas infrastruktur, memungkinkan Anda untuk fokus pada logika dan kemampuan agen.

Setiap AgentCore Runtime:

Memiliki identitas yang unik
Berversi untuk mendukung penerapan dan pembaruan terkontrol

Versi

Setiap AgentCore Runtime mempertahankan versi yang tidak dapat diubah yang menangkap snapshot lengkap konfigurasi pada titik waktu tertentu:

Saat Anda membuat AgentCore Runtime, Versi 1 (V1) dibuat secara otomatis
Setiap pembaruan untuk konfigurasi (gambar kontainer, pengaturan protokol, pengaturan jaringan) membuat versi baru
Setiap versi berisi semua konfigurasi yang diperlukan untuk eksekusi

Sistem pembuatan versi ini menyediakan riwayat penerapan yang andal dan kemampuan rollback.

Titik akhir

Titik akhir menyediakan titik akses yang dapat dialamatkan ke versi tertentu dari Runtime Anda. AgentCore Setiap titik akhir:

Memiliki ARN unik untuk pemanggilan
Referensi versi tertentu dari Agent Runtime Anda
Menyediakan akses yang stabil ke agen Anda bahkan saat Anda memperbarui implementasi

Detail titik akhir utama:

Titik akhir “DEFAULT” dibuat secara otomatis saat Anda memang CreateAgentRuntime gil dan menunjuk ke versi terbaru
Saat Anda memperbarui AgentCore Runtime Anda, versi baru dibuat tetapi DEFAULT titik akhir secara otomatis diperbarui untuk mereferensikannya
Anda dapat membuat titik akhir khusus dengan CreateAgentRuntimeEndpoint operasi untuk lingkungan yang berbeda (dev, test, prod)
Ketika pengguna membuat permintaan ke titik akhir, permintaan diselesaikan ke versi agen tertentu yang direferensikan oleh titik akhir tersebut

Titik akhir memiliki status siklus hidup yang berbeda:

CREATING- Keadaan awal selama pembuatan titik akhir
CREATE_FAILED- Menunjukkan kegagalan pembuatan karena izin atau masalah lainnya
READY- Endpoint bersifat operasional dan menerima permintaan
UPDATING- Endpoint sedang dimodifikasi untuk mereferensikan versi baru
UPDATE_FAILED- Menunjukkan kegagalan operasi pembaruan

Anda dapat memperbarui titik akhir tanpa downtime, memungkinkan transisi dan rollback versi yang mulus.

Sesi

Sesi mewakili konteks interaksi individu antara pengguna dan AgentCore Runtime Anda. Setiap sesi:

Diidentifikasi oleh unik yang runtimeSessionId disediakan oleh aplikasi Anda, atau oleh Runtime itu sendiri dalam pemanggilan pertama jika runtimeSessionId dibiarkan kosong
Berjalan di microVM khusus dengan sumber daya CPU, memori, dan filesystem yang sepenuhnya terisolasi
Mempertahankan konteks di beberapa interaksi dalam percakapan yang sama
Dapat bertahan hingga 8 jam dari total runtime

Status sesi meliputi:

Aktif - Saat ini memproses permintaan atau menjalankan tugas latar belakang
Idle - Tidak memproses permintaan apa pun tetapi mempertahankan konteks sambil menunggu interaksi berikutnya
D ihentikan - Sesi berakhir karena tidak aktif (15 menit), mencapai masa pakai maksimum (8 jam), atau dianggap tidak sehat

Karakteristik sesi penting:

Setelah penghentian sesi, seluruh microVM dihentikan dan memori dibersihkan
Permintaan berikutnya dengan hal yang sama runtimeSessionId setelah penghentian akan menciptakan lingkungan eksekusi baru
Isolasi sesi mencegah kontaminasi data lintas sesi dan memastikan keamanan
Status sesi bersifat sementara dan tidak boleh digunakan untuk daya tahan jangka panjang (gunakan AgentCore Memori untuk daya tahan konteks)

Isolasi lengkap antar sesi ini sangat penting untuk keamanan perusahaan, terutama ketika berhadapan dengan proses AI non-deterministik.

Versi platform

Versi platform mengontrol bagaimana AgentCore Runtime memulai agen Anda. Anda mengaturnya dengan platformVersion bidang (V1atauV2) pada setiap runtime agen. V1 adalah default. Versi platform berlaku untuk runtime agen itu sendiri; itu terpisah dari versi runtime yang menangkap riwayat konfigurasi Anda.

Amazon Bedrock AgentCore Runtime V2 memulai agen Anda dari snapshot, yang membuat start dingin tetap cepat dan konsisten terlepas dari konkurensi atau ukuran gambar. AgentCore Runtime menyiapkan lingkungan Anda sekali dan mengambil snapshot darinya, lalu mengembalikan snapshot itu untuk setiap instance baru alih-alih menginisialisasi lingkungan Anda pada setiap awal.

Mulai dingin yang konsisten: V2 menjaga latensi start dingin tetap konsisten terlepas dari konkurensi atau ukuran gambar, karena setiap instans mengembalikan snapshot yang disiapkan alih-alih menginisialisasi lingkungan Anda. Ini paling penting untuk gambar kontainer besar, yang sebaliknya lambat dimuat pada setiap start dingin.
Biaya lebih rendah untuk agen yang selalu aktif atau meledak: Biaya V2 berdasarkan apa yang digunakan agen Anda secara aktif. AgentCore Runtime mengambil kembali memori saat agen Anda melepaskannya, dan mengurangi overhead platform.

catatan

Memulihkan dari snapshot mengubah cara Anda menyusun kode agen. Untuk mempelajari cara mengoptimalkan agen Anda dan mendapatkan hasil maksimal dari platform versi V2, lihat Meng optimalkan agen Anda untuk AgentCore Runtime V2.

Wilayah yang Didukung

V2 tersedia di Wil AWS ayah berikut:

AS Timur (Virginia Utara), us-east-1
AS Timur (Ohio), us-east-2
AS Barat (Oregon), us-west-2
Eropa (Irlandia), eu-west-1
Asia Pasifik (Tokyo), ap-northeast-1

Aktifkan V2

Anda mengatur versi platform untuk setiap runtime agen. Atur saat Anda membuat runtime, atau memperbarui runtime yang ada untuk memindahkannya di antara versi platform. Jika Anda menghilangkan platformVersion saat membuat runtime, runtime menggunakan V1. Jika Anda menghilangkannya saat memperbarui runtime, runtime mempertahankan versi platform saat ini.

contoh

AWS Management Console

Buka AgentCore konsol Amazon Bedrock dan pilih Runtime.
Pada halaman Runtime, pilih Buat runtime.
Masukkan Nama untuk agen atau alat.
Untuk tipe Compute, pilih Micro VMS.
Di bawah Agent/tool sumber, pilih jenis sumber Anda dan berikan artefak, seperti URI gambar wadah atau kode Anda.
Untuk versi Platform, pilih V2.
(Opsional) Konfigurasikan autentikasi Masuk, Konfigurasi lanjutan, dan Izin, seperti peran eksekusi IAM dan kunci enkripsi KMS.
Pilih Buat runtime. AgentCore membuat runtime agen versi 1 dan titik DEFAULT akhir yang menunjukkannya.

AWS CLI

Tet --platform-version V2 apkan pada create-agent-runtime perintah.


aws bedrock-agentcore-control create-agent-runtime \
  --agent-runtime-name "my-agent" \
  --role-arn "arn:aws:iam::111122223333:role/AgentExecutionRole" \
  --agent-runtime-artifact '{
    "containerConfiguration": {
      "containerUri": "111122223333.dkr.ecr.us-west-2.amazonaws.com/my-agent:latest"
    }
  }' \
  --network-configuration '{"networkMode": "PUBLIC"}' \
  --platform-version V2

Untuk mengonfirmasi versi platform, hubungiget-agent-runtime.


aws bedrock-agentcore-control get-agent-runtime \
  --agent-runtime-id my-agent-ABCDE12345 \
  --query platformVersion

AWS SDK

Contoh berikut menggunakan boto3 untuk membuat runtime agen pada V2.


import boto3

client = boto3.client("bedrock-agentcore-control", region_name="us-west-2")

client.create_agent_runtime(
    agentRuntimeName="my-agent",
    roleArn="arn:aws:iam::111122223333:role/AgentExecutionRole",
    agentRuntimeArtifact={
        "containerConfiguration": {
            "containerUri": "111122223333.dkr.ecr.us-west-2.amazonaws.com/my-agent:latest"
        }
    },
    networkConfiguration={"networkMode": "PUBLIC"},
    platformVersion="V2",
)

Jaw create_agent_runtime abannya tidak kembaliplatformVersion. Panggil get_agent_runtime untuk mengonfirmasinya.

Apa yang diharapkan

Operasi pembuatan atau pembaruan V2 menyiapkan dan memotret lingkungan Anda, sehingga berperilaku berbeda dari V1.

Membuat dan memperbarui membutuhkan waktu beberapa menit

Pada V1, runtime mencapai READY dalam hitungan detik. Pada V2, menyiapkan snapshot menambahkan biaya satu kali, dan menjalankan pembuatan dan pembaruan selama beberapa menit sebelum runtime mencapaiREADY.

Wadah Anda harus dilaporkan sehat dalam waktu 120 detik

AgentCore Runtime mengambil snapshot pada /ping respons sehat pertama. Laporkan kesehatan /ping hanya setelah inisialisasi selesai, sehingga snapshot menangkap agen yang diinisialisasi sepenuhnya. Jika runtime tidak melaporkan sehat dalam 120 detik setelah startup, pembuatan gagal dengan kesalahan pemeriksaan kesehatan.

Jajak pendapat untuk status terminal

updateOper create asi dan kembali saat runtime masih CREATING atauUPDATING. Jika Anda memang delete gil update atau sebelum runtime mencapai status terminal, operasi kembaliConflictException. Jajak pendapat get_agent_runtime sampai status sudah READY atau berakhirFAILED, dan tunggu beberapa menit agar runtime V2 tercapaiREADY.


import time

def wait_until_ready(client, agent_runtime_id):
    while True:
        status = client.get_agent_runtime(agentRuntimeId=agent_runtime_id)["status"]
        if status == "READY" or status.endswith("FAILED"):
            return status
        time.sleep(5)

catatan

V2 saat ini membatasi ukuran total variabel lingkungan agen Anda menjadi 1,5 KB untuk penerapan kode langsung dan 2,5 KB untuk agen kontainer, dibandingkan dengan 4 KB pada V1. Jika konfigurasi Anda melebihi batas ini, permintaan gagal dengan aValidationException. AgentCore Runtime akan menaikkan batas ini agar cocok dengan V1.

Siklus hidup snapshot

Pada V2, AgentCore Runtime mengelola snapshot untuk setiap versi runtime yang menunjuk titik akhir. Anda tidak membuat atau menghapus snapshot secara langsung. Mereka mengikuti perubahan runtime dan titik akhir Anda.

Dibuat: AgentCore Runtime menyiapkan snapshot ketika titik akhir menunjuk ke versi. Saat Anda membuat AgentCore runtime, Runtime menghosting versi Anda di titik akhir default dan menyiapkan snapshot-nya. Sebuah runtime dapat memiliki lebih dari satu titik akhir yang menunjuk ke versi yang berbeda, sehingga runtime dapat memiliki lebih dari satu snapshot pada satu waktu.
Diperbarui: Saat Anda memperbarui AgentCore runtime, Runtime menghosting versi baru pada titik akhir default dan menyiapkan snapshot baru. Versi yang dihosting sebelumnya tidak lagi direferensikan, jadi AgentCore Runtime menandai snapshot untuk dihapus dan menghapusnya setelah sesi yang ada berakhir.
Dihapus: AgentCore Runtime menghapus snapshot ketika tidak ada titik akhir yang menunjukkannya. Hal ini terjadi saat Anda memperbarui runtime, menghapus referensi titik akhir ke versi, atau menghapus runtime atau titik akhir runtime. Penghapusan dapat memakan waktu hingga 8 jam, yang merupakan masa pakai sesi maksimum, karena sesi yang sudah berjalan pada snapshot berlanjut hingga berakhir.

Infrastruktur sebagai kode

AWS CloudFormation dan AWS CDK saat ini tidak mendukung pengaturanplatformVersion.

Otentikasi dan keamanan

Otentikasi masuk mengontrol siapa yang dapat mengakses agen Anda melalui Manajemen AWS Identitas dan Akses atau OAuth 2.0, memvalidasi token pembawa dari penyedia identitas sebelum mengizinkan permintaan dilanjutkan. Otentikasi keluar memungkinkan agen Anda mengakses layanan pihak ketiga dengan aman menggunakan kunci OAuth atau API, dengan kredentif pengelolaan AgentCore Identitas dalam mode yang didelegasikan pengguna atau otonom. Untuk informasi selengkapnya, lihat Meng autentikasi dan mengotorisasi dengan Auth Inbound dan Auth Outbound.

Otentikasi masuk

Auth Inbound, didukung oleh AgentCore Identity, mengontrol siapa yang dapat mengakses dan memanggil agen atau alat Anda di Runtime. AgentCore

Metode autentikasi

AWS IAM (SIGv4): Menggunakan AWS kredenSIAL untuk verifikasi identitas
OAuth 2.0: Terintegrasi dengan penyedia identitas eksternal

Opsi konfigurasi OAuth

URL Penemuan: Titik akhir penemuan OpenID Connect penyedia identitas Anda
Audiens yang Diizinkan: Daftar nilai audiens valid yang harus berisi token Anda
Klien yang Diizinkan: Daftar pengidentifikasi klien yang dapat mengakses agen ini

Alur autentikasi

Pengguna akhir melakukan otentikasi dengan penyedia identitas Anda (Amazon Cognito, Okta, Microsoft Entra ID)
Aplikasi klien Anda menerima token pembawa setelah otentikasi berhasil
Klien meneruskan token ini di header otorisasi saat memanggil agen
AgentCore Runtime memvalidasi token dengan server otorisasi
Jika valid, permintaan diproses; jika tidak valid, itu ditolak

Ini memastikan hanya pengguna yang diautentikasi dengan otorisasi yang tepat yang dapat mengakses agen Anda.

Otentikasi keluar

Outbound Auth, didukung oleh Amazon Bedrock AgentCore Identity, memungkinkan agen Anda yang dihosting di AgentCore Runtime mengakses layanan pihak ketiga dengan aman:

Metode autentikasi

OAuth: Untuk layanan yang mendukung aliran OAuth
Kunci API: Untuk layanan yang menggunakan otentikasi berbasis kunci

Mode otentikasi

User-delegated: Bertindak atas nama pengguna akhir dengan kredensialnya
Otonom: Bertindak secara independen dengan kredenSIAL tingkat layanan

Layanan yang didukung

Sistem perusahaan seperti Slack, Zoom, dan GitHub
AWS layanan
API kustom dan sumber data

AgentCore Identity mengelola kredenSIAL ini dengan aman, mencegah paparan kredensia dalam kode atau log agen Anda.

Fitur tambahan

Pemrosesan asinkron

AgentCore Runtime mendukung beban kerja yang berjalan lama melalui:

Penanganan tugas latar belakang untuk operasi yang melebihi request/response siklus
Pelacakan status otomatis melalui titik /ping akhir
Dukungan untuk operasi hingga durasi 8 jam

Untuk informasi selengkapnya, lihat Men angani agen asinkron dan yang berjalan lama dengan Amazon Bed AgentCore rock Runtime.

Streaming tanggapan

Agen dapat melakukan streaming hasil parSIAL saat tersedia daripada menunggu pemrosesan lengkap. Ini memungkinkan Anda memberikan pengalaman pengguna yang lebih responsif, terutama untuk operasi yang menghasilkan konten dalam jumlah besar atau membutuhkan waktu yang signifikan untuk menyelesaikannya. Untuk informasi selengkapnya, lihat Streaming respons agen.

WebSocket API

AgentCore Runtime menyediakan WebSocket dukungan untuk koneksi streaming dua arah waktu nyata untuk komunikasi agen interaktif. Ini memungkinkan pengalaman agen yang lebih responsif dan interaktif. Untuk informasi selengkapnya, lihat Memulai dengan streaming dua arah menggunakan WebSocket.

Dukungan protokol

AgentCore Runtime mendukung beberapa protokol komunikasi:

HTTP: Titik akhir API REST langsung untuk request/response pola tradisional. Untuk informasi selengkapnya, lihat Mem ulai dengan AgentCore CLI.
MCP: Protokol Konteks Model untuk alat dan server agen. Untuk informasi selengkapnya, lihat Men yebarkan server MCP di AgentCore Runtime.
A2A: Agent-to-Agent protokol untuk komunikasi dan penemuan multi-agen. Untuk informasi selengkapnya, lihat Men yebarkan server A2A di AgentCore Runtime.

Ikhtisar implementasi

Berikut cara memulai dengan AgentCore Runtime. Untuk contoh lengkapnya, lihat Memulai dengan AgentCore CLI.

Siapkan kode agen atau alat Anda

Tentukan logika agen Anda menggunakan kerangka kerja AI atau kode khusus apa pun
Tambahkan titik akhir HTTP yang diperlukan menggunakan AgentCore SDK atau implementasi kustom
Paket dependensi dalam file requirements.txt

Menyebarkan agen atau alat Anda

Buat dan dorong gambar kontainer ke Amazon ECR secara langsung atau melalui AgentCore SDK
Buat AgentCore Runtime menggunakan image container
Versi awal (V1) dan titik akhir DEFAULT dibuat secara otomatis

Panggil agen atau alat Anda

Menghasilkan ID sesi unik untuk setiap percakapan pengguna
Hubun InvokeAgentRuntime gi InvokeAgentRuntimeWithWebSocketStream operasi atau dengan ARN agen Anda dan ID sesi
Lewati masukan pengguna dalam payload permintaan

Kelola dan amati sesi, dan buat pembaruan

Gunakan ID sesi yang sama untuk interaksi tindak lanjut guna mempertahankan konteks
Tinjau log, jejak, dan metrik pengamatan
Menyebarkan pembaruan dengan memodifikasi AgentCore Runtime Anda (membuat versi baru)
Kontrol peluncuran dengan memperbarui titik akhir untuk menunjuk ke versi baru

Awas Javascript dinonaktifkan atau tidak tersedia di browser Anda.

Untuk menggunakan Dokumentasi AWS, Javascript harus diaktifkan. Lihat halaman Bantuan browser Anda untuk petunjuk.

Konvensi Dokumen

Cara kerjanya

Contoh