Tuan rumah agen atau alat dengan Amazon Bedrock Runtime AgentCore

AgentCore Runtime memungkinkan Anda mengubah kode agen lokal apa pun menjadi penerapan cloud-native dengan beberapa baris kode terlepas dari kerangka kerja yang mendasarinya. Bekerja mulus dengan kerangka kerja populer seperti LangGraph, Strands, dan CrewAI. Anda juga dapat memanfaatkannya dengan agen khusus yang tidak menggunakan kerangka kerja tertentu.

AgentCore Runtime bekerja dengan Model Bahasa Besar apa pun, seperti model yang ditawarkan oleh Amazon Bedrock, Anthropic Claude, Google Gemini, dan OpenAI.

AgentCore Runtime memungkinkan agen berkomunikasi dengan agen dan alat lain melalui Model Context Protocol (MCP) atau Agent to Agent (A2A).

Dalam AgentCore Runtime, setiap sesi pengguna berjalan di microVM khusus dengan sumber daya CPU, memori, dan filesystem yang terisolasi. Ini membantu menciptakan pemisahan lengkap antara sesi pengguna, melindungi proses penalaran agen status, dan membantu mencegah kontaminasi data lintas sesi. Setelah sesi selesai, seluruh microVM dihentikan dan memori disanitasi, memberikan keamanan deterministik bahkan ketika bekerja dengan proses AI non-deterministik.

AgentCore Runtime menawarkan dua jenis komputasi. Pilih MicroVM untuk sesi tanpa server yang dikelola sepenuhnya yang dimulai secara instan dan skala sesuai permintaan, di mana Anda hanya membayar untuk apa yang Anda gunakan. Pilih Instans untuk menjalankan agen pada infrastruktur AWS Amazon EC2 terkelola di akun Anda sendiri. Instans mendukung sesi persisten, multi-hari, GPU-accelerated beban kerja, dan beberapa agen yang berkolaborasi pada instans bersama. Untuk informasi selengkapnya, lihat Menjalankan agen pada Instans dengan penyedia kapasitas.

AgentCore Runtime mendukung interaksi real-time dan beban kerja yang berjalan lama, memungkinkan penalaran agen yang kompleks dan beban kerja asinkron yang mungkin melibatkan kolaborasi multi-agen atau sesi pemecahan masalah yang diperpanjang. Sesi berjalan hingga 8 jam di MicroVM, atau hingga 14 hari pada Instans. Untuk informasi selengkapnya, lihat Meng onfigurasi pengaturan AgentCore siklus hidup Amazon Bedrock.

Runtime mendukung status sistem file yang bertahan di seluruh siklus sesi stop/resume . File agen, paket yang diinstal, dan artefak build dapat bertahan dari penghentian sesi tanpa penyimpanan eksternal.

Runtime mengimplementasikan penetapan harga berbasis konsumsi yang hanya mengenakan biaya untuk sumber daya yang benar-benar dikonsumsi. Tidak seperti model berbasis alokasi yang memerlukan sumber daya pra-pemilihan, Runtime secara dinamis menyediakan apa yang dibutuhkan tanpa memerlukan ukuran yang tepat. Layanan ini menyelaraskan penagihan CPU dengan pemrosesan aktif aktual - biasanya menghilangkan biaya selama periode I/O tunggu ketika agen terutama menunggu tanggapan LLM - sambil terus mempertahankan status sesi Anda.

AgentCore Runtime, didukung oleh AgentCore Identity, memberikan identitas berbeda ke agen AI dan terintegrasi dengan mulus dengan penyedia identitas perusahaan Anda seperti Okta, Microsoft Entra ID, atau Amazon Cognito, memungkinkan pengguna akhir Anda untuk melakukan otentikasi hanya ke agen yang mereka akses. Selain itu, Runtime memungkinkan aliran otentikasi keluar untuk mengakses layanan pihak ketiga dengan aman seperti Slack, Zoom, dan GitHub - apakah beroperasi atas nama pengguna atau secara mandiri (menggunakan kunci OAuth atau API).

AgentCore Runtime menyediakan pelacakan bawaan khusus yang menangkap langkah-langkah penalaran agen, pemanggilan alat, dan interaksi model, memberikan visibilitas yang jelas ke dalam proses pengambilan keputusan agen, kemampuan penting untuk men-debug dan mengaudit perilaku agen AI.

AgentCore Runtime dapat memproses muatan 100MB yang memungkinkan pemrosesan mulus dari beberapa modalitas (teks, gambar, audio, video), dengan konten media kaya atau kumpulan data besar.

AgentCore Runtime mendukung panggilan API HTTP dan WebSocket koneksi persisten untuk streaming dua arah waktu nyata, memungkinkan aplikasi interaktif dengan umpan balik respons langsung dan konteks percakapan yang terpelihara.

AgentCore Runtime disampaikan melalui satu SDK komprehensif yang menyediakan akses efisien ke AgentCore kemampuan lengkap termasuk Memori, Alat, dan Gateway. Pendekatan terintegrasi ini menghilangkan pekerjaan integrasi yang biasanya diperlukan saat membangun infrastruktur agen setara dari komponen yang berbeda.