Agen host atau alat dengan Amazon Bedrock AgentCore Runtime

AgentCore Runtime memungkinkan Anda mengubah kode agen lokal apa pun menjadi penerapan cloud-native dengan beberapa baris kode apa pun kerangka kerja yang mendasarinya. Bekerja dengan mulus dengan kerangka kerja populer seperti LangGraph, Strands, dan CreWai. Anda juga dapat memanfaatkannya dengan agen khusus yang tidak menggunakan kerangka kerja tertentu.

AgentCore Runtime bekerja dengan Model Bahasa Besar apa pun, seperti model yang ditawarkan oleh Amazon Bedrock, Anthropic Claude, Google Gemini, dan OpenAI.

AgentCore Runtime memungkinkan agen berkomunikasi dengan agen dan alat lain melalui Model Context Protocol (MCP) atau Agent to Agent (A2A).

Dalam AgentCore Runtime, setiap sesi pengguna berjalan dalam microVM khusus dengan sumber daya CPU, memori, dan sistem file yang terisolasi. Ini membantu menciptakan pemisahan lengkap antara sesi pengguna, menjaga proses penalaran agen stateful dan membantu mencegah kontaminasi data lintas sesi. Setelah sesi selesai, seluruh microVM dihentikan dan memori disanitasi, memberikan keamanan deterministik bahkan ketika bekerja dengan proses AI non-deterministik.

AgentCore Runtime mendukung interaksi real-time dan beban kerja yang berjalan lama hingga 8 jam, memungkinkan penalaran agen yang kompleks dan beban kerja asinkron yang mungkin melibatkan kolaborasi multi-agen atau sesi pemecahan masalah yang diperpanjang.

Runtime mendukung status sistem file yang bertahan di seluruh siklus sesi. stop/resume File agen, paket yang diinstal, dan artefak build dapat bertahan dari penghentian sesi tanpa penyimpanan eksternal.

Runtime menerapkan harga berbasis konsumsi yang hanya membebankan biaya untuk sumber daya yang benar-benar dikonsumsi. Tidak seperti model berbasis alokasi yang memerlukan sumber daya pra-pemilihan, Runtime secara dinamis menyediakan apa yang dibutuhkan tanpa memerlukan ukuran yang tepat. Layanan ini menyelaraskan penagihan CPU dengan pemrosesan aktif aktual - biasanya menghilangkan biaya selama periode I/O tunggu ketika agen terutama menunggu respons LLM - sambil terus mempertahankan status sesi Anda.

AgentCore Runtime, didukung oleh AgentCore Identity, memberikan identitas yang berbeda kepada agen AI dan terintegrasi secara mulus dengan penyedia identitas perusahaan Anda seperti Okta, Microsoft Entra ID, atau Amazon Cognito, memungkinkan pengguna akhir Anda untuk mengautentikasi hanya ke agen yang dapat mereka akses. Selain itu, Runtime memungkinkan otentikasi keluar mengalir untuk mengakses layanan pihak ketiga dengan aman seperti Slack, Zoom, dan GitHub - baik beroperasi atas nama pengguna atau secara mandiri (menggunakan kunci OAuth atau API).

AgentCore Runtime menyediakan penelusuran bawaan khusus yang menangkap langkah-langkah penalaran agen, pemanggilan alat, dan interaksi model, memberikan visibilitas yang jelas ke dalam proses pengambilan keputusan agen, kemampuan penting untuk men-debug dan mengaudit perilaku agen AI.

AgentCore Runtime dapat memproses muatan 100MB yang memungkinkan pemrosesan mulus dari beberapa modalitas (teks, gambar, audio, video), dengan konten media kaya atau kumpulan data besar.

AgentCore Runtime mendukung panggilan HTTP API dan WebSocket koneksi persisten untuk streaming dua arah waktu nyata, memungkinkan aplikasi interaktif dengan umpan balik respons langsung dan konteks percakapan yang dipertahankan.

AgentCore Runtime disampaikan melalui SDK tunggal yang komprehensif yang menyediakan akses efisien ke AgentCore kemampuan lengkap termasuk Memory, Tools, dan Gateway. Pendekatan terintegrasi ini menghilangkan pekerjaan integrasi yang biasanya diperlukan saat membangun infrastruktur agen yang setara dari komponen yang berbeda.