Memahami observabilitas untuk sumber daya agen di AgentCore
Bagian ini mendefinisikan konsep sesi, jejak, dan bentang yang berkaitan dengan pemantauan dan pengamatan agen.
Sesi
Sesi mewakili konteks interaksi lengkap antara pengguna dan agen. Sesi merangkum seluruh aliran percakapan atau interaksi, mempertahankan status dan konteks di beberapa bursa. Setiap sesi memiliki pengenal unik dan menangkap siklus hidup penuh keterlibatan pengguna dengan agen, mulai dari inisialisasi hingga penghentian.
Sesi menyediakan kemampuan berikut untuk agen:
-
Ketekunan konteks di berbagai interaksi dalam percakapan yang sama
-
Manajemen negara untuk memelihara informasi khusus pengguna
-
Pelacakan riwayat percakapan untuk pemahaman kontekstual
-
Alokasi dan manajemen sumber daya selama interaksi
-
Isolasi antara interaksi pengguna yang berbeda dengan agen yang sama
Dari perspektif observabilitas, sesi memberikan tampilan tingkat tinggi tentang pola keterlibatan pengguna, memungkinkan Anda memantau kinerja agen di seluruh metrik, jejak, dan rentang dan untuk memahami bagaimana pengguna berinteraksi dengan agen Anda dari waktu ke waktu dan di berbagai kasus penggunaan.
Secara default, AgentCore menyediakan satu set metrik observabilitas di tingkat sesi untuk agen yang berjalan di runtime. AgentCore Anda dapat melihat metrik runtime di CloudWatch konsol Amazon di halaman observabilitas AI generatif. Halaman ini menawarkan berbagai grafik dan visualisasi untuk membantu Anda menafsirkan data agen Anda. AgentCore juga mengeluarkan satu set metrik default untuk sumber daya memori, sumber daya gateway, dan alat bawaan. Semua metrik ini dapat dilihat di CloudWatch. Selain metrik yang disediakan, log, dan rentang disediakan secara default untuk sumber daya memori, dan dengan menginstrumentasi kode agen Anda, Anda dapat menangkap metrik, log, dan rentang khusus untuk agen Anda yang juga dapat dilihat di halaman observabilitas AI generatif. CloudWatch Lihat bagian berikut dan Lihat data observabilitas untuk AgentCore agen Amazon Bedrock Anda untuk mempelajari selengkapnya.
Jejak
Jejak mewakili catatan rinci dari siklus permintaan-respons tunggal yang dimulai dengan pemanggilan agen dan mungkin termasuk panggilan tambahan ke agen lain. Traces menangkap jalur eksekusi lengkap permintaan, termasuk semua langkah pemrosesan internal, panggilan layanan eksternal, titik keputusan, dan pemanfaatan sumber daya. Setiap jejak dikaitkan dengan sesi tertentu dan memberikan visibilitas granular ke dalam perilaku agen untuk interaksi tertentu.
Jejak meliputi komponen-komponen berikut untuk agen:
-
Permintaan detail termasuk stempel waktu, parameter input, dan konteks
-
Langkah-langkah pemrosesan yang menunjukkan urutan operasi yang dilakukan
-
Pemanggilan alat dengan input/output parameter dan waktu eksekusi
-
Metrik pemanfaatan sumber daya seperti waktu pemrosesan
-
Informasi kesalahan termasuk rincian pengecualian dan upaya pemulihan
-
Detail pembuatan respons dan hasil akhir
Dari perspektif observabilitas, jejak memberikan wawasan mendalam tentang cara kerja internal agen Anda, memungkinkan Anda memecahkan masalah, mengoptimalkan kinerja, dan memahami pola perilaku. Dengan menganalisis data jejak, Anda dapat mengidentifikasi kemacetan, mendeteksi anomali, dan memverifikasi bahwa agen Anda berfungsi seperti yang diharapkan di berbagai skenario dan masukan.
Untuk mengumpulkan data jejak, Anda perlu menginstruksikan kode agen Anda menggunakan AWS Distro for Open Telemetry (ADOT). Lihat Mengaktifkan observabilitas dalam kode agen untuk AgentCore-hosted agen dan Mengaktifkan observabilitas untuk agen yang dihosting di luar untuk mempelajari lebih lanjut. AgentCore
Rentang
Rentang mewakili unit kerja yang terpisah dan terukur dalam aliran eksekusi agen. Rentang menangkap operasi berbutir halus yang terjadi selama pemrosesan permintaan, memberikan visibilitas terperinci ke dalam komponen internal dan langkah-langkah yang membentuk jejak lengkap. Setiap rentang memiliki waktu mulai dan akhir yang ditentukan, menciptakan garis waktu yang tepat dari aktivitas agen dan durasinya.
Rentang mencakup atribut penting berikut untuk observabilitas agen:
-
Nama operasi mengidentifikasi fungsi atau proses tertentu yang sedang dijalankan
-
Stempel waktu menandai waktu mulai dan akhir operasi yang tepat
-
Parent-child hubungan yang menunjukkan bagaimana operasi bersarang dalam proses yang lebih besar
-
Tag dan atribut yang menyediakan metadata kontekstual tentang operasi
-
Peristiwa yang menandai kejadian signifikan dalam masa hidup rentang
-
Informasi status yang menunjukkan keberhasilan, kegagalan, atau status penyelesaian lainnya
-
Metrik pemanfaatan sumber daya khusus untuk operasi
Bentang membentuk struktur hierarkis di dalam jejak, dengan bentang induk mencakup bentang anak yang mewakili operasi yang lebih terperinci. Misalnya, rentang “permintaan pengguna proses” tingkat tinggi mungkin berisi rentang anak untuk “masukan parse,” “mengambil konteks,” “menghasilkan respons,” dan “output format.” Organisasi hierarkis ini menciptakan pohon eksekusi rinci yang mengungkapkan aliran lengkap operasi dalam agen.
Secara default, AgentCore output satu set data rentang untuk sumber daya memori saja. Data ini dapat dilihat di CloudWatch Log dan sinyal CloudWatch Aplikasi. Untuk merekam data rentang untuk agen atau sumber daya gateway Anda, Anda perlu menginstruksikan agen Anda. Lihat Mengaktifkan observabilitas dalam kode agen untuk AgentCore-hosted agen dan Mengaktifkan observabilitas untuk agen yang dihosting di luar untuk mempelajari lebih lanjut. AgentCore
Hubungan Antara Sesi, Jejak, dan Rentang
Sesi, jejak, dan bentang membentuk hubungan hierarkis tiga tingkat dalam kerangka observabilitas untuk agen. Sesi berisi beberapa jejak, dengan setiap jejak mewakili interaksi diskrit dalam konteks sesi yang lebih luas. Setiap jejak, pada gilirannya, berisi beberapa rentang yang menangkap operasi berbutir halus dan langkah-langkah dalam interaksi itu. Struktur hierarkis ini memungkinkan Anda untuk menganalisis perilaku agen pada berbagai tingkat granularitas, dari pola sesi tingkat tinggi hingga aliran interaksi tingkat menengah hingga jalur eksekusi terperinci untuk operasi tertentu.
Hubungan antara ketiga komponen observabilitas ini dapat divisualisasikan sebagai:
-
Sesi (tingkat tertinggi) - Mewakili percakapan pengguna lengkap atau konteks interaksi
-
Jejak (tingkat menengah) - Mewakili siklus permintaan-respons individu dalam satu sesi
-
Rentang (level terendah) - Mewakili operasi atau langkah tertentu dalam jejak
Hubungan multi-tier ini memungkinkan beberapa kemampuan observabilitas penting:
-
Analisis kontekstual interaksi individu dalam alur percakapan mereka yang lebih luas
-
Korelasi permintaan terkait di seluruh perjalanan interaksi pengguna
-
Pemecahan masalah progresif dari anomali tingkat sesi hingga pola tingkat penelusuran hingga akar penyebab tingkat rentang
-
Profil kinerja komprehensif di berbagai dimensi temporal dan fungsional
-
Pemahaman holistik tentang pola perilaku agen dan evolusi sepanjang percakapan
-
Identifikasi yang tepat dari kemacetan kinerja pada tingkat operasi melalui analisis rentang
Sementara jejak memberikan visibilitas ke dalam siklus permintaan-respons yang lengkap, rentang menawarkan wawasan yang lebih dalam tentang cara kerja internal siklus tersebut. Rentang mengungkapkan dengan tepat operasi mana yang paling banyak menghabiskan waktu, di mana kesalahan berasal, dan bagaimana komponen yang berbeda berinteraksi dalam satu jejak. Perincian ini sangat berharga saat memecahkan masalah kompleks atau mengoptimalkan kinerja dalam implementasi agen yang canggih.
Dengan memanfaatkan data sesi, pelacakan, dan rentang dalam strategi observabilitas Anda, Anda dapat memperoleh wawasan komprehensif tentang perilaku, kinerja, dan efektivitas agen Anda di berbagai tingkat detail. Pendekatan multi-layer untuk observabilitas ini mendukung peningkatan berkelanjutan, pemecahan masalah yang kuat, dan pengoptimalan informasi implementasi agen Anda, dari pola percakapan tingkat tinggi hingga kinerja operasi individu.
