View a markdown version of this page

Memahami pengamatan untuk sumber daya agen di AgentCore - Batu Dasar Amazon AgentCore

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memahami pengamatan untuk sumber daya agen di AgentCore

Bagian ini mendefinisikan konsep sesi, jejak, dan rentang yang berkaitan dengan pemantauan dan pengamatan agen.

Sesi

Sesi mewakili konteks interaksi lengkap antara pengguna dan agen. Sesi merangkum seluruh aliran percakapan atau interaksi, mempertahankan keadaan dan konteks di beberapa pertukaran. Setiap sesi memiliki pengenal unik dan menangkap siklus hidup penuh keterlibatan pengguna dengan agen, mulai dari inisialisasi hingga penghentian.

Sesi menyediakan kemampuan berikut untuk agen:

  • Persistensi konteks di beberapa interaksi dalam percakapan yang sama

  • Manajemen negara untuk memelihara informasi khusus pengguna

  • Pelacakan riwayat percakapan untuk pemahaman kontekstual

  • Alokasi sumber daya dan manajemen selama interaksi

  • Isolasi antara interaksi pengguna yang berbeda dengan agen yang sama

Dari perspektif pengamatan, sesi memberikan pandangan tingkat tinggi tentang pola keterlibatan pengguna, memungkinkan Anda memantau kinerja agen di seluruh metrik, pelacakan, dan rentang serta memahami bagaimana pengguna berinteraksi dengan agen Anda dari waktu ke waktu dan di berbagai kasus penggunaan.

Secara default, AgentCore menyediakan satu set metrik pengamatan di tingkat sesi untuk agen yang berjalan di AgentCore runtime. Anda dapat melihat metrik runtime di CloudWatch konsol Amazon di halaman pengamatan AI generatif. Halaman ini menawarkan berbagai grafik dan visualisasi untuk membantu Anda menafsirkan data agen Anda. AgentCore juga mengeluarkan seperangkat metrik default untuk sumber daya memori, sumber daya gateway, dan alat bawaan. Semua metrik ini dapat dilihat di CloudWatch. Selain metrik yang disediakan, log, dan rentang disediakan secara default untuk sumber daya memori, dan dengan menginstrumentasikan kode agen Anda, Anda dapat menangkap metrik, log, dan rentang khusus untuk agen Anda yang juga dapat dilihat di halaman pengamatan AI CloudWatch generatif. Lihat bagian berikut dan Lihat data pengamatan untuk AgentCore agen Amazon Bedrock Anda untuk mempelajari lebih lanjut.

Jejak

Pelacakan mewakili catatan terperinci dari siklus permintaan-respons tunggal dimulai dengan pemanggilan agen dan mungkin termasuk panggilan tambahan ke agen lain. Trace menangkap jalur eksekusi lengkap permintaan, termasuk semua langkah pemrosesan internal, panggilan layanan eksternal, poin keputusan, dan pemanfaatan sumber daya. Setiap jejak dikaitkan dengan sesi tertentu dan memberikan visibilitas terperinci ke dalam perilaku agen untuk interaksi tertentu.

Jejak termasuk komponen berikut untuk agen:

  • Meminta detail termasuk stempel waktu, parameter input, dan konteks

  • Langkah-langkah pemrosesan yang menunjukkan urutan operasi yang dilakukan

  • Pemanggilan alat dengan input/output parameter dan waktu eksekusi

  • Metrik pemanfaatan sumber daya seperti waktu pemrosesan

  • Informasi kesalahan termasuk detail pengecualian dan upaya pemulihan

  • Detail pembuatan respons dan keluaran akhir

Dari perspektif pengamatan, jejak memberikan wawasan mendalam tentang cara kerja internal agen Anda, memungkinkan Anda memecahkan masalah, mengoptimalkan kinerja, dan memahami pola perilaku. Dengan menganalisis data jejak, Anda dapat mengidentifikasi hambatan, mendeteksi anomali, dan memverifikasi bahwa agen Anda berfungsi seperti yang diharapkan di berbagai skenario dan input.

Untuk mengumpulkan data jejak, Anda perlu instrumen kode agen Anda menggunakan AWS Distro for Open Telemetry (ADOT). Lihat Meng aktifkan observabilitas dalam kode agen untuk AgentCore-hosted agen dan Meng aktifkan observabilitas untuk agen yang dihosting di luar AgentCore untuk mempelajari selengkapnya.

Rentang

Rentang mewakili unit kerja yang diskrit dan terukur dalam aliran eksekusi agen. Spans menangkap operasi berbutir halus yang terjadi selama pemrosesan permintaan, memberikan visibilitas terperinci ke dalam komponen internal dan langkah-langkah yang membentuk jejak lengkap. Setiap rentang memiliki waktu mulai dan akhir yang ditentukan, menciptakan garis waktu yang tepat dari aktivitas agen dan durasinya.

Rentang mencakup atribut penting berikut untuk pengamatan agen:

  • Nama operasi mengidentifikasi fungsi atau proses tertentu yang sedang dijalankan

  • Stempel waktu yang menandai waktu awal dan akhir operasi yang tepat

  • Parent-child hubungan yang menunjukkan bagaimana operasi bersarang dalam proses yang lebih besar

  • Tag dan atribut yang menyediakan metadata kontekstual tentang operasi

  • Peristiwa yang menandai kejadian signifikan dalam masa pakai rentang

  • Informasi status yang menunjukkan keberhasilan, kegagalan, atau status penyelesaian lainnya

  • Metrik pemanfaatan sumber daya khusus untuk operasi

Rentang membentuk struktur hierarkis di dalam jejak, dengan rentang induk mencakup rentang anak yang mewakili operasi yang lebih granular. Misalnya, rentang “kueri pengguna proses” tingkat tinggi mungkin berisi rentang anak untuk “parse input,” “ambil konteks,” “menghasilkan respons”, dan “format output.” Organisasi hierarkis ini menciptakan pohon eksekusi terperinci yang mengungkapkan aliran operasi lengkap dalam agen.

Secara default, AgentCore mengeluarkan satu set data rentang untuk sumber daya memori saja. Data ini dapat dilihat di CloudWatch Log dan sinyal CloudWatch Aplikasi. Untuk merekam data rentang untuk agen atau sumber daya gateway Anda, Anda perlu instrumen agen Anda. Lihat Meng aktifkan observabilitas dalam kode agen untuk AgentCore-hosted agen dan Meng aktifkan observabilitas untuk agen yang dihosting di luar AgentCore untuk mempelajari selengkapnya.

Hubungan Antara Sesi, Jejak, dan Rentang

Sesi, jejak, dan rentang membentuk hubungan hierarkis tiga tingkat dalam kerangka pengamatan untuk agen. Sesi berisi beberapa jejak, dengan setiap jejak mewakili interaksi diskrit dalam konteks sesi yang lebih luas. Setiap jejak, pada gilirannya, berisi beberapa rentang yang menangkap operasi dan langkah-langkah halus dalam interaksi itu. Struktur hierarkis ini memungkinkan Anda menganalisis perilaku agen pada tingkat perincian yang berbeda, dari pola sesi tingkat tinggi hingga aliran interaksi tingkat menengah hingga jalur eksekusi terperinci untuk operasi tertentu.

Hubungan antara ketiga komponen pengamatan ini dapat divisualisasikan sebagai:

  • Sesi (tingkat tertinggi) - Mewakili percakapan pengguna yang lengkap atau konteks interaksi

  • Jejak (tingkat menengah) - Merupakan siklus permintaan-respons individu dalam sesi

  • Rentang (tingkat terendah) - Merupakan operasi atau langkah tertentu dalam jejak

Hubungan multi-tier ini memungkinkan beberapa kemampuan pengamatan penting:

  • Analisis kontekstual interaksi individu dalam aliran percakapan mereka yang lebih luas

  • Korelasi permintaan terkait di seluruh perjalanan interaksi pengguna

  • Pemecahan masalah progresif dari anomali tingkat sesi hingga pola tingkat jejak hingga akar penyebab tingkat rentang

  • Profil kinerja komprehensif di berbagai dimensi temporal dan fungsional

  • Pemahaman holistik tentang pola perilaku agen dan evolusi selama percakapan

  • Identifikasi yang tepat dari hambatan kinerja di tingkat operasi melalui analisis rentang

Sementara jejak memberikan visibilitas ke dalam siklus permintaan-respons lengkap, rentang menawarkan wawasan yang lebih dalam tentang cara kerja internal siklus tersebut. Rentang mengungkapkan dengan tepat operasi mana yang menghabiskan waktu paling banyak, dari mana kesalahan berasal, dan bagaimana komponen yang berbeda berinteraksi dalam satu jejak. Rincian ini sangat berharga saat memecahkan masalah kompleks atau mengoptimalkan kinerja dalam implementasi agen yang canggih.

Dengan memanfaatkan data sesi, pelacakan, dan rentang dalam strategi pengamatan Anda, Anda dapat memperoleh wawasan komprehensif tentang perilaku, kinerja, dan efektivitas agen Anda di berbagai tingkat detail. Pendekatan multi-lapis untuk pengamatan ini mendukung peningkatan berkelanjutan, pemecahan masalah yang kuat, dan pengoptimalan implementasi agen Anda yang terinformasi, mulai dari pola percakapan tingkat tinggi hingga kinerja operasi individu.