View a markdown version of this page

AgentCore data observabilitas runtime yang dihasilkan - Batuan Dasar Amazon AgentCore

AgentCore data observabilitas runtime yang dihasilkan

Metrik runtime yang disediakan oleh AgentCore memberi Anda visibilitas ke tingkat aktivitas eksekusi agen, latensi pemrosesan, pemanfaatan sumber daya, dan tingkat kesalahan. AgentCore juga menyediakan metrik agregat untuk total pemanggilan dan sesi.

Metrik runtime observabilitas

Daftar berikut menjelaskan metrik runtime yang disediakan oleh. AgentCore Metrik runtime dikumpulkan pada interval satu menit. Untuk mempelajari selengkapnya tentang melihat metrik runtime, lihat Melihat data observabilitas untuk agen Amazon Bedrock Anda. AgentCore

Invokasi

Menampilkan jumlah total permintaan yang dibuat ke API Data Plane. Setiap panggilan API dihitung sebagai satu pemanggilan, terlepas dari ukuran payload permintaan atau status respons.

Doa (agregat)

Menampilkan jumlah total pemanggilan di semua sumber daya

Pembatasan

Menampilkan jumlah permintaan yang dibatasi oleh layanan karena melebihi TPS yang diizinkan (Transaksi Per Detik) atau batas kuota. Permintaan ini kembali ThrottlingException dengan kode status HTTP 429. Pantau metrik ini untuk menentukan apakah Anda perlu meninjau kuota layanan atau mengoptimalkan pola permintaan.

Kesalahan Sistem

Menunjukkan jumlah kesalahan sisi server yang ditemui AgentCore selama pemrosesan permintaan. Tingkat kesalahan sisi server yang tinggi dapat menunjukkan potensi masalah infrastruktur atau layanan yang memerlukan penyelidikan. Lihat Jenis kesalahan untuk daftar kemungkinan kode kesalahan.

Kesalahan Pengguna

Merupakan jumlah kesalahan sisi klien yang dihasilkan dari permintaan yang tidak valid. Ini membutuhkan tindakan pengguna untuk menyelesaikannya. Tingkat kesalahan sisi klien yang tinggi dapat menunjukkan masalah dengan pemformatan permintaan atau izin yang perlu ditangani. Lihat Jenis kesalahan untuk daftar kemungkinan kode kesalahan.

Latensi

Total waktu berlalu antara menerima permintaan dan mengirim token respons akhir. Merupakan waktu pemrosesan end-to-end yang lengkap dari permintaan.

Total Kesalahan

Jumlah total kesalahan sistem dan pengguna. Di AgentCore konsol Amazon Bedrock, metrik ini menampilkan jumlah kesalahan sebagai persentase dari jumlah total pemanggilan.

Hitungan Sesi

Menunjukkan jumlah sesi agen baru yang dibuat dalam periode pelaporan. Setiap sesi dihitung sekali pada waktu pembuatan; pemanggilan berikutnya ke sesi yang sama tidak menambah metrik ini. Ini adalah penghitung kumulatif, bukan ukuran sesi aktif saat ini. Berguna untuk memantau penggunaan platform secara keseluruhan, tingkat pembuatan sesi yang sedang tren, dan memahami pola keterlibatan pengguna.

Sesi (agregat)

Menampilkan jumlah total sesi baru yang dibuat di semua sumber daya dalam periode pelaporan.

ActiveSessionCount

Menampilkan jumlah sesi yang sedang aktif untuk akun Anda. Berbeda dengan SessionCount metrik (penghitung kumulatif), metrik ini adalah pengukur waktu nyata yang menunjukkan berapa banyak sesi yang berjalan pada saat tertentu. Amazon Bedrock AgentCore menerbitkan metrik ini sekali per menit per jenis layanan. Gunakan untuk memantau pemanfaatan kapasitas saat ini, mengatur alarm untuk lonjakan penggunaan yang tidak terduga, dan memahami konsumsi kuota sesi Anda. Gunakan Service dimensi — dengan nilaiAgentCore.Runtime,AgentCore.CodeInterpreter, atau AgentCore.Browser — untuk memfilter metrik ini berdasarkan jenis beban kerja. Amazon Bedrock AgentCore menerbitkan metrik ini langsung ke AWS akun Anda di namespace. AWS/Bedrock-AgentCore

ActiveStreamingConnections

(WebSocket hanya) Menunjukkan jumlah WebSocket koneksi aktif per agen saat ini. Pantau metrik ini untuk memahami penggunaan koneksi dan mendeteksi penurunan atau lonjakan koneksi untuk perencanaan kapasitas. Satu-satunya statistik yang berarti adalah jumlah 1 menit.

InboundStreamingBytesProcessed

(WebSocket hanya) Menampilkan jumlah total byte yang berhasil diproses dalam WebSocket bingkai yang diterima dari klien ke wadah agen. Gunakan metrik ini untuk memantau throughput data dan mengidentifikasi pola penggunaan.

OutboundStreamingBytesProcessed

(WebSocket hanya) Menunjukkan jumlah total byte yang berhasil diproses dalam WebSocket bingkai yang dikirim dari wadah agen ke klien. Pantau metrik ini untuk memahami pola respons agen dan memastikan transmisi data berhasil.

Metrik dan log penggunaan sumber daya

AgentCore Runtime Amazon Bedrock menyediakan telemetri penggunaan sumber daya yang komprehensif, termasuk metrik konsumsi CPU dan memori untuk sumber daya runtime Anda.

catatan

Data penggunaan sumber daya mungkin tertunda hingga 60 menit dan presisi mungkin berbeda di seluruh metrik.

Metrik yang dijual

AgentCore Runtime Amazon Bedrock secara otomatis menyediakan metrik penggunaan sumber daya di level akun, runtime agen, dan titik akhir agen. Metrik ini diterbitkan pada resolusi 1 menit. CloudWatch Agregasi Amazon dan retensi data metrik akan mengikuti kebijakan retensi CloudWatch data Amazon standar. Untuk informasi selengkapnya, lihat https://docs.aws.amazon.com/AmazonCloudWatch/latest/monitoring/cloudwatch_concepts.html#Metric.

Berikut adalah kumpulan dimensi dan metrik yang tersedia untuk memantau sumber daya Anda:

Nama Dimensi Deskripsi

CPUUsed-vCPUHours

Layanan; Layanan, Sumber Daya; Layanan, Sumber Daya, Nama

Jumlah total CPU virtual yang dikonsumsi dalam CPU-Hours unit v, tersedia di tingkat sumber daya dan akun. Berguna untuk melacak sumber daya dan estimasi visibilitas penagihan.

MemoryUsed-GBHours

Layanan; Layanan, Sumber Daya; Layanan, Sumber Daya, Nama

Jumlah total memori yang dikonsumsi dalam GB-Hours unit, tersedia di tingkat sumber daya dan akun. Berguna untuk melacak sumber daya dan estimasi visibilitas penagihan.

Penjelasan dimensi

  • Layanan - AgentCore.Runtime

  • Sumber Daya - Agen Arn

  • Nama - Nama Endpoint Agen, dalam format AgentName:: EndpointName

Metrik level akun tersedia di Amazon CloudWatch Bedrock AgentCore Observability Console di bawah tab Runtime. Dasbor menampilkan grafik penggunaan Memori dan CPU yang dihasilkan dari metrik ini, yang mewakili total penggunaan sumber daya di semua agen di akun Anda di wilayah tersebut.

Metrik tingkat Titik Akhir Agen tersedia di AgentEndpoint halaman Amazon CloudWatch Bedrock AgentCore Observability Console. Dasbor menampilkan grafik penggunaan Memori dan CPU yang dihasilkan dari metrik ini, yang mewakili total penggunaan sumber daya di semua sesi yang dipanggil oleh Titik Akhir Agen yang ditentukan.

catatan

Data telemetri disediakan untuk tujuan pemantauan. Penagihan aktual dihitung berdasarkan data penggunaan terukur dan mungkin berbeda dari nilai telemetri karena waktu agregasi, proses rekonsiliasi, dan presisi pengukuran. Lihat laporan AWS penagihan Anda untuk biaya otoritatif.

Log yang dipasok

Bedrock AgentCore Runtime menyediakan log vended untuk metrik penggunaan tingkat sesi pada granularitas 1 detik. Setiap catatan log berisi data konsumsi sumber daya termasuk penggunaan CPU (agent.runtime.vcpu.hours.used) dan konsumsi memori (agent.runtime.memory.gb_hours.used).

Setiap catatan log akan memiliki skema berikut:

Jenis log Bidang log Deskripsi

USAGE_LOGS

event_timestamp, resource_arn, service.name, cloud.provider, cloud.region, account.id, wilayah, resource.id, session.id, agent.name, elapsed_time_seconds, agent.runtime.vcpu.hours.used, agent.runtime.memory.gb_hours.used

Log Penggunaan Sumber Daya untuk pelacakan sumber daya tingkat sesi.

Untuk mengaktifkan jenis log USAGE_LOG untuk agen Anda, lihat Menambahkan observabilitas ke resource Amazon Bedrock Anda. AgentCore Log kemudian ditampilkan di tujuan yang dikonfigurasi (AWS LogGroup, Amazon S3 atau Amazon Kinesis Firehose) seperti yang dikonfigurasi.

Di halaman Sesi Agen di Amazon CloudWatch Bedrock AgentCore Observability Console, Anda dapat melihat metrik penggunaan sumber daya yang dihasilkan dari log ini. Untuk mengoptimalkan pengalaman menonton metrik Anda, pilih rentang waktu yang Anda inginkan menggunakan pemilih di kanan atas untuk fokus pada data CPU dan Penggunaan Memori tertentu.

catatan

Data telemetri disediakan untuk tujuan pemantauan. Penagihan aktual dihitung berdasarkan data penggunaan terukur dan mungkin berbeda dari nilai telemetri karena waktu agregasi, proses rekonsiliasi, dan presisi pengukuran. Lihat laporan AWS penagihan Anda untuk biaya otoritatif.

Data rentang yang disediakan

Untuk meningkatkan observabilitas, AgentCore berikan rentang terstruktur yang memberikan visibilitas ke dalam pemanggilan runtime agen. Untuk mengaktifkan data rentang ini, Anda perlu mengaktifkan observabilitas pada sumber daya agen Anda. Lihat Menambahkan observabilitas ke AgentCore sumber daya Amazon Bedrock untuk langkah dan detailnya. Data rentang ini tersedia di Amazon CloudWatch Logs. Rentang muncul di grup log agen (/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>), atau di grup aws/spans log untuk agen yang menggunakan tujuan rentang bersama. Untuk informasi selengkapnya, lihat Tujuan rentang untuk agen yang dihosting di AgentCore runtime Amazon Bedrock. Tabel berikut mendefinisikan operasi yang bentang dibuat dan atribut untuk setiap rentang yang ditangkap.

Nama operasi Atribut rentang Deskripsi

InvokeAgentRuntime

aws.operation.name, aws.resource.arn, aws.request_id, aws.agent.id, aws.endpoint.name, aws.account.id, session.id, latency_ms, error_type, aws.resource.type, aws.xray.origin, aws.region

Memanggil runtime agen.

  • aws.operation.name - nama operasi () InvokeAgentRuntime

  • aws.resource.arn - nama resource Amazon untuk runtime agen

  • aws.request_id - ID permintaan untuk pemanggilan

  • aws.agent.id - pengenal unik untuk runtime agen

  • aws.endpoint.name - nama titik akhir yang digunakan untuk memanggil runtime agen

  • aws.account.id - id akun pelanggan

  • session.id - ID sesi untuk pemanggilan

  • latency_ms - latensi permintaan dalam milidetik

  • error_type - baik throttle, sistem, atau pengguna (hanya ada jika kesalahan)

  • aws.resource.type - tipe sumber daya CFN

  • aws.xray.origin - jenis sumber daya CFN yang digunakan oleh x-ray untuk mengidentifikasi layanan

  • aws.region - wilayah tempat sumber daya pelanggan berada

Data log aplikasi

AgentCore menyediakan log Aplikasi terstruktur yang membantu Anda mendapatkan visibilitas ke dalam pemanggilan runtime agen dan konsumsi sumber daya tingkat sesi. Data log ini disediakan saat mengaktifkan observabilitas pada sumber daya agen Anda. Lihat Menambahkan observabilitas ke AgentCore sumber daya Amazon Bedrock untuk langkah dan detailnya. AgentCore dapat mengeluarkan CloudWatch log ke aliran Log, Amazon S3, atau Firehose. Jika Anda menggunakan tujuan CloudWatch Log, log ini disimpan di bawah log aplikasi agen Anda atau di bawah grup log kustom Anda sendiri.

Jenis log Bidang log Deskripsi

APPLICATION_LOGS

stempel waktu, resource_arn, event_timestamp, account_id, request_id, session_id, trace_id, span_id, service_name, operasi, request_payload, response_payload

Log aplikasi InvokeRuntimeOperation dengan bidang penelusuran, permintaan, dan muatan respons

  • request_payload - payload permintaan dari pemanggilan agen

  • response_payload - respons dari pemanggilan agen

Jenis kesalahan

Daftar berikut mendefinisikan kemungkinan jenis kesalahan untuk kesalahan pengguna, sistem, dan pelambatan.

Kode kesalahan pengguna

  • InvocationError.Validation- Klien memberikan masukan tidak valid (400)

  • InvocationError.ResourceNotFound- Sumber daya yang diminta tidak ada (404)

  • InvocationError.AccessDenied- Klien tidak memiliki izin (403)

  • InvocationError.Conflict- Konflik sumber daya (409)

Kode kesalahan sistem

  • InvocationError.Internal- Kesalahan server internal (500)

Melambatkan kode kesalahan

  • InvocationError.Throttling- Pembatasan tarif (429)

  • InvocationError.ServiceQuota- Service-side quota/limit tercapai (402)