Rentang, catatan peristiwa, dan sinyal telemetri
Amazon Bedrock AgentCore Evaluations memproses dua sinyal telemetri untuk memahami perilaku agen Anda:
-
Rentang menggambarkan operasi individu. Rentang membawa metadata tentang operasi: namanya, ruang lingkup, stempel waktu, dan atributnya. Rentang mungkin juga membawa konten percakapan, atau konten tersebut mungkin hidup dalam catatan peristiwa terpisah.
-
Catatan peristiwa membawa konten muatan di
bodybidang: input dan output model, alat, dan agen. Catatan peristiwa dikorelasikan dengan rentangnya oleh sharedtraceIddanspanId. Catatan acara mengikuti konvensi OpenTelemetry acara. Untuk informasi lebih lanjut, lihat Referensi.
Untuk mengevaluasi suatu sesi, layanan membutuhkan rentang dan, jika berlaku, catatan peristiwa yang berkorelasi. Untuk setiap rentang, layanan melakukan hal berikut:
-
Mengidentifikasi tipe span dari atribut khusus kerangka kerja. Untuk detailnya, lihat halaman per kerangka kerja.
-
Membaca nilai yang dibutuhkan, seperti prompt pengguna, respons agen, dan input dan output alat. Nilai-nilai ini berasal dari atribut rentang atau dari catatan peristiwa yang berkorelasi.
Topik
Bagaimana ADOT membagi telemetri
Ketika agen Anda berjalan dengan AWS Distro for OpenTelemetry (ADOT), telemetri dibagi. Saat rentang diekspor, ADOT mengekstrak konten percakapan besar (prompt dan penyelesaian model, input dan output alat) dari atribut rentang dan memancarkannya sebagai catatan peristiwa terpisah. Rentang yang dihasilkan hanya membawa metadata dan atribut kecil.
Pemisahan ini membuat dokumen rentang kecil, meskipun mempertahankan konten percakapan lengkap dalam catatan peristiwa.
ADOT collection (split) Instrumented agent | | span with attributes + content v +--------------------+ | ADOT | extracts conversation content +--------------------+ | | | span | event record(s) | (metadata, attributes) | (body: input / output messages) v v +--------------------+ +-----------------------+ | aws/spans | | event-record | | log group | | log group | +--------------------+ +-----------------------+ | | +-----------+--------------+ v Evaluation service (joins span + event record by traceId / spanId)
Setelah perpecahan, konten percakapan berada dalam catatan peristiwa body (misalnya, body.input.messages danbody.output.messages), dan rentang membawa atribut pengidentifikasi yang digunakan untuk mengklasifikasikannya.
Di mana rentang dan catatan peristiwa disimpan
Ketika ADOT mengumpulkan telemetri, ia mengekspor rentang dan catatan peristiwa ke Amazon CloudWatch, tetapi ke lokasi yang berbeda.
-
Rentang disimpan dalam grup
aws/spanslog. Grup log ini dibuat saat Pencarian Transaksi diaktifkan, yang merupakan prasyarat untuk evaluasi. Untuk detail tentang mengaktifkan Penelusuran Transaksi, lihat AgentCore Observabilitas. -
Catatan peristiwa disimpan dalam grup log yang bergantung pada tempat agen Anda di-host:
-
Di Amazon Bedrock AgentCore Runtime: Runtime memancarkan catatan peristiwa ke grup lognya, di aliran
otel-rt-logslog/aws/bedrock-agentcore/runtimes/<agent_id>-<endpoint_name>, dan mengonfigurasi ekspor ini untuk Anda. -
Dihosting di luar AgentCore Runtime (misalnya, di Amazon Elastic Container Service (Amazon ECS), Amazon Elastic Kubernetes Service (Amazon EKS), AWS atau Lambda): agen Anda memancarkan catatan peristiwa ke grup log yang Anda konfigurasikan melalui variabel lingkungan.
OTEL_EXPORTER_OTLP_LOGS_HEADERS
-
Untuk mengevaluasi sesi, layanan membaca rentang dari aws/spans dan bergabung dengan catatan peristiwa yang berkorelasi dari grup log yang sesuai.
Di mana layanan membaca konten
Konten percakapan dapat hidup di tempat yang berbeda, tergantung pada kerangka kerja dan perpustakaan instrumentasi. Layanan evaluasi membacanya dari lokasi mana pun yang memegangnya:
-
Badan catatan peristiwa: ketika ADOT membagi konten menjadi catatan peristiwa terpisah (dijelaskan di atas), layanan membacanya dari catatan peristiwa yang
bodyberkorelasi dengan rentang. -
Atribut rentang: beberapa pustaka instrumentasi menyimpan konten pada rentang sebagai atribut.
-
Peristiwa rentang sebaris: beberapa pustaka instrumentasi melampirkan konten ke rentang sebagai peristiwa sebaris.
Atribut pengidentifikasi yang digunakan untuk mengklasifikasikan rentang selalu tetap pada rentang dalam setiap kasus. Ini termasuk atribut yang menandai rentang sebagai rentang agen pemanggilan atau rentang alat eksekusi. Hanya lokasi konten percakapan yang lebih besar yang berbeda. Halaman per-kerangka mencantumkan atribut pengidentifikasi dan lokasi konten untuk setiap pustaka instrumentasi.
Referensi
OpenTelemetry Spesifikasi ini menjelaskan konvensi yang dibangun oleh AgentCore Evaluasi:
-
Melacak konvensi semantik
: struktur dan semantik bentang dan jejak. -
Konvensi semantik acara
: struktur dan semantik catatan peristiwa. -
Generative-AI Konvensi semantik
: gen_ai.*atribut yang digunakan untuk menggambarkan agen, model, dan operasi alat.