View a markdown version of this page

Pengamatan dan kontrol biaya - Batu Dasar Amazon AgentCore
ObservabilitasCloudTrailMemahami biaya harnessKontrol biaya dengan batasTanda

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Pengamatan dan kontrol biaya

Halaman ini mencakup pemantauan harness Anda, mengendalikan biaya eksekusi, dan mengelola tag sumber daya.

Observabilitas

Setiap pemanggilan harness secara otomatis menghasilkan jejak, log, dan metrik melalui AgentCore Observability in. CloudWatch Panggilan model, pemanggilan alat, operasi memori, perintah shell: setiap langkah muncul dengan detail waktu dan muatan. Tidak ada konfigurasi tambahan. Jejak tersedia dari pemanggilan pertama.

Jejak, log, dan metrik mengalir CloudWatch melalui peran eksekusi harness. Lihat di dasbor AgentCore Observabilitas, atau kueri secara terprogram melalui Log dan API CloudWatch . X-Ray

Sebelum Anda melihat jejak, aktifkan Pencarian Transaksi di CloudWatch (satu kali per akun). Lihat Peng AgentCore amatan saat memulai untuk detail penyiapan.

Pelajari lebih lanjut: I khtisar pengamatan · metrik · telemetri https://docs.aws.amazon.com/bedrock-agentcore/latest/devguide/observability-telemetry.html

CloudTrail

Operasi harness dicatat AWS CloudTrail sebagai peristiwa manajemen (bidang kontrol) dan peristiwa data (bidang data). Di CloudTrail, sumber daya harness muncul di bawah jenis AWS::BedrockAgentCore::Runtime sumber daya, bukan tipe khusus harness. Harness adalah abstraksi terkelola di atas AgentCore Runtime, dan CloudTrail peristiwa mencerminkan sumber daya runtime yang mendasarinya untuk konsistensi.

Semua CloudTrail acara harness menggunakan resources.type =AWS::BedrockAgentCore::Runtime. Nama-nama acara adalah:

  • CreateHarness,UpdateHarness,DeleteHarness,GetHarness, ListHarnesses (acara manajemen)

  • InvokeAgentRuntime, InvokeAgentRuntimeCommand (peristiwa data)

catatan

Operasi bidang data muncul sebagai InvokeAgentRuntime dan InvokeAgentRuntimeCommand dalam CloudTrail, cocok dengan Runtime API yang mendasarinya. Bid resources.ARN ang berisi harness ARN untuk peristiwa bidang kontrol dan ARN runtime untuk peristiwa bidang data.

Memahami biaya harness

Tidak ada biaya tambahan untuk harness itu sendiri. Anda membayar tarif standar untuk kemampuan dasar yang digunakan harness. Untuk tarif saat ini, lihat AgentCore harga Amazon Bedrock dan halaman harga untuk penyedia model Anda.

Tabel berikut menjelaskan kemampuan yang dapat dikenakan biaya saat Anda menggunakan harness.

Kemampuan Ketika biaya berlaku Apa yang menentukan penggunaan

AgentCore Waktu pelaksanaan

AgentCore Runtime memulai microVM untuk setiap sesi harness.

AgentCore Tagihan runtime untuk CPU aktual yang dikonsumsi dan memori puncak yang dikonsumsi setiap detik dari startup microVM hingga penghentian, termasuk overhead sistem. Biaya CPU tidak berlaku selama model atau alat I/O menunggu jika tidak ada proses latar belakang yang menggunakan CPU. Memori tetap dapat ditagih saat sesi berjalan.

Model inferensi

Penyedia model menagih setiap kali agen memanggil model yang dikonfigurasi. Satu pemanggilan harness dapat membuat beberapa panggilan model.

Penyedia menghitung biaya dari token input dan output. Input termasuk prompt sistem, riwayat percakapan, memori yang diambil, instruksi keterampilan, dan definisi untuk alat yang diizinkan. Untuk overhead definisi alat, lihat. Alat

AgentCore Memori

AgentCore Tagihan memori saat harness menulis peristiwa atau mengambil catatan. Memori Terkelola diaktifkan secara default; biaya juga berlaku untuk Memori terlampir.

AgentCore Memori mengukur peristiwa jangka pendek baru, catatan memori jangka panjang yang disimpan, dan permintaan pengambilan memori jangka panjang.

AgentCore Browser dan Penerjemah Kode

Browser dan Code Interpreter menagih saat agen menggunakan alat yang dikonfigurasi ini.

Setiap layanan mengukur CPU aktif dan konsumsi memori untuk sesinya. Definisi alat mereka masih dapat menambahkan token input model jika diizinkan, bahkan jika agen tidak memanggilnya.

AgentCore Gateway dan Pencarian Web

Gateway menagih saat harness menemukan atau memanggil alat, melakukan pencarian, atau menggunakan alat yang diindeks. Penelusuran Web menagih saat harness mengirimkan kueri.

Gateway mengukur operasi API, kueri pencarian, dan alat yang diindeks, sebagaimana berlaku. Pencarian Web mengukur kuerinya secara terpisah.

Observabilitas

CloudWatch tagihan untuk jejak, log, dan metrik yang dipancarkan setiap pemanggilan.

CloudWatch konsumsi meter, penyimpanan, dan penggunaan kueri.

Penyimpanan dan jaringan

Tagihan layanan penyimpanan dan jaringan saat Anda menggunakan wadah khusus, sistem file persisten, atau transfer data.

Amazon ECR mengukur penyimpanan gambar. Penggunaan sumber daya meteran Amazon S3 dan EFS. Tarif transfer data standar berlaku untuk lalu lintas jaringan.

Perkirakan biaya Runtime

Penagihan runtime menggunakan konsumsi aktif per detik daripada waktu instans yang disediakan:

CPU cost = consumed vCPU-seconds / 3,600 * vCPU-hour rate
Memory cost = sum of peak GB consumed in each second / 3,600 * GB-hour rate

Jangan memperkirakan biaya CPU dari pemanggilan jam dinding atau durasi sesi saja. Penantian model I/O dan alat tidak dikenakan biaya CPU ketika tidak ada proses lain yang menggunakan CPU. Namun, konsumsi memori tetap dapat ditagih. Yang lebih pendek idleRuntimeSessionTimeout dapat mengurangi berapa lama memori tetap dapat ditagih setelah pemanggilan terakhir, dengan mengorbankan start dingin yang lebih sering.

Mengukur dan menggunakan atribut

  • Baca metadata peristiwa di aliran pemanggilan untuk penggunaan token model.

  • Gunakan AgentCore pelac akan Observabilitas, CloudWatch Log, dan X-Ray API untuk mengidentifikasi panggilan model, panggilan alat, operasi memori, dan durasinya. Pengamatan menjelaskan aktivitas tetapi bukan laporan penagihan.

  • Gunakan AWS Penjelajah Biaya atau Laporan AWS Biaya dan Penggunaan untuk penggunaan yang ditagih. Aktifkan tag harness Anda sebagai tag alokasi biaya untuk memfilter biaya yang didukung.

Tag harness menyebar ke Runtime terkelola, titik akhir Runtime, dan Memori terkelola yang dibuat untuk harness. Tandai sumber daya yang dibuat secara terpisah, seperti Gateway, EFS, S3, atau sumber daya Memori yang Anda bawa sendiri, secara independen.

Kontrol biaya dengan batas

Tetapkan batas keras sehingga agen pelarian tidak dapat membakar sumber daya:

  • maxIterations- reasoning/action siklus per pemanggilan. Standar 75.

  • timeoutSeconds- batas waktu jam dinding untuk satu panggilan. Standar 3600.

  • maxTokens- anggaran token per pemanggilan. Default N/A.

  • idleRuntimeSessionTimeout- berapa lama microVM idle tetap hangat. Standar 900.

  • maxLifetime- masa pakai maksimum sesi microVM. Standar 28800.

Semua batasan bersifat opsional; hilangkan untuk menggunakan default layanan. Karena harness didukung oleh AgentCore Runtime, pemanggilan harness juga tunduk pada kuota layanan Runtime. Untuk informasi selengkapnya, lihat AgentCore memanfaatkan Kuota Layanan dan Kuota Layanan AgentCore Runtime.

contoh
AWS CLI/boto3
aws bedrock-agentcore-control update-harness \
  --harness-id "MyHarness-UuFdkQoXSL" \
  --max-iterations 50 \
  --timeout-seconds 1800 \
  --max-tokens 8192

Atau ganti pada satu panggilan dengan melewatimaxIterations,timeoutSeconds, atau maxTokens masuk. invoke_harness

AgentCore CLI

Tetapkan default:

agentcore add harness --name bounded-agent \
  --max-iterations 50 --timeout 1800 --max-tokens 8192 \
  --truncation-strategy sliding_window \
  --idle-timeout 600 --max-lifetime 14400
agentcore deploy

--truncation-strategyBendera menerima sliding_window atausummarization. Ben --max-lifetime dera --idle-timeout dan menetapkan batas siklus hidup dalam hitungan detik.

Mengganti pada satu panggilan:

agentcore invoke --harness bounded-agent --max-iterations 20 --harness-timeout 600 \
  "Quick lookup: what's the weather in Seattle?"

Tanda

Terapkan tag ke harness Anda untuk alokasi biaya dan kontrol akses.

contoh
AWS CLI/boto3
aws bedrock-agentcore-control create-harness \
  --harness-name "MyHarness" \
  --execution-role-arn "arn:aws:iam::123456789012:role/MyHarnessRole" \
  --tags '{"team": "platform", "environment": "staging"}'
AgentCore CLI

Tetapkan tag diharness.json:

{
  "tags": {
    "team": "platform",
    "environment": "staging"
  }
}

Jalan agentcore deploy kan untuk mendaftar.

Tag harness menyebar ke Runtime terkelola, titik akhir Runtime, dan Memori terkelola yang dibuat untuk harness. Sumber daya yang dibuat secara terpisah mempertahankan tag mereka sendiri.

Topik terkait