

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

# Doa Model
<a name="model-invocations"></a>

CloudWatch observabilitas AI generatif memungkinkan Anda memantau kinerja Model Invocations. Anda dapat melacak metrik seperti jumlah pemanggilan, penggunaan token, dan kesalahan menggunakan tampilan. out-of-box Untuk visibilitas mendetail ke dalam konten pemanggilan, seperti input dan output, aktifkan logging **Pemanggilan Batuan Dasar dan kirim** log ke. CloudWatch Untuk informasi selengkapnya, lihat [Menyiapkan tujuan CloudWatch Log](https://docs.aws.amazon.com/bedrock/latest/userguide/model-invocation-logging.html#setup-cloudwatch-logs-destination) dan [Membantu melindungi data log sensitif dengan masking](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/mask-sensitive-log-data.html).

## Mengaktifkan pemanggilan model di Amazon Bedrock
<a name="enabling-bedrock-invocation"></a>

**catatan**  
Anda harus mengaktifkan pencatatan pemanggilan Model di Amazon Bedrock untuk melihat pemanggilan.

Untuk mengaktifkan pencatatan pemanggilan model di Amazon Bedrock, ikuti langkah-langkah berikut.

1. Buka konsol Amazon Bedrock di [https://console.aws.amazon.com/bedrock/](https://console.aws.amazon.com/bedrock/).

1. Pilih **Pengaturan**.

1. Di bawah **Pencatatan pemanggilan model, pilih Pencatatan pemanggilan** **model**.

1. Pilih tipe data yang diperlukan untuk disertakan dalam log. Pilih untuk mengirim CloudWatch log ke Log saja atau Amazon S3 dan CloudWatch Log jika Anda sudah menerbitkan ke Amazon S3.

1. Di bawah konfigurasi CloudWatch Log, buat nama grup log dan pilih peran layanan yang sesuai.

1. Pilih tipe data yang diperlukan untuk disertakan dalam log.

1. Pilih **Simpan setelan**

   Anda dapat melihat dasbor pra-konfigurasi secara otomatis saat Anda mulai menggunakan pemanggilan Amazon Bedrock. Setelah mengaktifkan`Model Invocation logging`, Anda dapat melihat dasbor default dan mengakses tabel pemanggilan di bawahnya.

![\[observabilitas AI generatif\]](http://docs.aws.amazon.com/id_id/AmazonCloudWatch/latest/monitoring/images/GenAI.png)

+ **Jumlah pemanggilan** — Jumlah permintaan yang berhasil untuk operasi [Converse](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html),, [ConverseStream[InvokeModel](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModel.html)](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_ConverseStream.html), dan API [InvokeModelWithResponseStream](https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_InvokeModelWithResponseStream.html)
+ Latensi **doa — Latensi** pemanggilan
+ **Jumlah Token menurut Model** — Jumlah token berdasarkan model yang digambarkan oleh jumlah token masukan dan jumlah token keluaran
+ **Jumlah Token Harian berdasarkan ModelID** — Jumlah token total harian berdasarkan ID model
+ **InputTokenCount, OutputTokenCount** — Jumlah total token dalam input dan output di akun ini di seluruh model yang dipilih
+ **Permintaan, dikelompokkan berdasarkan token masukan** — Jumlah permintaan yang dikelompokkan berdasarkan token masukan ke dalam 6 rentang. Setiap baris mewakili jumlah permintaan yang termasuk dalam rentang tertentu
+ **Pemanggilan Throttles — Jumlah pemanggilan** yang dibatasi oleh sistem. Jumlah throttle yang Anda lihat akan tergantung pada pengaturan coba ulang Anda di SDK. Untuk informasi selengkapnya, lihat [Coba](https://docs.aws.amazon.com/sdkref/latest/guide/feature-retry-behavior.html) lagi perilaku di Panduan Referensi Alat AWS SDKs dan
+ **Jumlah Kesalahan Pemanggilan - Jumlah** pemanggilan yang menghasilkan kesalahan sisi server dan sisi klien

Untuk menggunakan dasbor pemanggilan model, ikuti langkah-langkah ini.

1. Arahkan kursor ke grafik metrik apa pun untuk melihat detail pemanggilan. Anda dapat memilih ikon **Alarm** untuk diatur `Alarms` untuk memantau kualitas dan kinerja aplikasi.

1. Di bawah drop-down **ModelID**, Anda dapat memilih ID model untuk melihat metrik yang sesuai.

1. Pilih **Lihat dalam CloudWatch metrik** untuk melihat metrik dasbor di bawah. CloudWatch

1. Pilih **Periode override** untuk menyesuaikan jangka waktu metrik (misalnya, 1 menit, 1 jam, atau 6 jam).

1. Di bawah **Pemanggilan**, pilih **ID Permintaan** untuk melihat detail permintaan. Anda dapat melihat detail input dan output pemanggilan model di panel kanan.

![\[Pemanggilan Model - Tampilan ID Permintaan\]](http://docs.aws.amazon.com/id_id/AmazonCloudWatch/latest/monitoring/images/GenAI_Model_Invocation.png)


Pada halaman **ID Permintaan**, di bawah menu tarik-turun **Tindakan**, pilih **Lihat di Wawasan Log** untuk melihat log masuk. CloudWatch Untuk informasi selengkapnya, lihat [Menganalisis data CloudWatch log dengan Wawasan Log](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/AnalyzingLogData.html).