Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
# Konfigurasikan pencatatan pemanggilan model di Amazon Bedrock dengan menggunakan AWS CloudFormation
*Vikramaditya Bhatnagar, Amazon Web Services*
## Ringkasan
Anda dapat mengonfigurasi Amazon Bedrock untuk mengumpulkan log pemanggilan, data input model, dan data keluaran model untuk semua pemanggilan model di file Anda. Akun AWS Ini adalah [praktik terbaik](https://aws.amazon.com/blogs/machine-learning/best-practices-for-building-robust-generative-ai-applications-with-amazon-bedrock-agents-part-2/) untuk membangun aplikasi AI generatif yang kuat dengan Amazon Bedrock. Anda dapat menyimpan log pemanggilan model di grup CloudWatch log Amazon Logs, di bucket Amazon Simple Storage Service (Amazon S3), atau di keduanya. Memiliki data CloudWatch log di Log membantu Anda membuat filter metrik kustom, alarm, dan dasbor. Amazon S3 sangat ideal untuk mereplikasi data di seluruh Wilayah AWS atau untuk penyimpanan jangka panjang, sebagaimana diatur oleh kebijakan organisasi Anda.
Pola ini menyediakan contoh AWS CloudFormation template yang menggunakan pendekatan infrastruktur sebagai kode (IAc) untuk mengonfigurasi pencatatan pemanggilan model untuk Amazon Bedrock. Template mengonfigurasi penyimpanan log di CloudWatch Log dan Amazon S3.
## Prasyarat dan batasan
**Prasyarat**
+ Aktif Akun AWS
+ Izin berikut:
+ [Izin](https://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/using-iam-template.html) untuk membuat tumpukan CloudFormation
+ [Izin](https://docs.aws.amazon.com/bedrock/latest/userguide/security-iam-awsmanpol.html#security-iam-awsmanpol-updates) untuk mengakses Amazon Bedrock
+ [Izin](https://docs.aws.amazon.com/AmazonS3/latest/userguide/example-policies-s3.html) untuk membuat dan mengakses bucket Amazon S3
+ [Izin](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/iam-identity-based-access-control-cwl.html) untuk membuat dan mengakses grup CloudWatch log Log
+ [Izin](https://docs.aws.amazon.com/lambda/latest/dg/security-iam-awsmanpol.html) untuk membuat dan mengakses fungsi AWS Lambda
+ [Izin](https://docs.aws.amazon.com/kms/latest/developerguide/customer-managed-policies.html) untuk membuat dan mengakses AWS Key Management Service (AWS KMS) kunci
**Batasan**
Pola ini mencatat pemanggilan model ke CloudWatch Log dan Amazon S3. Itu tidak mendukung memilih hanya satu dari dua layanan ini.
## Arsitektur
**Arsitektur target**
CloudFormation Template menyediakan sumber daya berikut dalam target Anda Akun AWS:
+ Grup CloudWatch log Log untuk menyimpan log pemanggilan model
+ Bucket Amazon S3 untuk menyimpan log pemanggilan model dan kebijakan bucket terkait
+ Bucket Amazon S3 untuk menyimpan log akses sisi server dan kebijakan bucket terkait
+ AWS Lambda Fungsi yang mengonfigurasi pengaturan logging di Amazon Bedrock
+ Sebuah AWS KMS key dan alias kunci yang sesuai
+ Peran layanan AWS Identity and Access Management (IAM) untuk Amazon Bedrock
Diagram berikut menunjukkan bagaimana log pemanggilan disimpan setelah Anda menyebarkan CloudFormation tumpukan yang terkait dengan pola ini. Amazon Bedrock menerbitkan data log saat model foundation mengirimkan teks, gambar, video, atau data penyematan. Seperti yang ditunjukkan pada diagram, bucket Amazon S3 dan grup CloudWatch log Log dienkripsi dengan file. AWS KMS key
Diagram menunjukkan alur kerja berikut:
1. Pengguna mengirimkan kueri ke model dasar di Amazon Bedrock.
1. Amazon Bedrock mengasumsikan peran layanan IAM.
1. Amazon Bedrock menghasilkan data log dan menyimpannya di grup CloudWatch log Log dan di bucket Amazon S3.
1. Jika pengguna membaca, mengunggah, atau menghapus file apa pun di bucket Amazon S3 yang berisi log pemanggilan model, aktivitas tersebut akan masuk ke bucket Amazon S3 lain untuk log akses sisi server.
**Otomatisasi dan skala**
Untuk menskalakan solusi ini, Anda dapat menerapkan CloudFormation template sebagai tumpukan yang disetel ke beberapa Wilayah AWS dan Akun AWS. Untuk informasi selengkapnya, lihat [Mengelola tumpukan di seluruh akun dan Wilayah dengan StackSets](https://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/what-is-cfnstacksets.html) CloudFormation dokumentasi.
## Alat
**Layanan AWS**
+ [Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/what-is-bedrock.html) adalah layanan yang dikelola sepenuhnya yang membuat model foundation berkinerja tinggi (FMs) dari perusahaan AI terkemuka dan Amazon tersedia untuk Anda gunakan melalui API terpadu.
+ [AWS CloudFormation](https://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/Welcome.html)membantu Anda menyiapkan AWS sumber daya, menyediakannya dengan cepat dan konsisten, dan mengelolanya sepanjang siklus hidupnya di seluruh Akun AWS dan. Wilayah AWS
+ [Amazon CloudWatch Logs](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/WhatIsCloudWatchLogs.html) membantu Anda memusatkan log dari semua sistem, aplikasi, Layanan AWS sehingga Anda dapat memantau dan mengarsipkannya dengan aman.
+ [AWS Identity and Access Management (IAM)](https://docs.aws.amazon.com/IAM/latest/UserGuide/introduction.html) membantu Anda mengelola akses ke AWS sumber daya dengan aman dengan mengontrol siapa yang diautentikasi dan diberi wewenang untuk menggunakannya.
+ [AWS Lambda](https://docs.aws.amazon.com/lambda/latest/dg/welcome.html)adalah layanan komputasi yang membantu Anda menjalankan kode tanpa perlu menyediakan atau mengelola server. Ini menjalankan kode Anda hanya bila diperlukan dan skala secara otomatis, jadi Anda hanya membayar untuk waktu komputasi yang Anda gunakan.
+ [AWS Key Management Service (AWS KMS)](https://docs.aws.amazon.com/kms/latest/developerguide/overview.html) membantu Anda membuat dan mengontrol kunci kriptografi untuk membantu melindungi data Anda.
+ [Amazon Simple Storage Service (Amazon S3](https://docs.aws.amazon.com/AmazonS3/latest/userguide/Welcome.html)) adalah layanan penyimpanan objek yang menawarkan skalabilitas, ketersediaan data, keamanan, dan kinerja terdepan di industri.
**Alat-alat lainnya**
+ [Git](https://git-scm.com/docs) adalah sistem kontrol versi terdistribusi open source.
**Repositori kode**
Kode untuk pola ini tersedia di repositori GitHub [enable-bedrock-logging-using-cloudformation](https://github.com/aws-samples/enable-bedrock-logging-using-cloudformation).
## Epik
### Buat CloudFormation tumpukan
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
| --- | --- | --- |
| Unduh CloudFormation template. | Unduh [CloudFormation template](https://github.com/aws-samples/enable-bedrock-logging-using-cloudformation/blob/main/enable-bedrock-logging-using-cloudformation.yaml) dari GitHub repositori. | Arsitek awan |
| Menyebarkan template. | Buat tumpukan di akun target dan Wilayah Anda. Di bagian **Parameter**, tentukan nilai untuk parameter yang ditentukan dalam templat. Untuk petunjuk, lihat [Membuat tumpukan](https://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/cfn-console-create-stack.html) dalam CloudFormation dokumentasi. | Arsitek awan |
### Pengujian solusi
| Tugas | Deskripsi | Keterampilan yang dibutuhkan |
| --- | --- | --- |
| Aktifkan akses model. | Di Amazon Bedrock, tambahkan akses ke model foundation. Untuk petunjuknya, lihat [Menambahkan atau menghapus akses ke model foundation Amazon Bedrock](https://docs.aws.amazon.com/bedrock/latest/userguide/model-access-modify.html) di dokumentasi Amazon Bedrock. | Arsitek awan |
| Jalankan prompt sampel. | Di taman bermain Amazon Bedrock, jalankan prompt sampel. Untuk petunjuknya, lihat [Menghasilkan respons di konsol menggunakan taman bermain](https://docs.aws.amazon.com/bedrock/latest/userguide/playgrounds.html) di dokumentasi Amazon Bedrock. | Arsitek awan |
| Tinjau konfigurasi logging. | [See the AWS documentation website for more details](http://docs.aws.amazon.com/id_id/prescriptive-guidance/latest/patterns/configure-bedrock-invocation-logging-cloudformation.html) | Arsitek awan |
| Tinjau ember Amazon S3. | [See the AWS documentation website for more details](http://docs.aws.amazon.com/id_id/prescriptive-guidance/latest/patterns/configure-bedrock-invocation-logging-cloudformation.html) | Arsitek awan |
| Tinjau grup log. | [See the AWS documentation website for more details](http://docs.aws.amazon.com/id_id/prescriptive-guidance/latest/patterns/configure-bedrock-invocation-logging-cloudformation.html) | Arsitek awan |
## Sumber daya terkait
**AWS dokumentasi**
+ [Mengakses bucket Amazon S3 (dokumentasi](https://docs.aws.amazon.com/AmazonS3/latest/userguide/access-bucket-intro.html) Amazon S3)
+ [Membuat dan mengelola tumpukan](https://docs.aws.amazon.com/AWSCloudFormation/latest/UserGuide/stacks.html) (CloudFormation dokumentasi)
+ [Memantau pemanggilan model (dokumentasi](https://docs.aws.amazon.com/bedrock/latest/userguide/model-invocation-logging.html) Amazon Bedrock)
+ [Bekerja dengan grup log dan aliran log](https://docs.aws.amazon.com/AmazonCloudWatch/latest/logs/Working-with-log-groups-and-streams.html) (dokumentasi CloudWatch Log)
**AWS posting blog**
+ [Memantau aplikasi AI Generatif menggunakan Amazon Bedrock dan integrasi Amazon CloudWatch ](https://aws.amazon.com/blogs/mt/monitoring-generative-ai-applications-using-amazon-bedrock-and-amazon-cloudwatch-integration/)
+ [Praktik terbaik untuk membangun aplikasi AI generatif yang kuat dengan Amazon Bedrock Agents - Bagian 1](https://aws.amazon.com/blogs/machine-learning/best-practices-for-building-robust-generative-ai-applications-with-amazon-bedrock-agents-part-1/)
+ [Praktik terbaik untuk membangun aplikasi AI generatif yang kuat dengan Amazon Bedrock Agents - Bagian 2](https://aws.amazon.com/blogs/machine-learning/best-practices-for-building-robust-generative-ai-applications-with-amazon-bedrock-agents-part-2/)