Memantau pemanggilan model menggunakan Log CloudWatch - Amazon Bedrock
Siapkan tujuan Amazon S3Menyiapkan tujuan CloudWatch LogPencatatan pemanggilan model menggunakan konsolPencatatan pemanggilan model menggunakan API

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Memantau pemanggilan model menggunakan Log CloudWatch

Anda dapat menggunakan pencatatan pemanggilan model untuk mengumpulkan log pemanggilan, data masukan model, dan data keluaran model untuk semua pemanggilan Akun AWS digunakan di Amazon Bedrock.

Dengan pencatatan pemanggilan, Anda dapat mengumpulkan data permintaan lengkap, data respons, dan metadata yang terkait dengan semua panggilan yang dilakukan di akun Anda. Logging dapat dikonfigurasi untuk menyediakan sumber daya tujuan di mana data log akan dipublikasikan. Tujuan yang didukung termasuk Amazon CloudWatch Logs dan Amazon Simple Storage Service (Amazon S3). Hanya tujuan dari akun dan wilayah yang sama yang didukung.

Pencatatan pemanggilan model dinonaktifkan secara default.

Operasi berikut dapat mencatat pemanggilan model.

Saat menggunakan Converse API, data gambar atau dokumen apa pun yang Anda lewati dicatat di Amazon S3 (jika Anda telah mengaktifkan pengiriman dan pencatatan gambar di Amazon S3).

Sebelum Anda dapat mengaktifkan pencatatan pemanggilan, Anda perlu menyiapkan tujuan Amazon S3 CloudWatch atau Log. Anda dapat mengaktifkan pencatatan pemanggilan melalui konsol atau file. API

Siapkan tujuan Amazon S3

Anda dapat mengatur tujuan S3 untuk masuk ke Amazon Bedrock dengan langkah-langkah berikut:

  1. Buat bucket S3 tempat log akan dikirimkan.

  2. Tambahkan kebijakan bucket ke dalamnya seperti yang di bawah ini (Ganti nilai untuk accountId, region, bucketName, dan secara opsional prefix):

    catatan

    Kebijakan bucket secara otomatis dilampirkan ke bucket atas nama Anda saat mengonfigurasi pencatatan dengan izin S3:GetBucketPolicy danS3:PutBucketPolicy.

    {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "AmazonBedrockLogsWrite",
      "Effect": "Allow",
      "Principal": {
        "Service": "bedrock.amazonaws.com"
      },
      "Action": [
        "s3:PutObject"
      ],
      "Resource": [
        "arn:aws:s3:::bucketName/prefix/AWSLogs/accountId/BedrockModelInvocationLogs/*"
      ],
      "Condition": {
        "StringEquals": {
          "aws:SourceAccount": "accountId" 
        },
        "ArnLike": {
           "aws:SourceArn": "arn:aws:bedrock:region:accountId:*"
        }
      }
    }
  ]
}

  3. (Opsional) Jika mengonfigurasi SSE - KMS pada ember, tambahkan kebijakan di bawah ini pada KMS tombol:

    {
    "Effect": "Allow",
    "Principal": {
        "Service": "bedrock.amazonaws.com"
    },
    "Action": "kms:GenerateDataKey",
    "Resource": "*",
    "Condition": {
        "StringEquals": {
          "aws:SourceAccount": "accountId" 
        },
        "ArnLike": {
           "aws:SourceArn": "arn:aws:bedrock:region:accountId:*"
        }
    }
}

Untuk informasi selengkapnya tentang S3 SSE - KMS konfigurasi, lihat Menentukan KMS Enkripsi.

catatan

Bucket ACL harus dinonaktifkan agar kebijakan bucket berlaku. Untuk informasi selengkapnya, lihat Menonaktifkan ACLs semua bucket baru dan menerapkan Kepemilikan Objek.

Menyiapkan tujuan CloudWatch Log

Anda dapat mengatur tujuan Amazon CloudWatch Log untuk masuk ke Amazon Bedrock dengan langkah-langkah berikut:

  1. Buat grup CloudWatch log tempat log akan dipublikasikan.

  2. Buat IAM peran dengan izin berikut untuk CloudWatch Log.

    Entitas tepercaya:

    {
  "Version": "2012-10-17",
  "Statement": [
    {
      "Effect": "Allow",
      "Principal": {
        "Service": "bedrock.amazonaws.com"
      },
      "Action": "sts:AssumeRole",
      "Condition": {
        "StringEquals": {
          "aws:SourceAccount": "accountId" 
        },
        "ArnLike": {
          "aws:SourceArn": "arn:aws:bedrock:region:accountId:*"
        }
      }
    }
  ]
}

    Kebijakan peran:

    {
    "Version": "2012-10-17", 
    "Statement": [ 
        {
            "Effect": "Allow", 
            "Action": [ 
                "logs:CreateLogStream", 
                "logs:PutLogEvents" 
            ], 
            "Resource": "arn:aws:logs:region:accountId:log-group:logGroupName:log-stream:aws/bedrock/modelinvocations" 
         } 
    ]
}

Untuk informasi selengkapnya tentang pengaturan SSE untuk CloudWatch Log, lihat Mengenkripsi data CloudWatch log di Log menggunakan AWS Key Management Service.

Pencatatan pemanggilan model menggunakan konsol

Untuk mengaktifkan pencatatan pemanggilan model, seret tombol penggeser di sebelah sakelar sakelar Logging di halaman Pengaturan. Pengaturan konfigurasi tambahan untuk logging akan muncul di panel.

Pilih permintaan dan tanggapan data yang ingin Anda publikasikan ke log. Anda dapat memilih kombinasi dari opsi output berikut:

  • Teks

  • Citra

  • Menyematkan

Pilih tempat untuk mempublikasikan log:

  • Hanya Amazon S3

  • CloudWatch Log saja

  • Baik Amazon S3 dan Log CloudWatch

Tujuan Amazon S3 dan CloudWatch Log didukung untuk log pemanggilan, serta data input dan output kecil. Untuk data input dan output besar atau output gambar biner, hanya Amazon S3 yang didukung. Rincian berikut merangkum bagaimana data akan direpresentasikan di lokasi target.

  • Tujuan S3 - JSON File Gzip, masing-masing berisi sekumpulan catatan log pemanggilan, dikirim ke bucket S3 yang ditentukan. Mirip dengan peristiwa CloudWatch Log, setiap record akan berisi metadata pemanggilan, dan JSON badan input dan output hingga 100 KB dalam ukuran. Data biner atau JSON badan yang lebih besar dari 100 KB akan diunggah sebagai objek individual dalam bucket Amazon S3 yang ditentukan di bawah awalan data. Data dapat ditanyakan menggunakan Amazon S3 Select dan Amazon Athena, dan dapat dikatalogkan untuk digunakan ETL AWS Glue. Data dapat dimuat ke dalam OpenSearch layanan, atau diproses oleh EventBridge target Amazon apa pun.

  • CloudWatch Tujuan log - peristiwa log JSON pemanggilan dikirim ke grup log tertentu di CloudWatch Log. Peristiwa log berisi metadata pemanggilan, dan JSON badan input dan output berukuran hingga 100 KB. Jika lokasi Amazon S3 untuk pengiriman data besar disediakan, data biner atau JSON badan yang lebih besar dari 100 KB akan diunggah ke bucket Amazon S3 di bawah awalan data sebagai gantinya. data dapat ditanyakan menggunakan Wawasan CloudWatch Log, dan dapat dialirkan lebih lanjut ke berbagai layanan secara real-time menggunakan Log. CloudWatch

Pencatatan pemanggilan model menggunakan API

Pencatatan pemanggilan model dapat dikonfigurasi menggunakan yang berikut ini: APIs