View a markdown version of this page

Prasyarat untuk Throughput yang Disediakan - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Prasyarat untuk Throughput yang Disediakan

Sebelum Anda dapat membeli dan mengelola Provisioned Throughput, Anda harus memenuhi prasyarat berikut:

  1. Meminta akses ke model atau model yang ingin Anda beli Provisioned Throughput. Setelah akses diberikan, Anda dapat membeli Provisioned Throughput untuk model dasar dan model apa pun yang disesuaikan darinya.

  2. Pastikan peran IAM Anda memiliki akses ke tindakan API Throughput yang disediakan. Jika peran Anda memiliki kebijakan AmazonBedrockFullAccess AWS-managed yang dilampirkan, Anda dapat melewati langkah ini. Jika tidak, lakukan tindakan berikut:

    1. Ikuti langkah-langkah di Membuat kebijakan IAM dan buat kebijakan berikut, yang memungkinkan peran untuk membuat Throughput Provisioned untuk semua model dasar dan kustom.

      JSON
      {
    "Version":"2012-10-17",
    "Statement": [
        {
            "Sid": "PermissionsForProvisionedThroughput",
            "Effect": "Allow",
            "Action": [
                "bedrock:GetFoundationModel",
                "bedrock:ListFoundationModels",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:ListTagsForResource",
                "bedrock:UntagResource",
                "bedrock:TagResource",
                "bedrock:CreateProvisionedModelThroughput",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:UpdateProvisionedModelThroughput",
                "bedrock:DeleteProvisionedModelThroughput"
            ],
            "Resource": "*"
        }
    ]
}
      catatan

      Jika Anda menggunakan Provisioned Throughput dengan inferensi lintas wilayah, Anda mungkin memerlukan izin tambahan. Lihat Rute permintaan inferensi model lintas Wilayah AWS dengan inferensi lintas wilayah untuk mempelajari selengkapnya.

      (Opsional) Anda dapat membatasi akses peran dengan cara berikut:

      • Untuk membatasi tindakan API yang dapat dilakukan peran, ubah daftar di Action bidang agar hanya berisi operasi API yang ingin Anda izinkan aksesnya.

      • Setelah membuat model yang disediakan, Anda dapat membatasi kemampuan peran untuk melakukan permintaan API dengan model yang disediakan dengan memodifikasi Resource daftar agar hanya berisi model yang disediakan yang ingin Anda izinkan aksesnya. Sebagai contoh, lihat Izinkan pengguna untuk memanggil model yang disediakan.

      • Untuk membatasi kemampuan peran untuk membuat model yang disediakan dari fondasi tertentu atau model kustom, ubah Resource daftar agar hanya berisi fondasi dan model kustom yang ingin Anda izinkan aksesnya.

    2. Ikuti langkah-langkah di Men ambahkan dan menghapus izin identitas IAM untuk melampirkan kebijakan ke peran untuk memberikan izin peran.

  3. Jika Anda membeli Provisioned Throughput untuk model kustom yang dienkripsi dengan AWS KMS kunci yang dikelola pelanggan, peran IAM Anda harus memiliki izin untuk mendekripsi kunci. Anda dapat menggunakan template diMemahami cara membuat kunci yang dikelola pelanggan dan cara melampirkan kebijakan kunci padanya. Untuk izin minimal, Anda hanya dapat menggunakan pernyataan Permissions for custom model users kebijakan.