View a markdown version of this page

Prasyarat untuk menjalankan inferensi model - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Prasyarat untuk menjalankan inferensi model

Agar peran menjalankan inferensi model, Anda harus mengizinkannya melakukan tindakan API pemanggilan model. Jika peran Anda memiliki kebijakan ter AmazonBedrockFullAccess AWS kelola yang dilampirkan, Anda dapat melewati bagian ini. Jika tidak, lampirkan izin berikut ke peran untuk mengizinkannya menggunakan InvokeModel,, Converse InvokeModelWithResponseStream , dan ConverseStream tindakan dengan semua sumber daya yang didukung di Amazon Bedrock:

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

Untuk membatasi izin lebih lanjut, Anda dapat menghilangkan tindakan, atau Anda dapat menentukan sumber daya dan kunci kondisi yang digunakan untuk memfilter izin. Untuk informasi selengkapnya tentang tindakan, sumber daya, dan kunci kondisi, lihat topik berikut di Referensi Otorisasi Layanan:

Daftar berikut merangkum apakah Anda memerlukan tindakan, tergantung pada kasus penggunaan Anda:

  • bedrock:InvokeModel— Diperlukan untuk melaksanakan pemanggilan model. Memungkinkan peran untuk memanggil operasi InvokeModel dan Converse API.

  • bedrock:InvokeModelWithResponseStream- Diperlukan untuk melakukan pemanggilan model dan mengembalikan respons streaming. Mengizinkan peran untuk memanggil operasi API InvokeModelWithResponseStream dan Converse Stream.

  • Tindakan berikut memungkinkan peran bekerja dengan respons yang disimpan Responses API di bedrock-runtime titik akhir. Masing-masing mengotorisasi proyek yang menjadi tanggapannya, bukan model:

    • bedrock:GetInvoke- Diperlukan untuk mengambil respons yang tersimpan.

    • bedrock:CancelInvoke— Diperlukan untuk membatalkan respons yang masih berlangsung.

    • bedrock:DeleteInvoke— Diperlukan untuk menghapus respons yang tersimpan.

    Membuat respons juga membutuhkan bedrock:InvokeModel proyek, selain target inferensi. API Converse, Invoke, dan Chat Completions tidak menyimpan tanggapan dan tidak memerlukan tindakan ini. Untuk informasi selengkapnya, lihat Proyek (OpenAI-compatible).

  • Tindakan berikut memungkinkan peran menjalankan inferensi dengan sumber daya Amazon Bedrock selain model dasar:

  • Tindakan berikut memungkinkan peran untuk melihat sumber daya Amazon Bedrock selain model dasar di konsol Amazon Bedrock dan memilihnya:

    • bedrock:ListInferenceProfiles— Diperlukan untuk memilih profil inferensi di konsol Amazon Bedrock.

    • bedrock:ListCustomModels— Diperlukan untuk memilih model khusus di konsol Amazon Bedrock.

    • bedrock:ListImportedModels— Diperlukan untuk memilih model yang diimpor di konsol Amazon Bedrock.

    • bedrock:ListProvisionedModelThroughputs— Diperlukan untuk memilih Through put yang Disediakan di konsol Amazon Bedrock.

  • Tindakan berikut memungkinkan peran untuk mengakses dan menerapkan pagar pembatas dari Amazon Bedrock Guardra ils selama pemanggilan model:

    • bedrock:GetGuardrail- Diperlukan untuk menggunakan pagar pembatas selama pemanggilan model.

    • bedrock:ApplyGuardrail- Diperlukan untuk menerapkan pagar pembatas selama pemanggilan model.

    • bedrock:ListGuardrails— Diperlukan untuk memilih pagar pembatas di konsol Amazon Bedrock.