Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Kuota untuk Amazon Bedrock
Anda Akun AWS memiliki kuota default, sebelumnya disebut sebagai batas, untuk Amazon Bedrock. Untuk melihat kuota layanan untuk Amazon Bedrock, ikuti langkah-langkah di Melihat kuota layanan dan pilih Amazon Bedrock sebagai layanan. Beberapa kuota berbeda menurut model. Kecuali ditentukan lain, kuota berlaku untuk semua versi model.
Untuk menjaga kinerja layanan dan memastikan penggunaan Amazon Bedrock yang tepat, kuota default yang ditetapkan ke akun dapat diperbarui tergantung pada faktor regional, riwayat pembayaran, penggunaan penipuan, dan/atau persetujuan permintaan peningkatan kuota.
Anda dapat meminta kenaikan kuota untuk akun Anda dengan mengikuti langkah-langkah di bawah ini:
-
Jika kuota ditandai sebagai Ya di kolom Adjustable through Service Quotas pada tabel berikut, Anda dapat menyesuaikannya dengan mengikuti langkah-langkah di Meminta Peningkatan Kuota pada Panduan Pengguna Service Quotasdalam Panduan Pengguna Service Quotas.
-
Jika kuota ditandai sebagai Tidak di kolom Adjustable through Service Quotas pada tabel berikut, Anda mungkin dapat meminta peningkatan kuota dengan salah satu cara berikut:
-
Untuk meminta peningkatan kuota untuk kuota Runtime, hubungi manajer Anda. Akun AWS Jika Anda tidak memiliki Akun AWS manajer, Anda tidak dapat menambah kuota Anda saat ini.
-
Untuk meminta kenaikan kuota lainnya, kirimkan permintaan melalui formulir kenaikan batas
untuk dipertimbangkan kenaikan.
catatan
Karena permintaan yang luar biasa, prioritas akan diberikan kepada pelanggan yang menghasilkan lalu lintas yang mengkonsumsi alokasi kuota yang ada. Permintaan Anda mungkin ditolak jika Anda tidak memenuhi persyaratan ini.
-
Pilih topik untuk mempelajari lebih lanjut tentang kuota global default untuknya. Semua kuota global dan regional adalah sama kecuali ditentukan lain.
Kuota berikut berlaku saat Anda melakukan inferensi model. Kuota ini mempertimbangkan jumlah gabungan untuk Converse,, ConverseStreamInvokeModel, dan InvokeModelWithResponseStreampermintaan. Latensi inferensi berbeda menurut model dan berbanding lurus dengan jumlah token input dan output dan jumlah total permintaan sesuai permintaan yang sedang berlangsung oleh semua pelanggan pada saat itu. Untuk hasil yang terjamin, kami mendorong Anda untuk mencoba Provisioned Throughput.
Model | Permintaan diproses per menit | Token diproses per menit | Wilayah | Dapat disesuaikan melalui Service Quotas |
---|---|---|---|---|
AI21 Labs Jurassic-2 Mid | 400 | 300.000 | us-east-1 | Tidak |
AI21 Labs Jurassic-2 Ultra | 100 | 300.000 | Semua | Tidak |
AI21 Jamba-Instruct | 100 | 300.000 | Semua | Tidak |
Amazon Titan Embeddings G1 - Text | 2.000 | 300.000 | Semua | Tidak |
Amazon Titan Text Embeddings V2 | 2.000 | 300.000 | Semua | Tidak |
Amazon Titan Image Generator G1 V1 | 60 | N/A | Semua | Tidak |
Amazon Titan Image Generator G1 V2 | 60 | N/A | Semua | Tidak |
Amazon Titan Multimodal Embeddings G1 | 2.000 | 300.000 | Semua | Tidak |
Amazon Titan Text G1 - Express | 400 | 300.000 | Semua | Tidak |
Amazon Titan Text G1 - Lite | 800 | 300.000 | Semua | Tidak |
Amazon Titan Text Premier | 100 | 300.000 | Semua | Tidak |
Anthropic Claude Instant | 1.000 | 1.000.000 |
us-east-1 us-west-2 |
Tidak |
400 | 300.000 | Daerah lain | ||
AnthropicClaude2.x | 500 | 500.000 |
us-east-1 us-west-2 |
Tidak |
100 | 200.000 | Daerah lain | ||
Anthropic Claude 3 Sonnet | 500 | 1.000.000 |
us-east-1 us-west-2 |
Tidak |
100 | 200.000 | Daerah lain | ||
Anthropic Claude 3 Haiku | 1.000 | 2.000.000 |
us-east-1 us-west-2 |
Tidak |
200 | 200.000 |
ap-northeast-1 ap-southeast-1 |
||
400 | 300.000 | Daerah lain | ||
Anthropic Claude 3.5 Sonnet | 250 | 2.000.000 | us-west-2 | Tidak |
20 | 200.000 |
ap-northeast-1 ap-southeast-1 eu-central-1 |
Tidak | |
50 | 400.000 | Daerah lain | Tidak | |
Anthropic Claude 3 Opus | 50 | 400.000 | Semua | Tidak |
Cohere Command R | 400 | 300.000 | Semua | Tidak |
Cohere Command R+ | 400 | 300.000 | Semua | Tidak |
Cohere Command | 400 | 300.000 | Semua | Tidak |
Cohere Command Light | 800 | 300.000 | Semua | Tidak |
CohereEmbed(Bahasa Inggris) | 2.000 | 300.000 | Semua | Tidak |
CohereEmbed(Multilingual) | 2.000 | 300.000 | Semua | Tidak |
MetaLlama 213B | 800 | 300.000 | Semua | Tidak |
MetaLlama 270B | 400 | 300.000 | Semua | Tidak |
Meta Llama 3 8B Instruct | 800 | 300.000 | Semua | Tidak |
Meta Llama 3 70B Instruct | 400 | 300.000 | Semua | Tidak |
Meta Llama 3.1 8B Instruct | 800 | 300.000 | us-west-2 | Tidak |
Meta Llama 3.1 70B Instruct | 400 | 300.000 | us-west-2 | Tidak |
Meta Llama 3.1 405B Instruct | 50 | 400.000 | us-west-2 | Tidak |
Mistral AI Mistral 7B Instruct | 800 | 300.000 | Semua | Tidak |
Mistral AI Mixtral 8X7B Instruct | 400 | 300.000 | Semua | Tidak |
Mistral AI Mistral Large | 400 | 300.000 | Semua | Tidak |
Mistral AI Mistral Large 2 (24.07) | 400 | 300.000 | us-west-2 | Tidak |
Mistral AI Mistral Small | 400 | 300.000 | Semua | Tidak |
Stable Diffusion XL | 60 | N/A | Semua | Tidak |
Tabel berikut menunjukkan jumlah maksimum API permintaan yang diizinkan per detik untuk API operasi yang berbeda di Amazon Bedrock:
Fitur | APIoperasi | Permintaan maksimum per detik |
---|---|---|
N/A | Bercakap | 200 |
ConverseStream | 200 | |
DeleteModelInvocationLoggingConfiguration | 1 | |
GetFoundationModel | 10 | |
GetModelInvocationLoggingConfiguration | 10 | |
InvokeModel | 200 | |
InvokeModelWithResponseStream | 200 | |
ListFoundationModels | 10 | |
ListTagsForResource | 20 | |
PutModelInvocationLoggingConfiguration | 1 | |
TagResource | 20 | |
UntagResource | 20 | |
Agen | AssociateAgentKnowledgeBase | 6 |
CreateAgent | 6 | |
CreateAgentActionGroup | 12 | |
CreateAgentAlias | 2 | |
DeleteAgent | 2 | |
DeleteAgentActionGroup | 2 | |
DeleteAgentAlias | 2 | |
DeleteAgentVersion | 2 | |
DisassociateAgentKnowledgeBase | 4 | |
GetAgent | 15 | |
GetAgentActionGroup | 20 | |
GetAgentAlias | 10 | |
GetAgentKnowledgeBase | 15 | |
GetAgentVersion | 10 | |
ListAgents | 10 | |
ListAgentActionGroups | 10 | |
ListAgentAliases | 10 | |
ListAgentKnowledgeBases | 10 | |
ListAgentVersions | 10 | |
PrepareAgent | 2 | |
UpdateAgent | 4 | |
UpdateAgentActionGroup | 6 | |
UpdateAgentAlias | 2 | |
UpdateAgentKnowledgeBase | 4 | |
Model kustom | CreateModelCustomizationJob | 1 |
DeleteCustomModel | 10 | |
GetCustomModel | 10 | |
GetModelCustomizationJob | 10 | |
ListModelCustomizationJobs | 10 | |
StopModelCustomizationJob | 10 | |
Pagar pembatas | CreateGuardrail | 1 |
CreateGuardrailVersion | 1 | |
DeleteGuardrail | 1 | |
GetGuardrail | 10 | |
ListGuardrails | 10 | |
UpdateGuardrail | 1 | |
Basis pengetahuan | CreateDataSource | 2 |
CreateKnowledgeBase | 2 | |
DeleteDataSource | 2 | |
DeleteKnowledgeBase | 2 | |
GetDataSource | 10 | |
GetIngestionJob | 10 | |
GetKnowledgeBase | 10 | |
ListDataSources | 10 | |
ListIngestionJobs | 10 | |
ListKnowledgeBases | 10 | |
Ambil | 5 | |
RetrieveAndGenerate | 5 | |
StartIngestionJob | 0.1 | |
UpdateDataSource | 2 | |
UpdateKnowledgeBase | 2 | |
Evaluasi model | CreateEvaluationJob | 5 |
GetEvaluationJob | 10 | |
ListEvaluationJobs | 10 | |
StopEvaluationJob | 5 | |
Throughput yang Disediakan | CreateProvisionedModelThroughput | 1 |
DeleteProvisionedModelThroughput | 1 | |
GetProvisionedModelThroughput | 10 | |
ListProvisionedModelThroughputs | 10 | |
UpdateProvisionedModelThroughput | 1 |
Pilih tab untuk melihat kuota khusus model untuk petunjuk.
Kuota berikut berlaku saat Anda menjalankan inferensi batch. Kuota tergantung pada modalitas data input dan output.
Modalitas | Ukuran file minimum | Ukuran maksimum file | Dapat disesuaikan melalui Service Quotas |
---|---|---|---|
Teks ke embeddings | 75 MB | 500 MB | Tidak |
Teks ke teks | 20 MB | 150 MB | Tidak |
Teks/gambar ke gambar | 1 MB | 50 MB | Tidak |
Kuota berikut diberlakukan saat Anda menggunakan pagar pembatas.
Kuota | Deskripsi | Nilai |
---|---|---|
Pagar pembatas per akun | Jumlah maksimum pagar pembatas dalam suatu akun. | 100 |
Versi per pagar pembatas | Jumlah maksimum versi yang dapat dimiliki pagar pembatas. | 20 |
Topik per topik pagar pembatas | Jumlah maksimum topik yang dapat didefinisikan di seluruh kebijakan topik pagar pembatas. | 30 |
Contoh frasa per topik | Jumlah maksimum contoh topik yang dapat dimasukkan dalam suatu topik. | 5 |
Ekspresi Regex di filter informasi Sensitif | Jumlah maksimum regex filter pagar pembatas yang dapat dimasukkan dalam kebijakan informasi Sensitif | 10 |
Panjang regex dalam karakter | Panjang maksimum, dalam karakter, dari filter pagar pembatas regex. | 500 |
Kebijakan kata per Word | Jumlah maksimum kata yang dapat dimasukkan dalam daftar kata yang diblokir. | 10.000 |
Panjang kata dalam karakter | Panjang maksimum kata, dalam karakter, dalam daftar kata yang diblokir. | 100 |
Permintaan sesuai ApplyGuardrail permintaan per detik | Jumlah maksimum ApplyGuardrail API panggilan yang diizinkan per detik. | 25 |
Sesuai permintaan Unit teks kebijakan topik yang ApplyGuardrail ditolak per detik. | Jumlah maksimum unit teks yang dapat diproses untuk kebijakan topik Ditolak per detik. | 25 |
Unit teks kebijakan filter ApplyGuardrail konten sesuai permintaan per detik | Jumlah maksimum unit teks yang dapat diproses untuk kebijakan filter Konten per detik. | 25 |
Unit teks kebijakan filter ApplyGuardrail Word sesuai permintaan per detik | Jumlah maksimum unit teks yang dapat diproses untuk kebijakan filter Word per detik. | 25 |
Unit teks kebijakan filter informasi ApplyGuardrail sensitif sesuai permintaan per detik | Jumlah maksimum unit teks yang dapat diproses untuk kebijakan filter informasi sensitif per detik. | 25 |
catatan
Unit teks dapat mencapai 1.000 karakter
Kuota berikut berlaku untuk basis Pengetahuan untuk Amazon Bedrock.
Deskripsi | Maksimum | Dapat disesuaikan melalui Service Quotas | Deskripsi |
---|---|---|---|
Basis pengetahuan per akun | 100 | Tidak | Jumlah maksimum basis pengetahuan per akun. |
Sumber data per basis pengetahuan | 5 | Tidak | Jumlah maksimum sumber data per basis pengetahuan. |
Ukuran potongan sumber data (TitanTeks G1 - Embeddings) | 8,192 | Tidak | Ukuran maksimum (dalam KB) dari sumber data yang menggunakanTitan Embeddings G1 - Text. |
Ukuran potongan sumber data (CohereEmbedBahasa Inggris) | 512 | Tidak | Ukuran maksimum (dalam KB) dari sumber data menggunakan Cohere Embed bahasa Inggris. |
Ukuran potongan sumber data (CohereEmbedMultilingual) | 512 | Tidak | Ukuran maksimum (dalam KB) dari sumber data menggunakan Cohere Embed Multilingual. |
Sumber data total bidang/atribut metadata per potongan. | 250 | Tidak | Jumlah maksimum bidang/atribut metadata dokumen per potongan. |
Sumber data total item konten yang dirayapi untuk Web Crawler | 25.000 | Tidak | Jumlah maksimum item konten halaman web (maks 50 MB per item konten) yang dapat dirayapi. |
Sumber data total file yang dirayapi | 2,5 juta | Tidak | Jumlah maksimum file sumber data atau item konten (maks 50 MB per file/item konten) yang dapat dirayapi. |
Penguraian tingkat lanjut ukuran data total | 100 MB | Tidak | Ukuran gabungan maksimum (dalam MB) data yang dapat diurai menggunakan parsing lanjutan. |
Penguraian file total lanjutan | 100 | Tidak | Jumlah maksimum file yang dapat diurai menggunakan parsing lanjutan. |
File untuk ditambahkan atau diperbarui per pekerjaan konsumsi | 5.000.000 | Tidak | Jumlah maksimum file baru dan yang diperbarui yang dapat dicerna per pekerjaan konsumsi. |
File yang akan dihapus per pekerjaan konsumsi | 5.000.000 | Tidak | Jumlah maksimum file yang dapat dihapus per pekerjaan konsumsi. |
Ukuran file pekerjaan konsumsi (dokumen sumber) | 50 MB | Tidak | Ukuran maksimum (dalam MB) file dokumen sumber dalam pekerjaan konsumsi. |
Ukuran file pekerjaan konsumsi (file metadata) | 10 KB | Tidak | Ukuran maksimum (dalam KB) file metadata dalam pekerjaan konsumsi. |
Ukuran pekerjaan konsumsi | 100 GB | Tidak | Ukuran maksimum (dalam GB) dari pekerjaan konsumsi. |
Pekerjaan konsumsi bersamaan per sumber data | 1 | Tidak | Jumlah maksimum pekerjaan konsumsi yang dapat dilakukan pada saat yang sama untuk sumber data. |
Pekerjaan konsumsi bersamaan per basis pengetahuan | 1 | Tidak | Jumlah maksimum pekerjaan konsumsi yang dapat dilakukan pada saat yang sama untuk basis pengetahuan. |
Pekerjaan konsumsi bersamaan per akun | 5 | Tidak | Jumlah maksimum pekerjaan konsumsi yang dapat terjadi pada saat yang sama di akun. |
Ukuran kueri pengguna | 1.000 | Tidak | Ukuran maksimum (dalam karakter) dari kueri pengguna. |
Kuota berikut berlaku untuk Agen untuk Amazon Bedrock.
Kuota | Maksimum | Dapat disesuaikan melalui Service Quotas | Deskripsi |
---|---|---|---|
Agen per akun | 50 | Ya | Jumlah maksimum Agen dalam satu akun. |
Alias terkait per agen | 10 | Tidak | Jumlah maksimum alias yang dapat Anda kaitkan dengan agen. |
Karakter dalam instruksi agen | 4.000 | Ya | Jumlah maksimum karakter dalam instruksi untuk agen. |
Kelompok aksi per agen | 20 | Ya | Jumlah maksimum grup aksi yang dapat Anda tambahkan ke agen. |
Grup tindakan yang diaktifkan per agen | 11 | Ya | Jumlah maksimum grup aksi yang dapat diaktifkan di agen. |
APIsatau Fungsi per Agen | 11 | Ya | Jumlah maksimum APIs yang dapat Anda tambahkan ke Agen. |
Parameter per Fungsi | 5 | Ya | Jumlah maksimum parameter yang dapat Anda tambahkan ke fungsi untuk grup tindakan. |
Ukuran payload respons Lambda | 25 KB | Tidak | Ukuran maksimum payload dalam grup aksi respons Lambda. |
Basis pengetahuan terkait per Agen | 2 | Ya | Jumlah maksimum basis pengetahuan yang dapat Anda kaitkan dengan Agen. |
Kuota berikut berlaku untuk manajemen Prompt.
Kuota | Maksimum | Dapat disesuaikan melalui Service Quotas | Deskripsi |
---|---|---|---|
Permintaan per akun | 50 | Tidak | Jumlah maksimum permintaan dalam manajemen Prompt yang dapat Anda miliki di akun. |
Versi per prompt | 10 | Tidak | Jumlah maksimum versi yang dapat dimiliki prompt dalam manajemen Prompt. |
Kuota berikut berlaku untuk aliran Prompt.
Kuota | Maksimum | Dapat disesuaikan melalui Service Quotas | Deskripsi |
---|---|---|---|
Alur cepat per akun | 10 | Tidak | Jumlah maksimum aliran prompt yang dapat Anda miliki di akun. |
Node per aliran prompt | 20 | Tidak | Jumlah maksimum node yang dapat Anda miliki dalam aliran prompt. |
Versi per aliran prompt | 10 | Tidak | Jumlah maksimum versi yang dapat dimiliki oleh aliran prompt. |
Alias per aliran prompt | 10 | Tidak | Jumlah maksimum alias yang dapat Anda kaitkan dengan aliran prompt. |
Alur cepat per akun | 10 | Tidak | Jumlah maksimum aliran prompt yang dapat Anda miliki di akun. |
Alur cepat per akun | 10 | Tidak | Jumlah maksimum aliran prompt yang dapat Anda miliki di akun. |
Node masukan aliran per aliran prompt | 1 | Tidak | Jumlah maksimum node input aliran yang dapat Anda tambahkan ke aliran prompt. |
Node keluaran aliran per aliran prompt | 5 | Tidak | Jumlah maksimum node keluaran aliran yang dapat Anda tambahkan ke aliran prompt. |
Kondisi node per aliran prompt | 5 | Tidak | Jumlah maksimum node kondisi yang dapat Anda tambahkan ke aliran prompt. |
Node iterator per aliran prompt | 1 | Tidak | Jumlah maksimum node iterator yang dapat Anda tambahkan ke aliran prompt. |
Node kolektor per aliran prompt | 1 | Tidak | Jumlah maksimum node kolektor yang dapat Anda tambahkan ke aliran prompt. |
Node prompt per aliran prompt | 5 | Tidak | Jumlah maksimum node prompt yang dapat Anda tambahkan ke aliran prompt. |
Node Lambda per aliran prompt | 5 | Tidak | Jumlah maksimum node Lambda yang dapat Anda tambahkan ke aliran prompt. |
Lex node per aliran prompt | 5 | Tidak | Jumlah maksimum node Lex yang dapat Anda tambahkan ke aliran prompt. |
Node per jenis node per aliran prompt | 5 | Tidak | Jumlah maksimum node yang dapat Anda tambahkan untuk setiap jenis dalam aliran prompt. |
Kondisi per kondisi node | 5 | Tidak | Jumlah maksimum kondisi yang dapat Anda tambahkan ke node kondisi dalam aliran prompt. |
Kuota berikut berlaku untuk kustomisasi model.
Deskripsi | Maksimum | Dapat disesuaikan melalui Service Quotas |
---|---|---|
Jumlah maksimum model yang diimpor dalam akun. | 0 | Ya |
Jumlah maksimum pekerjaan kustomisasi terjadwal. | 2 | Tidak |
Jumlah maksimum model kustom dalam akun. | 100 | Ya |
Untuk melihat kuota hyperparameter, lihat. Hiperparameter model kustom
Pilih tab untuk melihat kuota khusus model yang berlaku untuk kumpulan data pelatihan dan validasi yang digunakan untuk menyesuaikan model dasar yang berbeda.
Kuota berikut berlaku untuk Provisioned Throughput.
catatan
Jika kuota ditandai sebagai tidak dapat disesuaikan melalui Service Quotas, Anda dapat mengirimkan permintaan melalui formulir kenaikan batas
Deskripsi | Default | Dapat disesuaikan melalui Service Quotas |
---|---|---|
Unit model yang dapat didistribusikan di seluruh Throughput yang Disediakan tanpa komitmen | 2 | Tidak |
Model unit yang dapat didistribusikan di seluruh Provisioned Throughputs dengan komitmen | 0 | Tidak |
Kuota berikut berlaku untuk pekerjaan evaluasi model,
Jenis Tugas | Deskripsi | Default | Dapat disesuaikan |
---|---|---|---|
Otomatis |
Jumlah maksimum kumpulan data yang dapat Anda tentukan dalam pekerjaan evaluasi model otomatis. Ini termasuk kumpulan data prompt khusus dan bawaan. |
5 | Tidak |
Otomatis |
Jumlah maksimum metrik yang dapat Anda tentukan per kumpulan data dalam pekerjaan evaluasi model otomatis. Ini termasuk metrik khusus dan bawaan. |
3 | Tidak |
Manusia |
Jumlah maksimum metrik kustom yang dapat Anda tentukan dalam pekerjaan evaluasi model yang menggunakan pekerja manusia. |
10 | Tidak |
Otomatis |
Jumlah maksimum model yang dapat Anda tentukan dalam pekerjaan evaluasi model otomatis. |
1 | Tidak |
Manusia |
Jumlah maksimum model yang dapat Anda tentukan dalam pekerjaan evaluasi model yang menggunakan pekerja manusia. |
2 | Tidak |
Otomatis |
Jumlah maksimum pekerjaan evaluasi model otomatis yang dapat Anda tentukan sekaligus di akun ini di Wilayah saat ini. |
20 | Tidak |
Manusia |
Jumlah maksimum pekerjaan evaluasi model yang menggunakan pekerja manusia dapat Anda tentukan pada satu waktu di akun ini di Wilayah saat ini. |
10 | Tidak |
Keduanya |
Jumlah maksimum pekerjaan evaluasi model yang dapat Anda buat di akun ini di Wilayah saat ini. |
500 | Tidak |
Manusia |
Jumlah maksimum kumpulan data prompt kustom yang dapat Anda tentukan dalam pekerjaan evaluasi model berbasis manusia di akun ini di Wilayah saat ini. |
1 | Tidak |
Keduanya |
Jumlah maksimum permintaan yang dapat berisi kumpulan data prompt kustom. |
1.000 | Tidak |
Keduanya |
Ukuran maksimum (dalam KB) dari prompt individu adalah kumpulan data prompt khusus. |
4 KB | Tidak |
Manusia |
Panjang maksimum (dalam hari) waktu yang dimiliki seorang pekerja untuk menyelesaikan tugas. |
30 | Tidak |