Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Rute permintaan inferensi model lintas Wilayah AWS dengan inferensi lintas wilayah
Dengan inferensi lintas wilayah, Anda dapat memilih profil inferensi lintas wilayah yang terkait dengan geografi tertentu (seperti AS atau UE), atau profil inferensi global. Saat Anda memilih profil inferensi yang terkait dengan geografi tertentu, Amazon Bedrock secara otomatis memilih iklan Wilayah AWS dalam geografi tersebut untuk memproses permintaan inferensi Anda. Dengan profil inferensi global, Amazon Bedrock secara otomatis memilih iklan Wilayah AWS untuk memproses permintaan.
Kedua jenis inferensi lintas wilayah bekerja melalui profil inferensi, yang menentukan model dasar (FM) dan permintaan yang dapat dialihkan. Wilayah AWS Cross-Region inferensi merutekan permintaan Anda dengan menggunakan komputasi di berbagai hal. Wilayah AWS
Untuk meningkatkan throughput untuk model, Anda dapat membeli Throughput Provisioned. Profil inferensi saat ini tidak mendukung Provisioned Throughput.
Untuk melihat Wilayah dan model yang dengannya Anda dapat menggunakan profil inferensi untuk menjalankan inferensi lintas wilayah, lihat. Wilayah dan model yang didukung untuk profil inferensi
Topik
Memilih antara inferensi lintas wilayah geografis dan global
Amazon Bedrock menyediakan dua jenis profil inferensi lintas wilayah, masing-masing dirancang untuk kasus penggunaan dan persyaratan kepatuhan yang berbeda:
| Fitur | Cross-Region Inferensi Geografis | Cross-Region Inferensi Global | Rekomendasi |
|---|---|---|---|
| Tempat tinggal data | Dalam batas-batas geografis (seperti AS, UE, dan APAC) | Setiap Wilayah AWS komersial yang didukung di seluruh dunia | Pilih Geografis untuk persyaratan kepatuhan |
| Meminta perutean | Dirutekan dalam geografi | Dirutekan ke seluruh dunia | Pilih berdasarkan di mana permintaan dapat diproses |
| Biaya | Harga standar | Penghematan sekitar 10% | Pilih Global untuk optimalisasi biaya |
| Persyaratan SCP | Izinkan semua Wilayah tujuan dalam profil | Izinkan "aws:RequestedRegion": "unspecified" |
Konfigurasikan berdasarkan kebijakan organisasi Anda |
| Paling cocok untuk | Organisasi dengan peraturan tempat tinggal data | Organisasi memprioritaskan pengoptimalan biaya | Menilai kepatuhan dan kebutuhan biaya Anda |
Pilih inferensi lintas wilayah geografis ketika Anda memiliki persyaratan residensi data dan perlu memastikan pemrosesan data tetap berada dalam batas geografis tertentu. Pilih inferensi lintas wilayah global jika Anda ingin penghematan biaya tanpa batasan geografis.
Pertimbangan umum
Perhatikan informasi berikut tentang inferensi lintas wilayah:
-
Tidak ada biaya routing tambahan untuk menggunakan inferensi lintas wilayah. Harga dihitung berdasarkan Wilayah tempat Anda memanggil profil inferensi. Untuk informasi tentang harga, lihat harga https://aws.amazon.com/bedrock/pricing/
Amazon Bedrock. -
Cross-Region inferensi dapat merutekan permintaan ke Wilayah AWS yang tidak diaktifkan secara manual di Anda Akun AWS. Pengaktifan Wilayah Manual tidak diperlukan agar inferensi lintas wilayah berfungsi.
-
Semua data yang dikirimkan selama operasi lintas wilayah tetap berada di AWS jaringan dan tidak melintasi internet publik. Data dienkripsi saat transit di antara Wilayah AWS.
-
CloudTrail mencatat semua permintaan inferensi lintas wilayah di Wilayah sumber Anda. Cari
additionalEventData.inferenceRegionbidang untuk mengidentifikasi tempat permintaan diproses. -
AWS Layanan yang didukung oleh Amazon Bedrock juga dapat menggunakan CRIS. Lihat dokumentasi khusus layanan untuk detail selengkapnya.
