Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Titik akhir yang didukung oleh Amazon Bedrock
Amazon Bedrock mendukung berbagai titik akhir tergantung pada apakah Anda ingin melakukan operator pesawat kontrol atau operasi inferensi.
Operasi Kontrol Pesawat
Operasi bidang kontrol Amazon Bedrock dapat digunakan dengan titik akhir: bedrock.{region}.amazonaws.com. Ini dapat digunakan untuk mengelola sumber daya, seperti mencantumkan model yang tersedia, membuat pekerjaan model khusus, dan mengelola throughput yang disediakan. Baca lebih lanjut tentang API bidang kontrol kami di sini.
Operasi inferensi
Amazon Bedrock mendukung dua titik akhir utama berikut untuk melakukan inferensi secara terprogram:
| Titik akhir | Didukung APIs | Deskripsi |
|---|---|---|
bedrock-mantle.{region}.api.aws |
Responses API/API Penyelesaian Obrolan/API Pesan | Titik akhir khusus wilayah untuk membuat permintaan inferensi untuk model yang dihosting di Amazon Bedrock menggunakan titik akhir yang kompatibel dengan OpenAI dan API Pesan Antropik. |
bedrock-runtime.{region}.amazonaws.com |
InvokeModel/Converse/Penyelesaian Obrolan/API Pesan | Titik akhir khusus wilayah untuk membuat permintaan inferensi untuk model yang dihosting di Amazon Bedrock menggunakan/. InvokeModel Converse/Chat Completions/Messages APIs Baca lebih lanjut tentang Amazon Bedrock Runtime APIs di sini. |
Titik akhir layanan mana yang harus Anda gunakan untuk inferensi Anda?
Titik akhir yang Anda gunakan tergantung pada kasus penggunaan Anda.
| Titik akhir | Fitur dan Kasus Penggunaan |
|---|---|
bedrock-mantle |
Gunakan untuk: Mudah bermigrasi dari model lain yang menggunakan APIs OpenAI kompatibel. Fitur: Mendukung penggunaan alat sisi klien dan server dengan fungsi Lambda dan dilengkapi dengan ready-to-use alat di aplikasi Anda. Direkomendasikan untuk: Pengguna baru ke Amazon Bedrock. |
bedrock-runtime |
Gunakan untuk: Menjalankan model apa pun yang didukung oleh Amazon Bedrock. Converse API menyediakan antarmuka terpadu untuk berinteraksi dengan semua model di Amazon Bedrock dan API Invoke menyediakan akses langsung ke model dengan kemampuan lebih untuk mengontrol format permintaan dan respons. Anda juga dapat menggunakan Chat Completions API untuk berinteraksi dengan model Anda. Fitur: Hanya mendukung penggunaan alat sisi klien dengan fungsi Lambda dan tidak datang pra-konfigurasi dengan alat. ready-to-use Memungkinkan Anda melacak penggunaan dan biaya saat menjalankan model. |
Jika Anda baru mengenal Amazon Bedrock, kami sarankan Anda memulai dengan titik bedrock-mantle akhir.
Mengurangi biaya keluar data dengan titik akhir antarmuka VPC
Jika Anda memanggil Amazon Bedrock dari dalam VPC, pertimbangkan untuk menggunakan titik akhir antarmuka VPC (AWS) untuk menjaga lalu lintas dalam jaringan PrivateLink AWS dan menghindari biaya keluar data yang terkait dengan gateway NAT atau gateway internet.
