Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Saat pertama kali membuat agen Amazon Bedrock, Anda memiliki versi draf (DRAFT
) dan alias pengujian (TSTALIASID
) yang mengarah ke versi draf yang berfungsi. Ketika Anda membuat perubahan pada agen Anda, perubahan berlaku untuk draf kerja. Anda mengulangi draf kerja Anda sampai Anda puas dengan perilaku agen Anda. Kemudian, Anda dapat mengatur agen Anda untuk penyebaran dan integrasi ke dalam aplikasi Anda dengan membuat alias agen Anda.
Untuk menyebarkan agen Anda, Anda harus membuat alias. Selama pembuatan alias, Amazon Bedrock membuat versi agen Anda secara otomatis. Alias menunjuk ke versi yang baru dibuat ini. Atau, Anda dapat mengarahkan alias ke versi agen Anda yang dibuat sebelumnya. Kemudian, Anda mengonfigurasi aplikasi Anda untuk melakukan panggilan API ke alias itu.
Versi adalah snapshot yang mempertahankan sumber daya seperti yang ada pada saat itu dibuat. Anda dapat terus memodifikasi draf kerja dan membuat alias baru (dan akibatnya, versi) dari agen Anda seperlunya. Di Amazon Bedrock, Anda membuat versi baru agen Anda dengan membuat alias yang menunjuk ke versi baru secara default. Amazon Bedrock membuat versi dalam urutan numerik, mulai dari 1.
Versi tidak dapat diubah karena mereka bertindak sebagai snapshot dari agen Anda pada saat Anda membuatnya. Untuk melakukan pembaruan ke agen dalam produksi, Anda harus membuat versi baru dan mengatur aplikasi Anda untuk melakukan panggilan ke alias yang menunjuk ke versi itu.
Dengan alias, Anda dapat beralih secara efisien di antara berbagai versi agen Anda tanpa mengharuskan aplikasi untuk melacak versinya. Misalnya, Anda dapat mengubah alias untuk menunjuk ke versi agen Anda sebelumnya jika ada perubahan yang perlu Anda kembalikan dengan cepat.
Untuk menyebarkan agen Anda
-
Buat alias dan versi agen Anda. Pilih tab untuk metode pilihan Anda, lalu ikuti langkah-langkahnya:
Untuk membuat alias (dan opsional versi baru)
-
Masuk ke AWS Management Console menggunakan peran IAM dengan izin Amazon Bedrock, dan buka konsol Amazon Bedrock di. https://console.aws.amazon.com/bedrock/
-
Pilih Agen dari panel navigasi kiri. Kemudian, pilih agen di bagian Agen.
-
Di bagian Alias, pilih Buat.
-
Masukkan nama Alias yang unik dan berikan Deskripsi opsional.
-
Di bawah Mengaitkan versi, pilih salah satu opsi berikut:
-
Untuk membuat versi baru, pilih Buat versi baru dan kaitkan dengan alias ini.
-
Untuk menggunakan versi yang ada, pilih Gunakan versi yang ada untuk mengaitkan alias ini. Dari menu tarik-turun, pilih versi yang ingin Anda kaitkan alias.
-
-
Di bawah Pilih throughput, pilih salah satu opsi berikut:
-
Agar agen Anda menjalankan inferensi model dengan tarif yang ditetapkan untuk akun Anda, pilih On-Demand (ODT). Untuk informasi selengkapnya, lihat Kuota untuk Amazon Bedrock.
-
Agar agen Anda menjalankan inferensi model pada tingkat yang lebih tinggi menggunakan Provisioned Throughput yang sebelumnya Anda beli untuk model tersebut, pilih Provisioned Throughput (PT) lalu pilih model yang disediakan. Untuk informasi selengkapnya, lihat Tingkatkan kapasitas pemanggilan model dengan Provisioned Throughput di Amazon Bedrock.
-
-
Pilih Buat alias.
-
Menyebarkan agen Anda dengan menyiapkan aplikasi Anda untuk membuat InvokeAgentpermintaan dengan titik akhir runtime Agen untuk Amazon Bedrock. Di
agentAliasId
bidang, tentukan ID alias yang menunjuk ke versi agen yang ingin Anda gunakan.Aliran
InvokeAgent
respons berisi beberapa peristiwa dengan potongan untuk setiap bagian respons secara berurutan. Anda dapat mengaktifkan streaming secara opsional dengan mengaturstreamFinalResponse
ketrue
dalam konfigurasi streaming.-
Jika agen Anda dikonfigurasi dengan Guardrail, Anda juga dapat menentukan
applyGuardrailInterval
diStreamingConfigurations
, untuk mengontrol seberapa seringApplyGuardrail
panggilan dilakukan pada karakter respons keluar (misalnya, setiap 50 karakter) -
Streaming respons saat ini hanya didukung dengan prompt Orkestrasi.
-
Kutipan saat ini tidak didukung dengan streaming.
-
Pastikan peran eksekusi Agen menyertakan
bedrock:InvokeModelWithResponseStream
izin untuk model Agen yang dikonfigurasi.
-