Menyebarkan agen Amazon Bedrock - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Menyebarkan agen Amazon Bedrock

Saat pertama kali membuat agen Amazon Bedrock, Anda memiliki versi draf (DRAFT) dan alias pengujian (TSTALIASID) yang mengarah ke versi draf yang berfungsi. Ketika Anda membuat perubahan pada agen Anda, perubahan berlaku untuk draf kerja. Anda mengulangi draf kerja Anda sampai Anda puas dengan perilaku agen Anda. Kemudian, Anda dapat mengatur agen Anda untuk penyebaran dan integrasi ke dalam aplikasi Anda dengan membuat alias agen Anda.

Untuk menyebarkan agen Anda, Anda harus membuat alias. Selama pembuatan alias, Amazon Bedrock membuat versi agen Anda secara otomatis. Alias menunjuk ke versi yang baru dibuat ini. Atau, Anda dapat mengarahkan alias ke versi agen Anda yang dibuat sebelumnya. Kemudian, Anda mengonfigurasi aplikasi Anda untuk melakukan panggilan API ke alias itu.

Versi adalah snapshot yang mempertahankan sumber daya seperti yang ada pada saat itu dibuat. Anda dapat terus memodifikasi draf kerja dan membuat alias baru (dan akibatnya, versi) dari agen Anda seperlunya. Di Amazon Bedrock, Anda membuat versi baru agen Anda dengan membuat alias yang menunjuk ke versi baru secara default. Amazon Bedrock membuat versi dalam urutan numerik, mulai dari 1.

Versi tidak dapat diubah karena mereka bertindak sebagai snapshot dari agen Anda pada saat Anda membuatnya. Untuk melakukan pembaruan ke agen dalam produksi, Anda harus membuat versi baru dan mengatur aplikasi Anda untuk melakukan panggilan ke alias yang menunjuk ke versi itu.

Dengan alias, Anda dapat beralih secara efisien di antara berbagai versi agen Anda tanpa mengharuskan aplikasi untuk melacak versinya. Misalnya, Anda dapat mengubah alias untuk menunjuk ke versi agen Anda sebelumnya jika ada perubahan yang perlu Anda kembalikan dengan cepat.

Untuk menyebarkan agen Anda

  1. Buat alias dan versi agen Anda. Pilih tab yang sesuai dengan metode pilihan Anda dan ikuti langkah-langkahnya.

    Console
    Untuk membuat alias (dan opsional versi baru)

    1. Masuk ke AWS Management Console menggunakan peran IAM dengan izin Amazon Bedrock, dan buka konsol Amazon Bedrock di https://console.aws.amazon.com/bedrock/.

    2. Pilih Agen dari panel navigasi kiri. Kemudian, pilih agen di bagian Agen.

    3. Di bagian Alias, pilih Buat.

    4. Masukkan nama Alias yang unik dan berikan Deskripsi opsional.

    5. Di bawah Mengaitkan versi, pilih salah satu opsi berikut:

      • Untuk membuat versi baru, pilih Buat versi baru dan kaitkan dengan alias ini.

      • Untuk menggunakan versi yang ada, pilih Gunakan versi yang ada untuk mengaitkan alias ini. Dari menu tarik-turun, pilih versi yang ingin Anda kaitkan alias.

    6. Di bawah Pilih throughput, pilih salah satu opsi berikut:

      • Agar agen Anda menjalankan inferensi model dengan tarif yang ditetapkan untuk akun Anda, pilih On-Demand (ODT). Untuk informasi selengkapnya, lihat Kuota untuk Amazon Bedrock.

      • Agar agen Anda menjalankan inferensi model pada tingkat yang lebih tinggi menggunakan Provisioned Throughput yang sebelumnya Anda beli untuk model tersebut, pilih Provisioned Throughput (PT) lalu pilih model yang disediakan. Untuk informasi selengkapnya, lihat Throughput yang Disediakan untuk Amazon Bedrock.

    7. Pilih Buat alias.

    API

    Untuk membuat alias agen, kirim CreateAgentAliaspermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir waktu pembuatan Agen untuk Amazon Bedrock.

    Bidang berikut diperlukan:

    Bidang Kasus penggunaan
    agentId Untuk menentukan ID agen untuk membuat alias.
    agentName Untuk menentukan nama untuk alias.

    Bidang berikut adalah opsional:

    Bidang Kasus penggunaan
    deskripsi Untuk memberikan deskripsi alias.
    RoutingConfiguration Untuk menentukan versi untuk mengaitkan alias dengan (biarkan kosong untuk membuat versi baru) dan Throughput yang Disediakan untuk diasosiasikan dengan alias.
    clientToken Identifier untuk memastikan permintaan API selesai hanya sekali.
    tag Untuk mengaitkan tag dengan alias.

    Lihat contoh kode

  2. Terapkan agen Anda dengan menyiapkan aplikasi Anda untuk membuat InvokeAgentpermintaan (lihat tautan untuk format permintaan dan respons serta detail bidang) dengan titik akhir waktu proses Agen untuk Amazon Bedrock. Di agentAliasId bidang, tentukan ID alias yang menunjuk ke versi agen yang ingin Anda gunakan.

Untuk mempelajari cara mengelola versi dan alias agen, pilih dari topik berikut.

Topik