Lakukan percakapan dengan operasi Converse API - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Lakukan percakapan dengan operasi Converse API

Anda dapat menggunakan Amazon Bedrock Converse API untuk membuat aplikasi percakapan yang mengirim dan menerima pesan ke dan dari model Amazon Bedrock. Misalnya, Anda dapat membuat bot obrolan yang mempertahankan percakapan dalam banyak putaran dan menggunakan penyesuaian persona atau nada yang unik untuk kebutuhan Anda, seperti asisten dukungan teknis yang membantu.

Untuk menggunakan ConverseAPI, Anda menggunakan operasi Converse atau ConverseStream(untuk respons streaming) untuk mengirim pesan ke model. Dimungkinkan untuk menggunakan operasi inferensi dasar yang ada (InvokeModelatau InvokeModelWithResponseStream) untuk aplikasi percakapan. Namun, sebaiknya gunakan Converse API karena menyediakan konsistenAPI, yang berfungsi dengan semua model Amazon Bedrock yang mendukung pesan. Ini berarti Anda dapat menulis kode sekali dan menggunakannya dengan model yang berbeda. Jika model memiliki parameter inferensi yang unik, Converse API juga memungkinkan Anda untuk meneruskan parameter unik tersebut dalam struktur khusus model.

Anda dapat menggunakan Converse API untuk menerapkan penggunaan alat dan pagar pembatas dalam aplikasi Anda.

catatan

Dengan Mistral AI and Meta model, Converse API menyematkan input Anda dalam template prompt khusus model yang memungkinkan percakapan.

Untuk contoh kode, lihat berikut ini: