Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.
Model pemahaman Amazon Nova Multimodal tersedia untuk digunakan untuk inferensi melalui Invoke API (InvokeModel, InvokeModelWithResponseStream) dan Converse API (Converse dan). ConverseStream Untuk membuat aplikasi percakapan, lihat Melakukan percakapan dengan operasi API converse. Kedua metode API (Invoke dan Converse) mengikuti pola permintaan yang sangat mirip seperti yang dijelaskan di bawah ini
Perbedaan utama antara Invoke API dan Converse API adalah sebagai berikut:
-
Parameter inferensi seperti TopK tidak didukung di Converse dan perlu diteruskan
additionalModelRequestFields, sedangkan di API Invoke dapat diteruskan langsung dalam parameter inferensi. -
Document Support hanya terbatas pada Converse API dan tidak didukung di Invoke API.
-
Format penguraian respons berbeda antara konstruksi Invoke API dan Convserse API.
-
Streaming respons berbeda antara
ConverseStreamdanInvokeModelWithStreaming.
Topik
Ikhtisar pesan API
Model Amazon Nova Understanding menggunakan Messages API, yang memungkinkan pengiriman daftar terstruktur pesan masukan yang berisi teks, gambar, video, dan dokumen. Model kemudian menghasilkan pesan berikutnya dalam percakapan. Messages API mendukung kueri tunggal dan percakapan multi-putaran stateless, memungkinkan pembuatan chatbots dan aplikasi asisten virtual. API mengelola pertukaran percakapan antara pengguna dan model Amazon Nova (asisten).
Model Amazon Nova dilatih untuk beroperasi pada giliran percakapan pengguna dan asisten yang bergantian. Saat membuat pesan baru, Anda menentukan giliran percakapan sebelumnya dengan parameter pesan. Model kemudian menghasilkan pesan berikutnya dalam percakapan.
Setiap pesan input harus berupa objek yang berisi peran dan konten. Pengguna dapat menentukan satu pesan dengan peran pengguna, atau menyertakan beberapa pesan dengan peran pengguna dan asisten. Namun, pesan pertama harus selalu menggunakan peran pengguna. Jika teknik pengisian awal respons dari Amazon Nova digunakan (dengan menyertakan pesan akhir dengan peran asisten), model akan melanjutkan tanggapannya dari konten yang disediakan. Pendekatan ini masih akan menghasilkan respons dengan peran asisten.
Berikut ini merupakan pesan pengguna tunggal:
[{
"role": "user",
"content": [{"text":"Hello, Nova"}]
}]
Berikut adalah contoh dengan beberapa putaran percakapan:
[
{"role": "user", "content": [{"text": "Hello there."}]},
{"role": "assistant", "content": [{"text": "Hi, I'm Chatbot trained to answer your questions. How can I help you?"}]},
{"role": "user", "content": [{"text": "Can you explain LLMs in plain English?"}]}
]
Berikut adalah contoh dengan respons yang sebagian diisi dari Amazon Nova:
[
{"role": "user", "content": [{"text":"Please describe yourself using only JSON"}]},
{"role": "assistant", "content": [{"text":"Here is my JSON description:\n{"}]}
]
Untuk informasi tentang membuat petunjuk untuk model Amazon Nova, lihatPemahaman teks mendorong praktik terbaik.
Memanfaatkan prompt sistem
Anda dapat menyertakan prompt sistem dalam permintaan. Prompt sistem memungkinkan Anda memberikan konteks dan instruksi ke Amazon Nova, seperti menentukan tujuan atau peran tertentu. Tentukan prompt sistem di system lapangan, seperti yang ditunjukkan pada contoh berikut:
[
{"text": "You are an expert SaS analyst......"}
]
