Apa itu prompt? - Amazon Bedrock

Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Apa itu prompt?

Prompt adalah kumpulan input spesifik yang disediakan oleh Anda, pengguna, yang memandu LLM di Amazon Bedrock untuk menghasilkan respons atau output yang sesuai untuk tugas atau instruksi tertentu.

User Prompt: Who invented the airplane?

Saat ditanyakan oleh prompt ini, Titan berikan output:

Output: The Wright brothers, Orville and Wilbur Wright are widely credited with inventing and manufacturing the world's first successful airplane.

(Sumber prompt: AWS, model yang digunakan: Amazon Titan Text)

Komponen prompt

Prompt tunggal mencakup beberapa komponen, seperti tugas atau instruksi yang ingin dilakukan LLM, konteks tugas (misalnya, deskripsi domain yang relevan), contoh demonstrasi, dan teks masukan yang Anda inginkan LLM di Amazon Bedrock untuk digunakan dalam responsnya. Bergantung pada kasus penggunaan Anda, ketersediaan data, dan tugas, prompt Anda harus menggabungkan satu atau lebih komponen ini.

Pertimbangkan contoh prompt ini yang meminta Titan untuk meringkas ulasan:

User Prompt: The following is text from a restaurant review: “I finally got to check out Alessandro’s Brilliant Pizza and it is now one of my favorite restaurants in Seattle. The dining room has a beautiful view over the Puget Sound but it was surprisingly not crowded. I ordered the fried castelvetrano olives, a spicy Neapolitan-style pizza and a gnocchi dish. The olives were absolutely decadent, and the pizza came with a smoked mozzarella, which was delicious. The gnocchi was fresh and wonderful. The waitstaff were attentive, and overall the experience was lovely. I hope to return soon." Summarize the above restaurant review in one sentence.

(Sumber prompt: AWS)

Berdasarkan prompt ini, Titan tanggapi dengan ringkasan satu baris singkat dari ulasan restoran. Tinjauan tersebut menyebutkan fakta-fakta kunci dan menyampaikan poin-poin utama, seperti yang diinginkan.

Output: Alessandro's Brilliant Pizza is a fantastic restaurant in Seattle with a beautiful view over Puget Sound, decadent and delicious food, and excellent service.

(Model yang digunakan: Amazon Titan Text)

Instruksi Summarize the above restaurant review in one sentence dan teks ulasan I finally got to check out ... keduanya diperlukan untuk jenis output ini. Tanpa salah satunya, model tidak akan memiliki informasi yang cukup untuk menghasilkan ringkasan yang masuk akal. Instruksi memberitahu LLM apa yang harus dilakukan, dan teks adalah masukan di mana LLM beroperasi. Konteks (The following is text from a restaurant review) memberikan informasi tambahan dan kata kunci yang memandu model untuk menggunakan input saat merumuskan outputnya.

Dalam contoh di bawah ini, teks Context: Climate change threatens people with increased flooding ... adalah masukan yang dapat digunakan LLM untuk melakukan tugas menjawab pertanyaan. Question: What organization calls climate change the greatest threat to global health in the 21st century?”

User prompt: Context: Climate change threatens people with increased flooding, extreme heat, increased food and water scarcity, more disease, and economic loss. Human migration and conflict can also be a result. The World Health Organization (WHO) calls climate change the greatest threat to global health in the 21st century. Adapting to climate change through efforts like flood control measures or drought-resistant crops partially reduces climate change risks, although some limits to adaptation have already been reached. Poorer communities are responsible for a small share of global emissions, yet have the least ability to adapt and are most vulnerable to climate change. The expense, time required, and limits of adaptation mean its success hinge on limiting global warming. Question: What organization calls climate change the greatest threat to global health in the 21st century?

(Sumber prompt: https://en.wikipedia.org/wiki/Climate_change)

AI21 LabsTanggapan Jurassic dengan nama organisasi yang benar sesuai dengan konteks yang disediakan dalam prompt.

Output: The World Health Organization (WHO) calls climate change the greatest threat to global health in the 21st century.

(Model yang digunakan: AI21 Labs Jurassic-2 Ultra v1)

Beberapa bidikan bidikan vs. bidikan nol

Terkadang berguna untuk memberikan beberapa contoh untuk membantu LLM mengkalibrasi outputnya dengan lebih baik untuk memenuhi harapan Anda, juga dikenal sebagai bidikan beberapa bidikan atau pembelajaran dalam konteks, di mana bidikan sesuai dengan input contoh berpasangan dan output yang diinginkan. Sebagai ilustrasi, pertama di sini adalah contoh prompt klasifikasi sentimen zero-shot di mana tidak ada contoh pasangan input-output yang disediakan dalam teks prompt:

User prompt: Tell me the sentiment of the following headline and categorize it as either positive, negative or neutral: New airline between Seattle and San Francisco offers a great opportunity for both passengers and investors.

(Sumber prompt: AWS)

Output: Positive

(Model yang digunakan: Amazon Titan Text)

Berikut adalah beberapa versi prompt klasifikasi sentimen:

User prompt: Tell me the sentiment of the following headline and categorize it as either positive, negative or neutral. Here are some examples: Research firm fends off allegations of impropriety over new technology. Answer: Negative Offshore windfarms continue to thrive as vocal minority in opposition dwindles. Answer: Positive Manufacturing plant is the latest target in investigation by state officials. Answer:

(Sumber prompt: AWS)

Output: Negative

(Model yang digunakan: Amazon Titan Text)

Contoh berikut menggunakan Anthropic Claude model. Saat menggunakan Anthropic Claude model, itu adalah praktik yang baik untuk menggunakan<example></example> tag untuk menyertakan contoh demonstrasi. Kami juga merekomendasikan penggunaan pembatas yang berbeda seperti H: dan A: dalam contoh untuk menghindari kebingungan dengan pembatas Human: dan Assistant: untuk seluruh prompt. Perhatikan bahwa untuk contoh beberapa bidikan terakhir, final A: dibiarkan mendukungAssistant:, mendorong Anthropic Claude untuk menghasilkan jawaban sebagai gantinya.

User prompt: Human: Please classify the given email as "Personal" or "Commercial" related emails. Here are some examples. <example> H: Hi Tom, it's been long time since we met last time. We plan to have a party at my house this weekend. Will you be able to come over? A: Personal </example> <example> H: Hi Tom, we have a special offer for you. For a limited time, our customers can save up to 35% of their total expense when you make reservations within two days. Book now and save money! A: Commercial </example> H: Hi Tom, Have you heard that we have launched all-new set of products. Order now, you will save $100 for the new products. Please check our website. Assistant: Output: Commercial

(Sumber prompt: AWS, model yang digunakan: AnthropicClaude)

Templat cepat

Template prompt menentukan pemformatan prompt dengan konten yang dapat ditukar di dalamnya. Template prompt adalah “resep” untuk menggunakan LLM untuk kasus penggunaan yang berbeda seperti klasifikasi, ringkasan, menjawab pertanyaan, dan banyak lagi. Templat prompt dapat mencakup instruksi, beberapa contoh, dan konteks dan pertanyaan spesifik yang sesuai untuk kasus penggunaan tertentu. Contoh berikut adalah template yang dapat Anda gunakan untuk melakukan klasifikasi sentimen beberapa tembakan menggunakan model teks Amazon Bedrock:

Prompt template: """Tell me the sentiment of the following {{Text Type, e.g., “restaurant review”}} and categorize it as either {{Sentiment A}} or {{Sentiment B}}. Here are some examples: Text: {{Example Input 1}} Answer: {{Sentiment A}} Text: {{Example Input 2}} Answer: {{Sentiment B}} Text: {{Input}} Answer:"""

Pengguna dapat menyalin dan menempelkan template ini, mengisi teks mereka sendiri dan beberapa contoh gambar untuk menyelesaikan permintaan saat menggunakan LLM di Amazon Bedrock. Lebih banyak templat disediakan di bagian ini.

catatan

Tanda kurung kurawal ganda {{ and }} menandai tempat untuk memasukkan informasi spesifik data dalam templat, dan tidak boleh disertakan dalam teks prompt.

Catatan penting tentang penggunaan Amazon Bedrock LLM dengan panggilan API

Jika Anda mengakses LLM di Amazon Bedrock melalui panggilan API, perlu diketahui bahwa mereka tidak mengingat permintaan sebelumnya dan permintaan sebelumnya kecuali interaksi sebelumnya disertakan dalam prompt saat ini. Anda mungkin memerlukan ini untuk interaksi gaya percakapan atau permintaan tindak lanjut.

Jika Anda mengakses Anthropic Claude model menggunakan panggilan API alih-alih taman bermain teks Amazon Bedrock, Anda membungkus prompt Anda dalam gaya percakapan untuk mendapatkan respons yang diinginkan (untuk keluarga model Titan Teks dan AI21 Labs Jurassic, itu tidak perlu). Contoh berikut menunjukkan prompt gaya percakapan:

User prompt: Human: Describe where sea otters live in two sentences. Assistant: Output: Here is a two sentence description of where sea otters live: Sea otters live in the northern Pacific Ocean along the coasts of Russia, Alaska, Canada, and the continental United States. They prefer coastal habitats like rocky shores, kelp forests, and estuaries where they have access to shallow, nearshore waters.

(Sumber prompt: AWS, model yang digunakan: AnthropicClaude)

Perhatikan bagaimana konten utama prompt dibungkus seperti ini:\n\nHuman: {{Main Content}}\n\nAssistant:. Untuk Anthropic Claude model, prompt yang dikirim melalui API harus berisi\n\nManusia: dan. \n\nAssistant:

Untuk menggunakan mode percakapan aktifTitan, Anda dapat menggunakan format User: {{}} \n Bot: saat meminta model.