Terjemahan disediakan oleh mesin penerjemah. Jika konten terjemahan yang diberikan bertentangan dengan versi bahasa Inggris aslinya, utamakan versi bahasa Inggris.

Konsep rekayasa prompt

Rekayasa cepat mengacu pada praktik mengoptimalkan input tekstual ke Model Bahasa Besar (LLM) untuk mendapatkan respons yang diinginkan. Prompting membantu LLM melakukan berbagai tugas, termasuk klasifikasi, menjawab pertanyaan, pembuatan kode, penulisan kreatif, dan banyak lagi. Kualitas prompt yang Anda berikan kepada LLM dapat memengaruhi kualitas respons model. Bagian ini memberi Anda informasi yang diperlukan untuk memulai dengan rekayasa yang cepat. Ini juga mencakup alat untuk membantu Anda menemukan format prompt terbaik untuk kasus penggunaan Anda saat menggunakan LLM di Amazon Bedrock.

Amazon Bedrock menyertakan model dari berbagai penyedia. Berikut ini adalah daftar pedoman rekayasa prompt untuk model-model tersebut.

Penafi an: Contoh dalam dokumen ini menggunakan model teks saat ini yang tersedia di Amazon Bedrock. Juga, dokumen ini untuk pedoman dorongan umum. Untuk panduan khusus model, lihat dokumen masing-masing di Amazon Bedrock. Dokumen ini memberikan titik awal. Sementara contoh respons berikut dihasilkan menggunakan model tertentu di Amazon Bedrock, Anda dapat menggunakan model lain di Amazon Bedrock untuk mendapatkan hasil juga. Hasilnya mungkin berbeda antar model karena masing-masing model memiliki karakteristik kinerjanya sendiri. Output yang Anda hasilkan menggunakan layanan AI adalah konten Anda. Karena sifat pembelajaran mesin, output mungkin tidak unik di seluruh pelanggan dan layanan dapat menghasilkan hasil yang sama atau serupa di seluruh pelanggan.

Apa itu prompt?

Prompt adalah serangkaian input tertentu yang disediakan oleh Anda, pengguna, yang memandu LLM di Amazon Bedrock untuk menghasilkan respons atau output yang sesuai untuk tugas atau instruksi tertentu.

User Prompt:
Who invented the airplane?

Ketika ditanyakan oleh prompt ini, Titan memberikan output:

Output:
The Wright brothers, Orville and Wilbur Wright are widely credited 
with inventing and manufacturing the world's first successful airplane.

(Sumber prompt: AWS, model yang digunakan: Titan Teks Amazon)

Komponen prompt

Prompt tunggal mencakup beberapa komponen, seperti tugas atau instruksi yang ingin Anda lakukan oleh LLM, konteks tugas (misalnya, deskripsi domain yang relevan), contoh demonstrasi, dan teks input yang Anda ingin LLM di Amazon Bedrock gunakan dalam responsnya. Tergantung pada kasus penggunaan Anda, ketersediaan data, dan tugas, prompt Anda harus menggabungkan satu atau lebih komponen ini.

Pertimbangkan contoh prompt ini yang meminta Titan untuk meringkas ulasan:

User Prompt:
The following is text from a restaurant review:

“I finally got to check out Alessandro’s Brilliant Pizza and it is now 
one of my favorite restaurants in Seattle. The dining room has a beautiful view 
over the Puget Sound but it was surprisingly not crowded. I ordered 
the fried castelvetrano olives, a spicy Neapolitan-style pizza 
and a gnocchi dish. The olives were absolutely decadent, and the pizza came 
with a smoked mozzarella, which was delicious. The gnocchi was fresh and wonderful. 
The waitstaff were attentive, and overall the experience was lovely. 
I hope to return soon." 

Summarize the above restaurant review in one sentence.

(Sumber prompt: AWS)

Berdasarkan prompt ini, tang Titan gapi dengan ringkasan satu baris yang ringkas dari ulasan restoran. Ulasan tersebut menyebutkan fakta-fakta kunci dan menyampaikan poin-poin utama, seperti yang diinginkan.

Output: 
Alessandro's Brilliant Pizza is a fantastic restaurant in Seattle 
with a beautiful view over Puget Sound, decadent and delicious food, 
and excellent service.

(Model yang digunakan: Titan Teks Amazon)

Instruksi Summarize the above restaurant review in one sentence dan teks ulasan I finally got to check out ... keduanya diperlukan untuk jenis output ini. Tanpa keduanya, model tidak akan memiliki informasi yang cukup untuk menghasilkan ringkasan yang masuk akal. Instruksi memberi tahu LLM apa yang harus dilakukan, dan teks adalah input di mana LLM beroperasi. Con text (The following is text from a restaurant review) memberikan informasi tambahan dan kata kunci yang memandu model untuk menggunakan input saat merumuskan outputnya.

Dalam contoh di bawah ini, teks Context: Climate change threatens people with increased flooding ... adalah input yang dapat digunakan LLM untuk melakukan tugas menjawab pertanyaanQuestion: What organization calls climate change the greatest threat to global health in the 21st century?”.

User prompt:
Context: Climate change threatens people with increased flooding, 
extreme heat, increased food and water scarcity, more disease, and economic loss. 
Human migration and conflict can also be a result. The World Health Organization (WHO) 
calls climate change the greatest threat to global health in the 21st century. 
Adapting to climate change through efforts like flood control measures 
or drought-resistant crops partially reduces climate change risks, 
although some limits to adaptation have already been reached. 
Poorer communities are responsible for a small share of global emissions, 
yet have the least ability to adapt and are most vulnerable to climate change. 
The expense, time required, and limits of adaptation mean its success hinge 
on limiting global warming.

Question: What organization calls climate change the greatest threat 
to global health in the 21st century?

(Sumber prompt:https://en.wikipedia.org/wiki/Climate_change)

AI21 LabsRespons Jurassic dengan nama organisasi yang benar sesuai dengan konteks yang disediakan dalam prompt.

Output:
The World Health Organization (WHO) calls climate change 
the greatest threat to global health in the 21st century.

(Model yang digunakan: AI21 Labs Jurassic-2 Ultra v1)

Few-shot dorongan vs. dorongan zero-shot

Terkadang berguna untuk memberikan beberapa contoh untuk membantu LLM mengkalibrasi output mereka dengan lebih baik untuk memenuhi harapan Anda, juga dikenal sebagai prompting few-shot atau pembelajaran dalam konteks, di mana bidikan sesuai dengan input contoh berpasangan dan output yang diinginkan. Untuk mengilustrasikan, pertama di sini adalah contoh prompt klasifikasi sentimen zero-shot di mana tidak ada contoh pasangan input-output yang disediakan dalam teks prompt:

User prompt:
Tell me the sentiment of the following headline and categorize it 
as either positive, negative or neutral: 
New airline between Seattle and San Francisco offers a great opportunity 
for both passengers and investors.

(Sumber prompt: AWS)

Output:
Positive

(Model yang digunakan: Titan Teks Amazon)

Berikut adalah versi beberapa gambar dari prompt klasifikasi sentimen:

User prompt: 
Tell me the sentiment of the following headline and categorize it 
as either positive, negative or neutral. Here are some examples:

Research firm fends off allegations of impropriety over new technology.
Answer: Negative

Offshore windfarms continue to thrive as vocal minority in opposition dwindles.
Answer: Positive

Manufacturing plant is the latest target in investigation by state officials.
Answer:

(Sumber prompt: AWS)

Output: 
Negative

(Model yang digunakan: Titan Teks Amazon)

Contoh berikut menggunakan Anthropic Claude model. Saat menggunakan Anthropic Claude model, ini adalah praktik yang baik untuk menggunakan<example></example> tag untuk menyertakan contoh demonstrasi. Kami juga merekomendasikan menggunakan pembatas yang berbeda seperti H: dan A: dalam contoh untuk menghindari kebingungan dengan pembatas Human: dan Assistant: untuk seluruh prompt. Perhatikan bahwa untuk beberapa contoh terakhir, final A: dibiarkan mendukung, meminta Anthropic Claude untuk menghasilkan Assistant: jawaban sebagai gantinya.

User prompt: 


Human: Please classify the given email as "Personal" or "Commercial" related emails.
Here are some examples.

<example>
H: Hi Tom, it's been long time since we met last time. We plan to have a party at my house this weekend. Will you be able to come over?
A: Personal
</example>

<example>
H: Hi Tom, we have a special offer for you. For a limited time, our customers can save up to 35% of their total expense when you make reservations within two days. Book now and save money!
A: Commercial
</example>

H: Hi Tom, Have you heard that we have launched all-new set of products. Order now, you will save $100 for the new products. Please check our website.

Assistant:

Output: 
Commercial

(Sumber prompt: AWS, model yang digunakan: AnthropicClaude)

Template yang cepat

Template prompt menentukan pemformatan prompt dengan konten yang dapat ditukar di dalamnya. Template prompt adalah “resep” untuk menggunakan LLM untuk berbagai kasus penggunaan seperti klasifikasi, ringkasan, jawaban pertanyaan, dan banyak lagi. Template prompt dapat mencakup instruksi, beberapa contoh, dan konteks dan pertanyaan spesifik yang sesuai untuk kasus penggunaan tertentu. Contoh berikut adalah template yang dapat Anda gunakan untuk melakukan klasifikasi sentimen beberapa gambar menggunakan model teks Amazon Bedrock:

Prompt template: 
"""Tell me the sentiment of the following 
{{Text Type, e.g., “restaurant review”}} and categorize it 
as either {{Sentiment A}} or {{Sentiment B}}. 
Here are some examples:

Text: {{Example Input 1}} 
Answer: {{Sentiment A}}

Text: {{Example Input 2}}
Answer: {{Sentiment B}}

Text: {{Input}}
Answer:"""

Pengguna dapat menyalin dan menempelkan template ini, mengisi teks mereka sendiri dan beberapa contoh untuk menyelesaikan petunjuk saat menggunakan LLM di Amazon Bedrock. Lebih banyak templat disediakan di bagian ini.

Pertahankan penarikan atas permintaan inferensi Amazon Bedrock

Jika Anda mengakses model Amazon Bedrock dengan menggunakan panggilan API, ketahuilah bahwa model tidak mengingat perintah sebelumnya dan permintaan sebelumnya, kecuali interaksi sebelumnya disertakan dalam prompt saat ini. Menyertakan petunjuk sebelumnya dalam permintaan memungkinkan Anda memiliki interaksi gaya percakapan atau membuat permintaan tindak lanjut.

Jika Anda mengakses Anthropic Claude model menggunakan panggilan API alih-alih taman bermain teks Amazon Bedrock, Anda membungkus prompt Anda dengan gaya percakapan untuk mendapatkan respons yang diinginkan (untuk keluarga model Titan Teks dan AI21 Labs Jurassic, itu tidak perlu). Contoh berikut menunjukkan prompt gaya percakapan:

User prompt: 
	
	
Human: Describe where sea otters live in two sentences.

Assistant:

Output: 
Here is a two sentence description of where sea otters live:

Sea otters live in the northern Pacific Ocean along the coasts of 
Russia, Alaska, Canada, and the continental United States. 
They prefer coastal habitats like rocky shores, kelp forests, 
and estuaries where they have access to shallow, nearshore waters.

(Sumber prompt: AWS, model yang digunakan: AnthropicClaude)

Perhatikan bagaimana konten utama prompt dibungkus seperti ini:\n\nHuman: {{Main Content}}\n\nAssistant:. Untuk Anthropic Claude model, prompt yang dikirim melalui API harus berisi\ n\ n Manusia: dan. \n\nAssistant:

Untuk menggunakan mode percakapan aktifTitan, Anda dapat menggunakan format User: {{}} \n Bot: saat meminta model.