Evaluasi input pengguna secara selektif dengan tag menggunakan Guardrails

Tag input memungkinkan Anda untuk menandai konten tertentu dalam teks input yang ingin diproses oleh Guardrails. Ini berguna ketika Anda ingin menerapkan Guardrails ke bagian input tertentu, sambil membiarkan bagian lain tidak diproses.

Misalnya, prompt input dalam aplikasi RAG mungkin berisi prompt sistem, hasil pencarian dari sumber dokumentasi tepercaya, dan kueri pengguna. Karena permintaan sistem disediakan oleh pengembang dan hasil pencarian berasal dari sumber tepercaya, Anda mungkin hanya perlu evaluasi Guardrails hanya pada kueri pengguna.

Dalam contoh lain, prompt input dalam aplikasi percakapan mungkin berisi prompt sistem, riwayat percakapan, dan input pengguna saat ini. Permintaan sistem adalah instruksi khusus pengembang, dan riwayat percakapan berisi masukan pengguna historis dan respons model yang mungkin telah dievaluasi oleh Guardrails. Untuk skenario seperti itu, Anda mungkin hanya ingin mengevaluasi input pengguna saat ini.

Dengan menggunakan tag input, Anda dapat lebih mengontrol bagian mana dari prompt input yang harus diproses dan dievaluasi oleh Guardrails, memastikan bahwa perlindungan Anda disesuaikan dengan kasus penggunaan Anda. Ini juga membantu dalam meningkatkan kinerja, dan mengurangi biaya, karena Anda memiliki fleksibilitas untuk mengevaluasi bagian input yang relatif lebih pendek dan relevan, bukan seluruh prompt input.

Tag konten untuk Guardrails

Untuk menandai konten untuk proses Guardrails, gunakan tag XHTML yang merupakan kombinasi dari awalan cadangan dan kustom. tagSuffix Sebagai contoh:

{
    "inputText": """
        You are a helpful assistant.
        Here is some information about my account:
          - There are 10,543 objects in an S3 bucket.
          - There are no active EC2 instances.
        Based on the above, answer the following question:
        Question: 
        <amazon-bedrock-guardrails-guardContent_xyz>
        How many objects do I have in my S3 bucket? 
        </amazon-bedrock-guardrails-guardContent_xyz>
         ...
        Here are other user queries:
        ≪amazon-bedrock-guardrails-guardContent_xyz>
        How do I download files from my S3 bucket?
        ≪/amazon-bedrock-guardrails-guardContent_xyz>    
    """,
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz"
    }
}

Dalam contoh sebelumnya, konten `Berapa banyak objek yang saya miliki di ember S3 saya? `dan "“Bagaimana cara mengunduh file dari bucket S3 saya? “ ditandai untuk pemrosesan Pagar Pembatas menggunakan tag. <amazon-bedrock-guardrails-guardContent_xyz> Perhatikan bahwa awalan amazon-bedrock-guardrails-guardContent dicadangkan oleh Guardrails.

Akhiran Tag

Sufiks tag (xyzdalam contoh sebelumnya) adalah nilai dinamis yang harus Anda berikan di tagSuffix bidang amazon-bedrock-guardrailConfig untuk menggunakan penandaan input. Ini membantu mengurangi potensi serangan injeksi cepat dengan membuat struktur tag tidak dapat diprediksi. Tag statis dapat mengakibatkan pengguna jahat menutup tag xml. dan menambahkan konten berbahaya setelah penutupan tag, yang mengakibatkan serangan injeksi. Anda terbatas pada karakter alfanumerik dengan panjang antara 1 dan 20 karakter, inklusif. Dengan akhiran contohxyz, Anda harus melampirkan semua konten yang akan dijaga menggunakan tag xmldengan akhiran Anda:<amazon-bedrock-guardrails-guardContent_xyz>. dan konten Anda. </amazon-bedrock-guardrails-guardContent_xyz> Kami merekomendasikan untuk menggunakan dinamis UUID untuk setiap permintaan sebagai akhiran tag

Beberapa tag

Anda dapat menggunakan struktur tag yang sama beberapa kali dalam teks input untuk menandai bagian konten yang berbeda untuk pemrosesan Guardrails. Sarang tag tidak diperbolehkan.

Konten yang Tidak Ditandai

Konten apa pun di luar tag input tidak akan diproses oleh Guardrails. Ini memungkinkan Anda untuk menyertakan instruksi, contoh percakapan, basis pengetahuan, atau konten lain yang Anda anggap aman dan tidak ingin diproses oleh Guardrails. Jika tidak ada tag di prompt input, prompt lengkap akan diproses oleh Guardrails. Satu-satunya pengecualian adalah Serangan cepat filter yang membutuhkan tag input untuk hadir.