Aplicación de etiquetas a las entradas de usuarios para filtrar el contenido

Las etiquetas de entrada permiten marcar contenido específico dentro del texto de entrada que usted quiere que procesen las barreras de protección. Esto resulta útil si desea aplicar barreras de protección a determinadas partes de la entrada y dejar otras partes sin procesar.

Por ejemplo, la petición de entrada de las aplicaciones RAG puede contener peticiones del sistema, resultados de búsqueda de orígenes de documentación fiables y consultas de los usuarios. Como las peticiones del sistema las proporciona el desarrollador y los resultados de la búsqueda provienen de orígenes fiables, es posible que solo necesite evaluar las consultas de los usuarios.

En otro ejemplo, la petición de entrada de las aplicaciones conversacionales puede contener las peticiones del sistema, el historial de conversaciones y la entrada actual del usuario. Las peticiones del sistema son instrucciones específicas del desarrollador. El historial de conversaciones contiene un historial de entradas de los usuarios y respuestas del modelo que tal vez ya hayan sido evaluadas por las barreras de protección. En este caso, es posible que solo desee evaluar la entrada actual del usuario.

Al usar etiquetas de entrada, puede controlar mejor qué partes de la petición de entrada deben procesar y evaluar las barreras de protección, lo que garantiza que las medidas de protección se personalicen en función de sus casos de uso. Esto también ayuda a mejorar el rendimiento y a reducir los costos, ya que tiene la flexibilidad de evaluar una sección relativamente más corta y pertinente de la entrada, en lugar de toda la petición de entrada.

Etiquetación del contenido para las barreras de protección

Para etiquetar el contenido para que lo procesen las barreras de protección, utilice la etiqueta XML, que es una combinación de un prefijo reservado y un tagSuffix personalizado. Por ejemplo:

{
    "text": """
        You are a helpful assistant.
        Here is some information about my account:
          - There are 10,543 objects in an S3 bucket.
          - There are no active EC2 instances.
        Based on the above, answer the following question:
        Question: 
        <amazon-bedrock-guardrails-guardContent_xyz>
        How many objects do I have in my S3 bucket? 
        </amazon-bedrock-guardrails-guardContent_xyz>
         ...
        Here are other user queries:
        <amazon-bedrock-guardrails-guardContent_xyz>
        How do I download files from my S3 bucket?
        </amazon-bedrock-guardrails-guardContent_xyz>    
    """,
    "amazon-bedrock-guardrailConfig": {
        "tagSuffix": "xyz"
    }
}

En el ejemplo anterior, el contenido “How many objects do I have in my S3 bucket?” y “How do I download files from my S3 bucket?” está etiquetado para que las barreras de protección lo procesen con la etiqueta <amazon-bedrock-guardrails-guardContent_xyz>. Tenga en cuenta que el prefijo amazon-bedrock-guardrails-guardContent está reservado para las barreras de protección.

Sufijo de etiqueta

El sufijo de etiqueta (xyz en el ejemplo anterior) es un valor dinámico que debe proporcionar en el campo tagSuffix en amazon-bedrock-guardrailConfig para utilizar el etiquetado de entrada. Se recomienda utilizar una cadena nueva y aleatoria como tagSuffix para cada solicitud. Esto ayuda a mitigar los posibles ataques de inyección de peticiones al hacer que la estructura de las etiquetas sea impredecible. Una etiqueta estática puede provocar que un usuario malintencionado cierre la etiqueta XML y añada contenido malicioso tras el cierre de la etiqueta, lo que puede provocar un ataque de inyección. Usted solo puede usar caracteres alfanuméricos con una longitud de entre 1 y 20 caracteres, ambos incluidos. Con el sufijo de ejemplo xyz, debe incluir todo el contenido que desee proteger con las etiquetas XML con el sufijo <amazon-bedrock-guardrails-guardContent_xyz> y el contenido </amazon-bedrock-guardrails-guardContent_xyz>. Le recomendamos que utilice un identificador único dinámico para cada solicitud como sufijo de etiqueta.

Múltiples etiquetas

Puede usar la misma estructura de etiquetas varias veces en el texto de entrada para marcar distintas partes del contenido para que las procesen las barreras de protección. No se permite anidar etiquetas.

Contenido sin etiquetar

Las barreras de protección no procesarán contenido que no esté incluido en las etiquetas de entrada. Esto le permite incluir instrucciones, ejemplos de conversaciones, bases de conocimientos u otro contenido que considere seguro y que no desee que procesen las barreras de protección. Si no hay etiquetas en la petición de entrada, las barreras de protección procesarán la petición completa. La única excepción son los filtros Ataques de peticiones que requieren la presencia de etiquetas de entrada.

Para probar el etiquetado de entradas en el panel de pruebas de su barrera de protección, siga estos pasos:

VIOLENT STATEMENT: I think I could fight a grizzly bear. 

<amazon-bedrock-guardrails-guardContent_playground>

BENIGN INPUT: How's the weather? 

</amazon-bedrock-guardrails-guardContent_playground>
            

La barrera de protección solo se ejecutará en el contenido que se encuentra entre las etiquetas de entrada.