Las traducciones son generadas a través de traducción automática. En caso de conflicto entre la traducción y la version original de inglés, prevalecerá la version en inglés.

Obtenga la confirmación del usuario antes de invocar la función de grupo de acciones

Puede proteger su aplicación de las inyecciones de mensajes maliciosos solicitando la confirmación de los usuarios de la aplicación antes de invocar la función de grupo de acciones. Cuando un usuario final interactúa con su aplicación, Amazon Bedrock Agent determina las API bases de conocimiento que debe utilizar para automatizar la tarea para el usuario. La información de nuestras bases de API conocimiento puede contener datos potencialmente dañinos. Entre cada iteración, si la respuesta contiene alguna instrucción, el agente la cumplirá. Si la respuesta incluye instrucciones para que el modelo invoque acciones no deseadas, el agente seguirá adelante y cumplirá con la instrucción. Para garantizar que determinadas acciones se implementen solo después del consentimiento explícito del usuario, le recomendamos que solicite la confirmación del usuario final antes de invocar la función.

Al configurar el grupo de acciones, puede optar por habilitar la confirmación por parte del usuario para acciones específicas. Si la confirmación de usuario está habilitada para una acción, el agente responde con una pregunta de confirmación en la que se pide al usuario final que confirme o rechace la acción. Puede activar la confirmación de usuario en la consolaCLI, utilizando o utilizando elSDK.

Para activar la confirmación de usuario de una acción, consulteAñada un grupo de acción a su agente en Amazon Bedrock.

Cómo funciona la confirmación de usuario

El desarrollador del agente configura la confirmación de usuario para una acción del grupo de acciones. Si el agente decide ejecutar esa acción, los API detalles de la función obtenidos del usuario y la confirmación de usuario configurada por el desarrollador del agente se devolverán en el invocationInputs campo del InvokeAgentrespuestainvocationType, paralela y únicainvocationId.

El agente invoca la API o la función que se proporcionó en elinvocationInputs. Si la confirmación de usuario está habilitada para la función o laAPI, se le presenta al usuario una opción CONFIRMo DENYla acción mencionada en la respuesta.

El resultado se obtiene cuando el agente invoca la función o API se envía en otra InvokeAgentsolicitud, en el sessionState campo, para proporcionar contexto al agente. El parámetro de solicitud de InvokeAgent usosreturnControlInvocationResults, que es una lista de mapas apiResult u functionResult objetos. Los functionResult objetos apiResult y tienen un campo adicional deconfirmationState. Este campo contiene la respuesta de confirmación del usuario.

Si la respuesta del usuario es CONFIRM, se implementa la API función o la de la respuesta.

Si la respuesta del usuario es DENY, la función o la API de la respuesta no están implementadas.

Ejemplos de la InvokeAgent respuesta y la solicitud

Respuesta

HTTP/1.1 200
x-amzn-bedrock-agent-content-type: contentType
x-amz-bedrock-agent-session-id: sessionId
Content-type: application/json

{
   "chunk": { 
      ...
   },
   ...
   "returnControl": { 
      "invocationId": "string",
      "invocationInputs": [ 
         { ... }
      ]
   },
   "trace": { 
      "agentAliasId": "string",
      "agentId": "string",
      "agentVersion": "string",
      "sessionId": "string",
      "trace": { ... }
   },
}

        

Solicitud

POST /agents/agentId/agentAliases/agentAliasId/sessions/sessionId/text HTTP/1.1
Content-type: application/json

{
   "enableTrace": boolean,
   "endSession": boolean,
   "inputText": "string",
   "sessionState": { 
      "invocationId": "string",
      "promptSessionAttributes": { 
         "string" : "string" 
      },
      "returnControlInvocationResults": [ 
         { ... }
      ],
      "sessionAttributes": { 
         "string" : "string" 
      }
   }
}