As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Obtenha a confirmação do usuário antes de invocar a função de grupo de ações

Você pode proteger seu aplicativo contra injeções maliciosas solicitando a confirmação dos usuários do aplicativo antes de invocar a função de grupo de ações. Quando um usuário final interage com seu aplicativo, o Amazon Bedrock Agent descobre as bases de conhecimento API ou bases de conhecimento a serem invocadas para automatizar a tarefa para o usuário. As informações das bases de conhecimento API ou podem conter dados potencialmente prejudiciais. Entre cada iteração, se a resposta contiver alguma instrução, o agente cumprirá. Se a resposta incluir instruções para que o modelo invoque ações não intencionais, o agente seguirá em frente e cumprirá as instruções. Para garantir que determinadas ações sejam implementadas somente após o consentimento explícito do usuário, recomendamos que você solicite a confirmação do usuário final antes de invocar a função.

Ao configurar seu grupo de ações, você pode optar por ativar a confirmação do usuário para ações específicas. Se a confirmação do usuário estiver ativada para uma ação, o agente responderá com uma pergunta de confirmação solicitando que o usuário final confirme ou negue a ação. Você pode ativar a confirmação do usuário no consoleCLI, usando o. ou usando SDK o.

Para ativar a confirmação do usuário para uma ação, consulteAdicione um grupo de ação ao seu agente no Amazon Bedrock.

Como funciona a confirmação do usuário

A confirmação do usuário é configurada para uma ação no grupo de ações pelo desenvolvedor do agente. Se o agente decidir que deve chamar essa ação, os detalhes API ou a função extraídos do usuário e a confirmação do usuário configurada pelo desenvolvedor do agente serão retornados no invocationInputs campo do InvokeAgentresposta, ao ladoinvocationType, e únicainvocationId.

O agente invoca a API ou a função que foi fornecida no. invocationInputs Se a confirmação do usuário estiver ativada para a função ou aAPI, o usuário receberá uma opção CONFIRMou DENYa ação mencionada na resposta.

Os resultados da invocação da função pelo agente ou API são enviados em outra InvokeAgentsolicitação, no sessionState campo, para fornecer contexto ao agente. O parâmetro de solicitação para InvokeAgent usosreturnControlInvocationResults, que é uma lista de functionResult objetos apiResult ou mapas. Os functionResult objetos apiResult e têm um campo adicional deconfirmationState. Esse campo tem a resposta de confirmação do usuário.

Se a resposta do usuário for CONFIRM, a função ou API a resposta será implementada.

Se a resposta do usuário for DENY, a função ou API a resposta não será implementada.

Exemplos de InvokeAgent resposta e solicitação

Resposta

HTTP/1.1 200
x-amzn-bedrock-agent-content-type: contentType
x-amz-bedrock-agent-session-id: sessionId
Content-type: application/json

{
   "chunk": { 
      ...
   },
   ...
   "returnControl": { 
      "invocationId": "string",
      "invocationInputs": [ 
         { ... }
      ]
   },
   "trace": { 
      "agentAliasId": "string",
      "agentId": "string",
      "agentVersion": "string",
      "sessionId": "string",
      "trace": { ... }
   },
}

        

Solicitação

POST /agents/agentId/agentAliases/agentAliasId/sessions/sessionId/text HTTP/1.1
Content-type: application/json

{
   "enableTrace": boolean,
   "endSession": boolean,
   "inputText": "string",
   "sessionState": { 
      "invocationId": "string",
      "promptSessionAttributes": { 
         "string" : "string" 
      },
      "returnControlInvocationResults": [ 
         { ... }
      ],
      "sessionAttributes": { 
         "string" : "string" 
      }
   }
}