Usar barreiras de proteção para o seu caso de uso - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Usar barreiras de proteção para o seu caso de uso

Depois de criar uma grade de proteção, você pode aplicar com os seguintes recursos:

  • Inferência de modelo — aplique uma grade de proteção às solicitações enviadas e às respostas geradas ao executar a inferência em um modelo.

  • Agentes — associe uma grade de proteção a um agente para aplicá-la às solicitações enviadas ao agente e às respostas retornadas dele.

  • Base de conhecimento — aplique uma barreira ao consultar uma base de conhecimento e gerar respostas a partir dela.

  • Fluxo — adicione uma grade de proteção a um nó de prompt ou nó da base de conhecimento em um fluxo para aplicá-la às entradas e saídas desses nós.

A tabela a seguir descreve como incluir uma grade de proteção para cada um desses recursos usando o AWS Management Console ou o Amazon Bedrock. API

Caso de uso Console API
Inferência do modelo Selecione a grade de proteção ao usar um playground. Especifique no cabeçalho de uma InvokeModelInvokeModelWithResponseStreamsolicitação or ou inclua no guardrailConfig campo no corpo de uma Converse ou ConverseStreamsolicitação.
Associe-se a um agente Ao criar ou atualizar o agente, especifique na seção Detalhes do Guardrail do Agent Builder. Incluir um guardrailConfiguration campo no corpo de um CreateAgent ou UpdateAgent solicitação.
Use ao consultar uma base de conhecimento Siga as etapas na Proteções seção de configurações da consulta. Adicione uma grade de proteção ao definir Configurações. Incluir um guardrailConfiguration campo no corpo de um RetrieveAndGenerate solicitação.
Incluir em um nó de prompt em um fluxo Ao criar ou atualizar um fluxo, selecione o nó do prompt e especifique a grade de proteção na seção Configurar. Ao definir o nó do prompt no nodes campo em uma UpdateFlowsolicitação CreateFlowor, inclua um guardrailConfiguration campo no PromptFlowNodeConfiguration.
Incluir em um nó da base de conhecimento em um fluxo Ao criar ou atualizar um fluxo, selecione o nó da base de conhecimento e especifique a grade de proteção na seção Configurar. Ao definir o nó da base de conhecimento no nodes campo em uma UpdateFlowsolicitação CreateFlowor, inclua um guardrailConfiguration campo no KnowledgeBaseFlowNodeConfiguration.

Esta seção aborda o uso de uma grade de proteção com inferência de modelo e o Amazon Bedrock. API Você pode usar as operações básicas de inferência (InvokeModele InvokeModelWithResponseStream) e a Converse API(Converse e ConverseStream). Com os dois conjuntos de operações, é possível usar uma barreira de proteção com inferência de modelo síncrono e de streaming. Você também pode avaliar seletivamente a entrada do usuário e configurar o comportamento da resposta de streaming.