Guardrails para Amazon Bedrock - Amazon Bedrock
Regiões e modelos compatíveis

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Guardrails para Amazon Bedrock

O Guardrails for Amazon Bedrock permite que você implemente proteções para seus aplicativos generativos de IA com base em seus casos de uso e políticas de IA responsáveis. Você pode criar várias grades de proteção personalizadas para diferentes casos de uso e aplicá-las em vários modelos básicos (FM), fornecendo uma experiência de usuário consistente e padronizando os controles de segurança e privacidade em aplicativos generativos de IA. Você pode usar grades de proteção com entradas de usuário baseadas em texto e respostas do modelo.

As grades de proteção podem ser usadas de várias maneiras para proteger aplicativos generativos de IA. Por exemplo: .

  • Um aplicativo de chatbot pode usar grades de proteção para filtrar entradas nocivas do usuário e respostas tóxicas do modelo.

  • Um aplicativo bancário pode usar grades de proteção para bloquear consultas de usuários ou modelar respostas associadas à busca ou fornecimento de consultoria de investimento.

  • Um aplicativo de call center para resumir as transcrições de conversas entre usuários e agentes pode usar grades de proteção para redigir as informações de identificação pessoal (PII) dos usuários para proteger a privacidade do usuário.

Você pode configurar as seguintes políticas em uma grade de proteção para evitar conteúdo indesejável e prejudicial e remover informações confidenciais para proteção de privacidade.

  • Filtros de conteúdo — ajuste a intensidade do filtro para bloquear solicitações de entrada ou modelar respostas que contenham conteúdo prejudicial.

  • Tópicos negados — defina um conjunto de tópicos que não são desejáveis no contexto da sua inscrição. Esses tópicos serão bloqueados se detectados nas consultas dos usuários ou nas respostas do modelo.

  • Filtros de palavras — Configure filtros para bloquear palavras, frases e palavrões indesejáveis. Essas palavras podem incluir termos ofensivos, nomes de concorrentes, etc.

  • Filtros de informações confidenciais — bloqueie ou mascare informações confidenciais, como informações de identificação pessoal (PII) ou expressões regulares personalizadas nas entradas do usuário e nas respostas do modelo.

Além das políticas acima, você também pode configurar as mensagens a serem retornadas ao usuário se uma entrada do usuário ou uma resposta do modelo violar as políticas definidas na grade de proteção.

Você pode criar várias versões de guarda-corpo para seu guarda-corpo. Quando você cria uma grade de proteção, um rascunho de trabalho fica automaticamente disponível para você modificar iterativamente. Experimente diferentes configurações e use a janela de teste integrada para ver se elas são apropriadas para seu caso de uso. Se você estiver satisfeito com um conjunto de configurações, poderá criar uma versão do guarda-corpo e usá-la com modelos de base compatíveis.

Os guardrails podem ser usados diretamente com FMs durante a invocação da API de inferência, especificando o ID do guardrail e a versão. Se uma grade de proteção for usada, ela avaliará as solicitações de entrada e as conclusões do FM em relação às políticas definidas.

Para aplicativos de geração aumentada de recuperação (RAG) ou de conversação, talvez seja necessário avaliar somente a entrada do usuário no prompt de entrada e descartar instruções do sistema, resultados de pesquisa, histórico de conversas ou alguns exemplos curtos. Para avaliar seletivamente uma seção do prompt de entrada, consulteAvalie seletivamente a entrada do usuário com tags usando Guardrails.

Importante

O Guardrails for Amazon Bedrock oferece suporte somente em inglês. Avaliar o conteúdo do texto em outros idiomas pode resultar em resultados não confiáveis.

Tópicos

Regiões e modelos compatíveis com guardrails for Amazon Bedrock

As cobranças de grades de proteção do Amazon Bedrock serão cobradas somente para as políticas configuradas na grade de proteção. O preço de cada tipo de apólice está disponível no Amazon Bedrock Pricing. Se o Guardrails bloquear o prompt de entrada, você será cobrado pela avaliação do Guardrail. Não haverá cobranças pelas chamadas de inferência do modelo básico. Se o Guardrails bloquear a resposta do modelo, você será cobrado pela avaliação do Guardrails do prompt de entrada e da resposta do modelo. Nesse caso, você será cobrado pelas chamadas de inferência do modelo básico, bem como pela resposta do modelo que foi gerada antes da avaliação do Guardrails.