Amazon Bedrock 防护机制的运作方式 - Amazon Bedrock
如何计算使用 Amazon Bedrock 防护机制的费用

本文属于机器翻译版本。若本译文内容与英语原文存在差异，则一律以英文原文为准。

Amazon Bedrock 防护机制的运作方式

Amazon Bedrock 防护机制通过评估用户输入和模型响应来帮助保护您的生成式人工智能应用程序的安全。

您可以根据以下注意事项为应用程序配置防护机制

  • 一个账户可以有多个防护机制，每个防护机制的配置不同，并针对特定的应用场景进行定制。

  • 护栏是为提示和响应配置的多个策略的组合，包括：内容过滤器、拒绝的主题、敏感信息过滤器、字词过滤器和图像内容过滤器。

  • 防护机制可以配置为单个策略，也可以是多个策略的组合。

  • 通过在模型推断期间引用护栏，可以将护栏与任何文本或图像基础模型 (FM) 一起使用。

  • 您可以将防护机制用于 Amazon Bedrock 代理和 Amazon Bedrock 知识库。

在 InvokeModel、 InvokeModelWithResponseStream、Converse 或中使用护栏时 ConverseStream APIs，它在推理调用期间的工作原理如下：

  • 根据防护机制中指定的配置策略对输入进行评估。此外，为了改善延迟，系统会根据每一项配置的策略对输入进行并行评估。

  • 如果输入评估结果触发防护机制干预，则系统返回已配置的屏蔽消息响应，并放弃基础模型推理。

  • 如果输入评估成功，系统接下来将根据防护机制中配置的策略评估模型响应。

  • 如果响应触发防护机制干预或违反规定，系统会使用预先配置的屏蔽消息或掩蔽敏感信息来覆盖该响应。

  • 如果响应评估成功，系统会将响应原样返回给应用程序。

有关 Amazon Bedrock 防护机制定价的更多信息，请参阅 Amazon Bedrock Pricing。

如何计算 Amazon Bedrock 防护机制的费用

您只需要针对防护机制中配置的策略支付 Amazon Bedrock 防护机制费用。每种策略类型的价格在 Amazon Bedrock Pricing 页面中提供。如果防护机制屏蔽了输入提示，则您需要为防护机制评估付费。基础模型推理调用不产生任何费用。如果防护机制屏蔽了模型响应，则您需要为防护机制对输入提示和模型响应进行的评估付费。在这种情况下，您需要为基础模型推理调用以及防护机制进行评估之前生成的模型响应付费。