本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
Amazon Bedrock 防护机制的运作方式
Amazon Bedrock 防护机制通过评估用户输入和模型响应来帮助保护您的生成式人工智能应用程序的安全。
您可以根据以下注意事项为应用程序配置防护机制
一个账户可以有多个防护机制,每个防护机制的配置不同,并针对特定的应用场景进行定制。
护栏是为提示和响应配置的多个策略的组合,包括:内容过滤器、拒绝的主题、敏感信息过滤器、字词过滤器和图像内容过滤器。
防护机制可以配置为单个策略,也可以是多个策略的组合。
通过在模型推断期间引用护栏,可以将护栏与任何文本或图像基础模型 (FM) 一起使用。
您可以将防护机制用于 Amazon Bedrock 代理和 Amazon Bedrock 知识库。
在 InvokeModel、 InvokeModelWithResponseStream、Converse 或中使用护栏时 ConverseStream APIs,它在推理调用期间的工作原理如下:
根据防护机制中指定的配置策略对输入进行评估。此外,为了改善延迟,系统会根据每一项配置的策略对输入进行并行评估。
如果输入评估结果触发防护机制干预,则系统返回已配置的屏蔽消息响应,并放弃基础模型推理。
如果输入评估成功,系统接下来将根据防护机制中配置的策略评估模型响应。
如果响应触发防护机制干预或违反规定,系统会使用预先配置的屏蔽消息或掩蔽敏感信息来覆盖该响应。
如果响应评估成功,系统会将响应原样返回给应用程序。
有关 Amazon Bedrock 防护机制定价的更多信息,请参阅 Amazon Bedrock Pricing
如何计算 Amazon Bedrock 防护机制的费用
Amazon Bedrock Guardrails 的费用仅适用于在护栏中配置的策略。每种策略类型的价格在 Amazon Bedrock Pricing
-
如果护栏挡住了输入提示,则需要支付护栏评估费用。基础模型推理调用不收取任何费用。
-
如果护栏阻挡了模型响应,则您需要支付护栏对输入提示和模型响应的评估费用。在这种情况下,除了在评估护栏之前生成的模型响应外,您还需要为基础模型推理调用付费。
-
如果护栏没有屏蔽输入提示和模型响应,则除了基础模型推断外,您还需要支付护栏对提示和模型响应的评估费用。