拒否されたトピックをブロックして有害なコンテンツを削除する - Amazon Bedrock
ブロックするトピックを定義するベストプラクティス

翻訳は機械翻訳により提供されています。提供された翻訳内容と英語版の間で齟齬、不一致または矛盾がある場合、英語版が優先します。

拒否されたトピックをブロックして有害なコンテンツを削除する

ガードレールは、生成 AI アプリケーションのコンテキストでは望ましくない一連の拒否されたトピックで設定できます。例えば、銀行は AI アシスタントに投資アドバイスに関連する会話を避けさせたり、暗号通貨に関連する会話を行ったりしたい場合があります。

最大 30 個の拒否されたトピックを定義できます。入力プロンプトとモデルの完了は、これらの拒否された各トピックに対して評価されます。拒否されたトピックのいずれかが検出されると、ガードレールの一部として設定されたブロックされたメッセージがユーザーに返されます。

拒否されたトピックは、トピックの自然言語定義と、トピックのオプションのフレーズ例を提供することで定義できます。定義とフレーズ例は、入力プロンプトまたはモデル補完がトピックに属しているかどうかを検出するために使用されます。

拒否されたトピックは、次のパラメータで定義されます。

  • 名前 – トピックの名前。名前は名詞またはフレーズにする必要があります。名前にトピックを記述しないでください。例:

    • Investment Advice

  • 定義 — トピックの内容を要約する最大 200 文字。定義には、トピックとそのサブトピックの内容が記述されている必要があります。

    以下は、提供できるトピック定義の例です。

    Investment advice is inquiries, guidance, or recommendations about the management or allocation of funds or assets with the goal of generating returns or achieving specific financial objectives.

  • サンプルフレーズ – トピックを参照する最大 5 つのサンプルフレーズのリスト。各フレーズの長さは最大 100 文字です。サンプルは、フィルタリングするコンテンツの種類を示すプロンプトまたは続きです。例:

    • Is investing in the stocks better than bonds?

    • Should I invest in gold?

ブロックするトピックを定義するベストプラクティス

  • 明確かつ正確な方法でトピックを定義します。明確であいまいなトピック定義は、トピックの検出の精度を向上させることができます。例えば、暗号通貨に関連付けられたクエリまたはステートメントを検出するトピックを として定義できますQuestion or information associated with investing, selling, transacting, or procuring cryptocurrencies。

  • トピック定義に例や手順を含めないでください。例えば、 Block all contents associated to cryptocurrencyは 命令であり、トピックの定義ではありません。このような指示は、トピックの定義の一部として使用しないでください。

  • 否定的なトピックや例外を定義しないでください。例えば、 All contents except medical informationまたは Contents not containing medical informationはトピックの負の定義であり、使用しないでください。

  • 拒否されたトピックを使用してエンティティや単語をキャプチャしないでください。例えば、Statement or questions containing the name of a person "X"、Statements with a competitor name Y などです。トピック定義はテーマまたはサブジェクトを表し、ガードレールは入力をコンテキスト的に評価します。トピックフィルタリングは、個々の単語やエンティティタイプをキャプチャするために使用しないでください。代わりに、このようなユースケース単語フィルターを使用して会話から特定の単語やフレーズのリストを削除するでは 機密情報フィルターを使用して会話PIIから削除するまたは の使用を検討してください。