推論オペレーションでガードレールを使用してユーザー入力を評価する

ガードレールは、基本推論オペレーション、InvokeModelおよび InvokeModelWithResponseStream (ストリーミング) で使用できます。このセクションでは、ユーザー入力を選択的に評価する方法と、ストリーミングレスポンスの動作を設定する方法について説明します。会話アプリケーションの場合、 会話 APIで同じ結果が得られることに注意してください。

ベース推論オペレーションを呼び出すコードの例については、「」を参照してくださいオペレーションで 1 InvokeModel APIつのプロンプトを送信する。ベース推論オペレーションでガードレールを使用する方法については、 の APIタブの手順に従ってくださいガードレールをテストする。