사용 사례에 가드레일 사용
가드레일을 만든 후 다음과 같은 방법으로 적용할 수 있습니다.
-
모델 추론 - Amazon Bedrock 콘솔에서 플레이그라운드를 사용할 때 가드레일을 선택합니다. Amazon Bedrock API를 사용하면 기본 추론 작업 또는 Converse API와 함께 가드레일을 사용할 수 있습니다.
-
에이전트에 가드레일 추가 - 에이전트를 생성하거나 업데이트할 때 에이전트와 가드레일을 연결할 수 있습니다. Amazon Bedrock 콘솔에서 에이전트 빌더의 가드레일 세부 정보 섹션에 가드레일을 추가합니다. Amazon Bedrock API에서 CreateAgent 또는 UpdateAgent 요청을 보낼 때 GuardrailConfiguration을 지정합니다.
-
지식 기반을 쿼리할 때 가드레일 사용 - 쿼리 구성에 대한 가드레일 섹션의 단계를 따릅니다. Amazon Bedrock 콘솔에서 구성을 설정할 때 가드레일을 추가합니다. Amazon Bedrock API에서 RetrieveAndGenerate 요청을 보낼 때 GuardrailConfiguration을 포함합니다.
이 섹션에서는 모델 추론 및 Amazon Bedrock API와 함께 가드레일을 사용하는 방법을 다룹니다. 기본 추론 작업(InvokeModel 및 InvokeModelWithResponseStream)과 Converse API(Converse 및 ConverseStream)를 사용할 수 있습니다. 두 작업 세트 모두에서 동기식 및 스트리밍 모델 추론과 함께 가드레일을 사용할 수 있습니다. 사용자 입력을 선택적으로 평가하고 스트리밍 응답 동작을 구성할 수도 있습니다.
