사용 사례에 가드레일 사용 - Amazon Bedrock

기계 번역으로 제공되는 번역입니다. 제공된 번역과 원본 영어의 내용이 상충하는 경우에는 영어 버전이 우선합니다.

사용 사례에 가드레일 사용

가드레일을 생성한 후 다음 기능을 사용하여를 적용할 수 있습니다.

  • 모델 추론 - 모델에서 추론을 실행할 때 제출된 프롬프트와 생성된 응답에 가드레일을 적용합니다.

  • 에이전트 - 에이전트와 가드레일을 연결하여 에이전트에 전송된 프롬프트와 에이전트에서 반환된 응답에 적용합니다.

  • 지식 기반 - 지식 기반을 쿼리하고 지식 기반에서 응답을 생성할 때 가드레일을 적용합니다.

  • 흐름 - 흐름의 프롬프트 노드 또는 지식 기반 노드에 가드레일을 추가하여 이러한 노드의 입력 및 출력에 적용합니다.

다음 표에서는 AWS Management Console 또는 Amazon Bedrock를 사용하여 이러한 각 기능에 가드레일을 포함하는 방법을 설명합니다API.

사용 사례 콘솔 API
모델 추론 플레이그라운드를 사용할 때 가드레일을 선택합니다. InvokeModel 또는 InvokeModelWithResponseStream 요청의 헤더에를 지정하거나 Converse 또는 ConverseStream 요청 본문의 guardrailConfig 필드에를 포함합니다.
에이전트와 연결 에이전트를 생성하거나 업데이트할에이전트 빌더Guardrail 세부 정보 섹션에서를 지정합니다. 의 본문에 guardrailConfiguration 필드 포함 CreateAgent 또는 UpdateAgent 요청.
지식 기반을 쿼리할 때 사용 쿼리 구성 가드레일 섹션의 단계를 따릅니다. 구성을 설정할 때 가드레일을 추가합니다. 의 본문에 guardrailConfiguration 필드 포함 RetrieveAndGenerate 요청.
흐름의 프롬프트 노드에 포함 흐름을 생성하거나 업데이트할 때 프롬프트 노드를 선택하고 구성 섹션에서 가드레일을 지정합니다. CreateFlow 또는 UpdateFlow 요청의 nodes 필드에 프롬프트 노드를 정의할 때에 guardrailConfiguration 필드를 포함합니다PromptFlowNodeConfiguration.
흐름의 지식 기반 노드에 포함 흐름을 생성하거나 업데이트할 때 지식 기반 노드를 선택하고 구성 섹션에서 가드레일을 지정합니다. CreateFlow 또는 UpdateFlow 요청의 nodes 필드에 지식 기반 노드를 정의할 때에 guardrailConfiguration 필드를 포함합니다KnowledgeBaseFlowNodeConfiguration.

이 섹션에서는 모델 추론 및 Amazon Bedrock가 있는 가드레일을 사용하는 방법을 다룹니다API. 기본 추론 작업(InvokeModelInvokeModelWithResponseStream)과를 사용할 수 있습니다.Converse API ( 및 를 대화합니다ConverseStream.) 두 작업 세트 모두에서 동기식 및 스트리밍 모델 추론과 함께 가드레일을 사용할 수 있습니다. 사용자 입력을 선택적으로 평가하고 스트리밍 응답 동작을 구성할 수도 있습니다.