쿼리 구성

의 콘솔 단계를 따르십시오지식 베이스를 쿼리하고 결과를 반환하거나 응답을 생성합니다.. 구성 패널을 열면 다음과 같은 검색 유형 옵션이 표시됩니다.

Retrieve또는 RetrieveAndGenerate요청을 할 때는 객체에 매핑된 retrievalConfiguration 필드를 포함하십시오. KnowledgeBaseRetrievalConfiguration 이 필드의 위치를 보려면 API 참조의 Retrieve및 RetrieveAndGenerate요청 본문을 참조하십시오.

다음 JSON 객체는 검색 유형 구성을 설정하는 데 KnowledgeBaseRetrievalConfiguration객체에 필요한 최소 필드를 보여줍니다.

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "overrideSearchType": "HYBRID | SEMANTIC"
    }
}

overrideSearchType필드에 검색 유형을 지정합니다. 다음과 같은 옵션이 있습니다:

POST /retrieveAndGenerate HTTP/1.1
Content-type: application/json
{
   "input": {
      "text": "string"
   },
   "retrieveAndGenerateConfiguration": {
      "knowledgeBaseConfiguration": {
         "orchestrationConfiguration": { // Query decomposition
           "queryTransformationConfiguration": {
                "type": "string" // enum of QUERY_DECOMPOSITION
           }
         },
...}
}
     

지식 베이스를 쿼리할 때 추론 파라미터를 수정하려면 — 의 콘솔 단계를 따르세요. 지식 베이스를 쿼리하고 결과를 반환하거나 응답을 생성합니다. 구성 창을 열면 추론 매개변수 섹션이 표시됩니다. 필요에 따라 파라미터를 수정합니다.

문서와 채팅할 때 추론 파라미터를 수정하려면 — 의 단계를 따르세요. 지식 베이스를 사용하여 문서 데이터와 채팅하세요 구성 창에서 추론 매개변수 섹션을 펼치고 필요에 따라 매개변수를 수정합니다.

RetrieveAndGenerateAPI 호출 시 모델 매개변수를 제공합니다. (지식 베이스를 쿼리하는 경우) 또는 knowledgeBaseConfiguration (문서와 채팅하는 경우) inferenceConfig 필드에 추론 매개변수를 제공하여 모델을 사용자 지정할 수 있습니다. externalSourcesConfiguration

inferenceConfig필드 내에는 다음과 같은 매개 변수를 포함하는 textInferenceConfig 필드가 있으며 다음과 같은 매개 변수를 사용할 수 있습니다.

externalSourcesConfiguration및 inferenceConfig knowledgeBaseConfiguration 필드 모두에서 다음 매개변수를 사용하여 모델을 사용자 정의할 수 있습니다.

각 파라미터의 기능에 대한 자세한 설명은 을 참조하십시오추론 파라미터.

또한 additionalModelRequestFields 맵을 textInferenceConfig 통해 지원되지 않는 사용자 지정 매개변수를 제공할 수 있습니다. 이 인수를 사용하여 특정 모델에 고유한 매개변수를 제공할 수 있습니다. 고유한 매개변수에 대해서는 을 참조하십시오. 파운데이션 모델의 추론 파라미터

에서 textInferenceConfig 매개 변수를 생략하면 기본값이 사용됩니다. 에서 textInferneceConfig 인식되지 않는 매개변수는 모두 무시되고, 에서 AdditionalModelRequestFields 인식되지 않는 매개변수는 예외를 발생시킵니다.

additionalModelRequestFields및 TextInferenceConfig 모두에 동일한 매개변수가 있는 경우 검증 예외가 발생합니다.

에서 모델 매개변수 사용 RetrieveAndGenerate

다음은 RetrieveAndGenerate 요청 본문의 해당 inferenceConfig 및 additionalModelRequestFields 아래 generationConfiguration 구조의 예입니다.

"inferenceConfig": {
    "textInferenceConfig": {
        "temperature": 0.5,  
        "topP": 0.5,
        "maxTokens": 2048,
        "stopSequences": ["\nObservation"]
    }
},
"additionalModelRequestFields": {
    "top_k": 50
}

진행 예제에서는 temperature 2048의 a를 0.5, top_p 0.5로 설정하고, maxTokens 생성된 응답에서 "\nObservation” 문자열이 발견되면 생성을 중지하고 사용자 지정 top_k 값인 50을 전달합니다.

의 콘솔 단계를 따르십시오지식 베이스를 쿼리하고 결과를 반환하거나 응답을 생성합니다.. 구성 창에서 검색된 결과의 최대 수를 확장합니다.

Retrieve또는 RetrieveAndGenerate요청을 할 때는 객체에 매핑된 retrievalConfiguration 필드를 포함하십시오. KnowledgeBaseRetrievalConfiguration 이 필드의 위치를 보려면 API 참조의 Retrieve및 RetrieveAndGenerate요청 본문을 참조하십시오.

다음 JSON 객체는 반환할 최대 결과 수를 설정하는 데 필요한 최소 필드를 보여 줍니다. KnowledgeBaseRetrievalConfiguration

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "numberOfResults": number
    }
}

필드에 반환할 검색된 최대 결과 수 (허용되는 값 범위는 의 numberOfResults 필드 참조) 를 지정합니다. KnowledgeBaseRetrievalConfigurationnumberOfResults

의 콘솔 단계를 따르세요지식 베이스를 쿼리하고 결과를 반환하거나 응답을 생성합니다.. 구성 패널을 열면 필터 섹션이 표시됩니다. 다음 절차는 다양한 사용 사례를 설명합니다.

다음 이미지는 장르가 "cooking" 맞거나 "sports" 작성자가 다음으로 시작하는 문서 외에도 장르 이후에 2018 작성된 모든 문서를 반환하는 필터 구성의 예를 보여줍니다"C". "entertainment"

Retrieve또는 RetrieveAndGenerate요청을 할 때 KnowledgeBaseRetrievalConfiguration객체에 매핑된 retrievalConfiguration 필드를 포함하십시오. 이 필드의 위치를 보려면 API 참조의 Retrieve및 RetrieveAndGenerate요청 본문을 참조하십시오.

다음 JSON 개체는 다양한 사용 사례에 맞게 필터를 설정하는 데 필요한 KnowledgeBaseRetrievalConfiguration개체에 필요한 최소 필드를 보여줍니다.

다음 표에는 사용할 수 있는 필터 유형이 설명되어 있습니다.

필터 유형을 결합하려면 다음 논리 연산자 중 하나를 사용할 수 있습니다.

예를 들어 쿼리 전송 및 필터 포함 (검색) 및 쿼리 전송 및 필터 포함 (RetrieveAndGenerate) 을 참조하십시오.

의 콘솔 단계를 따르십시오지식 베이스를 쿼리하고 결과를 반환하거나 응답을 생성합니다.. 테스트 창에서 응답 생성을 켜십시오. 그런 다음 구성 창에서 지식창고 프롬프트 템플릿 섹션을 펼칩니다.

RetrieveAndGenerate요청할 때는 객체에 매핑된 generationConfiguration 필드를 포함하십시오. GenerationConfiguration 이 필드의 위치를 보려면 API 참조의 RetrieveAndGenerate요청 본문을 참조하십시오.

다음 JSON 객체는 반환할 검색된 결과의 최대 수를 설정하는 데 필요한 최소 필드를 보여 줍니다. GenerationConfiguration

"generationConfiguration": {
    "promptTemplate": {
        "textPromptTemplate": "string"
    }
}

필요에 따라 프롬프트 자리 표시자와 XML 태그를 포함하여 사용자 지정 프롬프트 템플릿을 textPromptTemplate 필드에 입력합니다. 시스템 프롬프트에 허용되는 최대 문자 수는 의 textPromptTemplate GenerationConfiguration필드를 참조하십시오.

의 콘솔 단계를 따르십시오지식 베이스를 쿼리하고 결과를 반환하거나 응답을 생성합니다.. 테스트 창에서 응답 생성을 켜십시오. 그런 다음 구성 패널에서 가드레일 섹션을 확장합니다.

RetrieveAndGenerate요청을 할 때는 요청과 함께 가드레일을 사용할 수 generationConfiguration 있는 guardrailsConfiguration 필드를 포함시키십시오. 이 필드의 위치를 보려면 API 참조의 RetrieveAndGenerate요청 본문을 참조하십시오.

다음 JSON 객체는 guardrailsConfiguration 설정에 필요한 최소 필드를 보여줍니다. GenerationConfiguration

"generationConfiguration": {
    "guardrailsConfiguration": {
        "guardrailsId": "string",
        "guardrailsVersion": "string"
    }
}

선택한 guardrailsVersion 가드레일의 guardrailsId and를 지정합니다.