配置和自定义查询与响应生成

按照 利用查询和响应测试知识库 中的控制台步骤进行操作。打开配置窗格时，您将看到以下搜索类型选项：

当你做一个 Retrieve 或 RetrieveAndGenerate请求，包括一个映射到KnowledgeBaseRetrievalConfiguration对象的retrievalConfiguration字段。要查看此字段的位置，请参阅 Retrieve 和 RetrieveAndGenerateAPI参考文献中的请求正文。

以下JSON对象显示了在KnowledgeBaseRetrievalConfiguration对象中设置搜索类型配置所需的最少字段：

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "overrideSearchType": "HYBRID | SEMANTIC"
    }
}

在 overrideSearchType 字段中指定搜索类型。您有以下选项：

POST /retrieveAndGenerate HTTP/1.1
Content-type: application/json
{
   "input": {
      "text": "string"
   },
   "retrieveAndGenerateConfiguration": {
      "knowledgeBaseConfiguration": {
         "orchestrationConfiguration": { // Query decomposition
           "queryTransformationConfiguration": {
                "type": "string" // enum of QUERY_DECOMPOSITION
           }
         },
...}
}
     

要在查询知识库时修改推理参数，请按照 利用查询和响应测试知识库 中的控制台步骤操作。在打开配置窗格时，您会看到推理参数部分。根据需要修改参数。

要在与您的文档交互时修改推理参数，请按照 无需配置知识库即可使用您的文档聊天 中的步骤操作。在配置窗格中，展开推理参数部分，并根据需要修改参数。

您在调用时提供模型参数 RetrieveAndGenerateAPI。 您可以通过在（如果您查询知识库）或knowledgeBaseConfiguration（如果您与文档聊天）inferenceConfig字段中externalSourcesConfiguration提供推理参数来自定义模型。

inferenceConfig 字段中有一个包含以下参数的 textInferenceConfig 字段，您可以执行以下操作：

您可以通过在 externalSourcesConfiguration 和 knowledgeBaseConfiguration 的inferenceConfig 字段中使用以下参数来自定义模型：

有关每个参数的功能的详细说明，请参阅 利用推理参数影响响应生成。

此外，您可以通过 additionalModelRequestFields 映射提供 textInferenceConfig 不支持的自定义参数。您可以使用此参数提供特定模型所特有的参数，有关唯一参数的信息，请参阅 基础模型的推理请求参数和响应字段。

如果 textInferenceConfig 中省略了参数，则将使用默认值。textInferneceConfig 中未识别的所有参数都将被忽略，而 AdditionalModelRequestFields 中未识别的所有参数都将导致异常。

如果 additionalModelRequestFields 和 TextInferenceConfig 中有相同的参数，则会引发验证异常。

在中使用模型参数 RetrieveAndGenerate

以下是 RetrieveAndGenerate 请求正文中 generationConfiguration 下的 inferenceConfig 和 additionalModelRequestFields 结构示例：

"inferenceConfig": {
    "textInferenceConfig": {
        "temperature": 0.5,  
        "topP": 0.5,
        "maxTokens": 2048,
        "stopSequences": ["\nObservation"]
    }
},
"additionalModelRequestFields": {
    "top_k": 50
}

上面的示例将 a temperature 设置为 0.5，top_p为 0.5，maxTokens为 2048，如果在生成的响应中遇到字符串 “\nObservation”，则停止生成，并传递自定义top_k值 50。

按照 利用查询和响应测试知识库 中的控制台步骤进行操作。在配置窗格中，展开检索结果的最大数量。

当你做一个 Retrieve 或 RetrieveAndGenerate请求，包括一个映射到KnowledgeBaseRetrievalConfiguration对象的retrievalConfiguration字段。要查看此字段的位置，请参阅 Retrieve 和 RetrieveAndGenerateAPI参考文献中的请求正文。

以下JSON对象显示了在KnowledgeBaseRetrievalConfiguration对象中设置要返回的最大结果数所需的最小字段：

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "numberOfResults": number
    }
}

指定要在numberOfResults字段中KnowledgeBaseRetrievalConfiguration返回的最大检索结果数（有关可接受值的范围，请参阅中的numberOfResults字段）。

按照 利用查询和响应测试知识库 中的控制台步骤进行操作。当你打开配置窗格时，你会看到筛选条件部分。以下过程介绍了不同的应用场景：

下图显示了一个筛选条件配置示例，除了类型为 "cooking" 或 "sports" 且作者名字以 "C" 开头的文档外，该配置还返回了所有 2018 之后编写的类型为 "entertainment" 的文档。

当你做一个 Retrieve 或 RetrieveAndGenerate请求，包括一个retrievalConfiguration字段，映射到一个KnowledgeBaseRetrievalConfiguration对象。要查看此字段的位置，请参阅 Retrieve 和 RetrieveAndGenerateAPI参考文献中的请求正文。

以下JSON对象显示了KnowledgeBaseRetrievalConfiguration对象中为不同用例设置过滤器所需的最少字段：

下表描述了您可以使用的筛选条件类型：

要组合筛选条件类型，您可以使用以下逻辑运算符之一：

有关示例，请参阅发送查询并包含筛选条件（检索）和发送查询并包含筛选条件（RetrieveAndGenerate）。

按照 利用查询和响应测试知识库 中的控制台步骤进行操作。在测试窗口中，打开生成响应。然后，在配置窗格中，展开知识库提示模板部分。

当你做一个 RetrieveAndGenerate请求，包括一个generationConfiguration字段，映射到一个GenerationConfiguration对象。要查看此字段的位置，请参阅 RetrieveAndGenerateAPI参考文献中的请求正文。

以下JSON对象显示了在GenerationConfiguration对象中设置要返回的最大检索结果数所需的最小字段：

"generationConfiguration": {
    "promptTemplate": {
        "textPromptTemplate": "string"
    }
}

在textPromptTemplate字段中输入您的自定义提示模板，包括必要的提示占位符和XML标签。有关系统提示符中允许的最大字符数，请参阅中的textPromptTemplate字段GenerationConfiguration。

按照 利用查询和响应测试知识库 中的控制台步骤进行操作。在测试窗口中，打开生成响应。然后，在配置窗格中，展开防护机制部分。

当你做一个 RetrieveAndGenerate请求，请在请求中包含generationConfiguration要使用护栏的guardrailConfiguration字段。要查看此字段的位置，请参阅 RetrieveAndGenerateAPI参考文献中的请求正文。

以下JSON对象显示了在中设置所需的最少字段guardrailConfiguration：GenerationConfiguration

"generationConfiguration": {
    "guardrailConfiguration": {
        "guardrailId": "string",
        "guardrailVersion": "string"
    }
}

指定所选防护机制的 guardrailVersion 和 guardrailId。