查詢組態

請依照中的主控台步驟執行查詢知識庫並傳回結果或產生回應。當您開啟 [設定] 窗格時，您會看到下列 [搜尋類型] 選項：

當您提出Retrieve或RetrieveAndGenerate請求時，請包含對應至KnowledgeBaseRetrievalConfiguration物件的retrievalConfiguration欄位。若要查看此欄位的位置，請參閱 API 參考資料中的Retrieve和RetrieveAndGenerate要求內文。

下列 JSON 物件會顯示物件中設定搜尋類型設定所需的最小欄位：KnowledgeBaseRetrievalConfiguration

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "overrideSearchType": "HYBRID | SEMANTIC"
    }
}

在overrideSearchType欄位中指定搜尋類型。您有下列選項：

POST /retrieveAndGenerate HTTP/1.1
Content-type: application/json
{
   "input": {
      "text": "string"
   },
   "retrieveAndGenerateConfiguration": {
      "knowledgeBaseConfiguration": {
         "orchestrationConfiguration": { // Query decomposition
           "queryTransformationConfiguration": {
                "type": "string" // enum of QUERY_DECOMPOSITION
           }
         },
...}
}
     

若要在查詢知識庫並傳回結果或產生回應查詢知識庫時修改推論參數，請遵循中的主控台步驟。當您開啟「組態」窗格時，您會看到「推論參數」區段。視需要修改參數。

若要在與文件聊天時修改推論參數，請依照中的步驟執行使用知識庫與文件資料聊天。在「組態」窗格中，展開「推論參數」區段，並視需要修改參數。

您可以在呼叫 RetrieveAndGenerateAPI 時提供模型參數。您可以在 (如果您查詢知識庫) 或 knowledgeBaseConfiguration (如果您與文件聊天) 的inferenceConfig欄位中提供推論參數來自訂模型。externalSourcesConfiguration

在inferenceConfig欄位中有一個textInferenceConfig欄位，其中包含下列參數，您可以：

您可以在externalSourcesConfiguration和的inferenceConfig欄位中使用下列參數來自訂模型knowledgeBaseConfiguration：

如需每個參數函數的詳細說明，請參閱推論參數。

此外，您可以textInferenceConfig透過additionalModelRequestFields地圖提供不支援的自訂參數。您可以使用此參數為特定模型提供唯一的參數，對於唯一參數請參閱。基礎模型的推論參數

如果省略參數textInferenceConfig，則會使用預設值。中未識別的任何參數都textInferneceConfig將被忽略，而中未識別的任何參數都AdditionalModelRequestFields將導致異常。

如果additionalModelRequestFields和中有相同的參數，則會擲回驗證例外狀況TextInferenceConfig。

使用模型參數 RetrieveAndGenerate

以下是RetrieveAndGenerate要求主體generationConfiguration中inferenceConfig和之additionalModelRequestFields下結構的範例：

"inferenceConfig": {
    "textInferenceConfig": {
        "temperature": 0.5,  
        "topP": 0.5,
        "maxTokens": 2048,
        "stopSequences": ["\nObservation"]
    }
},
"additionalModelRequestFields": {
    "top_k": 50
}

正在進行temperature的範例會設定一個 0.5 (為 0.5 top_p maxTokens 的 2048)，如果在產生的回應中遇到字串 "\ n 觀察"，就會停止產生，並傳遞 50 的自訂top_k值。

請依照中的主控台步驟執行查詢知識庫並傳回結果或產生回應。在「組態」窗格中，展開擷取結果的最大數目。

當您提出Retrieve或RetrieveAndGenerate請求時，請包含對應至KnowledgeBaseRetrievalConfiguration物件的retrievalConfiguration欄位。若要查看此欄位的位置，請參閱 API 參考資料中的Retrieve和RetrieveAndGenerate要求內文。

下列 JSON 物件會顯示物件中設定要傳回的結果數目上限所需的最小欄位：KnowledgeBaseRetrievalConfiguration

"retrievalConfiguration": {
    "vectorSearchConfiguration": {
        "numberOfResults": number
    }
}

指定要在欄位中傳回的最大擷取結果數目 (請參閱中KnowledgeBaseRetrievalConfiguration的numberOfResults欄位以瞭解可接受的值範圍)。numberOfResults

請依照中的主控台步驟執行查詢知識庫並傳回結果或產生回應。當您開啟 [組態] 窗格時，您會看到 [篩選器] 區段。下列程序說明不同的使用案例：

下列影像顯示範例篩選器組態，此組態除了類型為"cooking"或"sports"且作者開頭為的文件外"entertainment"，還會傳回在其類型為之後2018撰寫的所有文件"C"。

當您提出Retrieve或RetrieveAndGenerate請求時，請包含對應至KnowledgeBaseRetrievalConfiguration物件的retrievalConfiguration欄位。若要查看此欄位的位置，請參閱 API 參考資料中的Retrieve和RetrieveAndGenerate要求內文。

下列 JSON 物件會顯示物件中針KnowledgeBaseRetrievalConfiguration對不同使用案例設定篩選器所需的最小欄位：

下表說明您可以使用的篩選器類型：

若要合併篩選類型，您可以使用下列其中一個邏輯運算子：

如需範例，請參閱傳送查詢並包含篩選器 (擷取) 和傳送查詢並包含篩選器 (RetrieveAndGenerate)。

請依照中的主控台步驟執行查詢知識庫並傳回結果或產生回應。在測試視窗中，開啟 [產生回應]。然後，在 [設定] 窗格中，展開 [知識庫提示範本] 區段。

當您提出RetrieveAndGenerate請求時，請包含對應至GenerationConfiguration物件的generationConfiguration欄位。若要查看此欄位的位置，請參閱 API 參考中的RetrieveAndGenerate要求主體。

下列 JSON 物件會顯示物件中設定要傳回的GenerationConfiguration最大擷取結果數目所需的最小欄位：

"generationConfiguration": {
    "promptTemplate": {
        "textPromptTemplate": "string"
    }
}

在textPromptTemplate欄位中輸入您的自訂提示範本，包括必要的提示預留位置和 XML 標籤。如需系統提示中允許的最大字元數，請參閱中的textPromptTemplate欄位GenerationConfiguration。

請依照中的主控台步驟執行查詢知識庫並傳回結果或產生回應。在測試視窗中，開啟 [產生回應]。然後，在「規劃」窗格中，展開「護欄」區段。

當您提出RetrieveAndGenerate請求時，請在中包含guardrailsConfiguration欄位，以generationConfiguration便將護欄與請求搭配使用。若要查看此欄位的位置，請參閱 API 參考中的RetrieveAndGenerate要求主體。

下列 JSON 物件顯示在中設定所需的GenerationConfiguration最小欄位guardrailsConfiguration：

"generationConfiguration": {
    "guardrailsConfiguration": {
        "guardrailsId": "string",
        "guardrailsVersion": "string"
    }
}

指定所選護欄guardrailsVersion的guardrailsId和。