使用模型推理來增強模型回應

有些基礎模型可以執行模型推理，其中它們會採用更大、複雜的任務，並將其分解為更小、更簡單的步驟。此程序通常稱為思維鏈 (CoT) 推理。思維推理鏈通常可以透過讓模型有機會在回應之前進行思維來提高模型準確性。模型推理對於多步驟分析、數學問題和複雜推理任務等任務最為實用。

例如，在處理數學單字問題時，模型可以先識別相關變數，然後根據給定的資訊建構方程式，最後解決這些方程式以到達解決方案。此策略不僅可將錯誤降至最低，也讓推理程序更透明且更容易遵循，進而提升基礎模型輸出的品質。

模型推理並非所有任務的必要項目，且確實伴隨額外的額外負荷，包括增加的延遲和輸出字符。不需要其他說明的簡單任務不適合 CoT 推理。

請注意，並非所有模型都允許您設定配置給模型推理的輸出字符數量。

若要查看哪些模型支援推理，請快速瀏覽模型，然後選擇您感興趣的模型。