使用基礎模型 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

使用基礎模型

您必須先要求存取模型，才能使用模型。這樣做之後，您可以通過以下方式使用 FM。

  • 透過將提示傳送至模型並產生回應來執行推論。該遊樂場提供了一個用戶友好的界面，用 AWS Management Console 於生成文本，圖像或聊天。請參閱「輸出模式」欄，以確定您可以在每個遊樂場使用的模型。

    注意

    控制台遊樂場不支持在嵌入模型上運行推斷。使用 API 在嵌入模型上執行推論。

  • 評估模型以比較輸出，並確定適合您使用案例的最佳型號。

  • 在嵌入模型的幫助下建立知識庫。然後使用文本模型生成對查詢的響應。

  • 建立代理程式並使用模型在提示時執行推論，以執行協調作業。

  • 透過提供訓練和驗證資料來自訂模型，以針對您的使用案例調整模型參數。若要使用自訂模型，您必須為其購買佈建輸送量。

  • 為模型購買佈建輸送量，以增加其輸送量。

若要在 API 中使用 FM，您必須決定要使用的適當型號 ID。

使用案例 如何找到型號 ID
使用基礎模型 在基礎模型 ID 圖表中查詢 ID
針對基礎模型購買佈建輸送量 在模型 ID 中查找佈建輸送量圖表的 ID，並將其用作CreateProvisionedModelThroughput請求modelId中的。
購買自訂模型的佈建輸送量 使用自訂模型的名稱或其 ARN 作為CreateProvisionedModelThroughput請求modelId中的名稱。
使用佈建的模型 建立佈建輸送量之後，它會傳回provisionedModelArn. 此 ARN 是模型識別碼。
使用自訂模型 針對自訂模型購買佈建輸送量，並使用傳回的provisionedModelArn作為模型 ID。