View a markdown version of this page

搭配 Bedrock 使用模型 - Amazon Bedrock

本文為英文版的機器翻譯版本，如內容有任何歧義或不一致之處，概以英文版為準。

搭配 Bedrock 使用模型

基礎模型是一種具有大量參數的人工智慧模型，並根據大量不同的資料進行訓練。基礎模型可以針對各種使用案例產生各種回應。基礎模型可以產生文字或影像，也可以將輸入轉換為嵌入。本節提供有關您可以在 Amazon Bedrock 中使用的基礎模型 (FM) 的資訊，例如模型支援的功能和可用的 AWS 區域 模型。如需 Amazon Bedrock 支援之基礎模型的相關資訊，請參閱 Amazon Bedrock 中支援的基礎模型。

預設會啟用對所有 Amazon Bedrock 基礎模型的存取。若要開始使用，只要從 Amazon Bedrock 主控台的模型目錄中選取模型，然後在遊樂場中開啟模型即可。對於 Anthropic 模型，第一次使用者可能需要提交使用案例詳細資訊，才能存取模型。選取模型之後，即可以下列方式使用模型。

  • 透過傳送提示至模型並產生回應來執行推論。遊樂場在 中提供易於使用的界面， AWS 管理主控台 用於產生文字、影像或聊天。請參閱輸出模式欄，以判斷您在每個遊樂場中可以使用的模型。

    注意

    主控台遊樂場不支援在內嵌模型上執行推論。使用 API 在內嵌模型上執行推論。

  • 評估模型以比較輸出，並判斷適合您使用案例的最佳模型。

  • 在內嵌模型的協助下設定知識庫。然後，使用文字模型來產生對查詢的回應。

  • 建立代理程式，並使用模型對提示執行推論以進行協調。

  • 透過提供訓練和驗證資料來自訂模型，以調整使用案例的模型參數。若要使用自訂模型，您必須為其購買佈建輸送量。

  • 為模型購買佈建輸送量以增加其輸送量。

若要搭配 Amazon Bedrock API 使用基礎模型，您需要決定要使用的適當模型 ID。請參閱下表，判斷要在何處尋找您需要使用的模型 ID。

使用案例 如何尋找模型 ID
使用基本模型 在基本模型 ID 圖表中查詢 ID
使用跨區域推論設定檔 在支援的推論設定檔頁面中查詢 ID
購買基本模型的佈建輸送量 在佈建輸送量圖表的模型 ID 中查詢 ID，並將其用作 CreateProvisionedModelThroughput 請求中的 modelId。
購買自訂模型的佈建輸送量 在 CreateProvisionedModelThroughput 請求中使用自訂模型的名稱或其 ARN 做為 modelId。
使用佈建模型 建立佈建輸送量後，它會傳回 provisionedModelArn。此 ARN 是模型 ID。
使用自訂模型 為自訂模型購買佈建輸送量，並使用傳回的 provisionedModelArn 做為模型 ID。

如需範例程式碼，請參閱您正在使用之功能的文件，以及 使用 AWS SDKs Amazon Bedrock 程式碼範例。

主題