Amazon 基岩的佈建輸送量 - Amazon Bedrock

本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。

Amazon 基岩的佈建輸送量

送量是指模型處理和傳回的輸入和輸出的數量和速率。您可以購買佈建輸送量,以固定成本為模型佈建更高層級的輸送量。如果您自訂模型,則必須購買佈建輸送量才能使用它。

我們會按照您購買的佈建輸送量按小時計費。如需有關定價的詳細資訊,請參閱 Amazon 基岩定價。每小時的價格取決於以下因素:

  1. 您選擇的型號(對於自訂模型,定價與自訂的基本模型相同)。

  2. 您為佈建輸送量指定的模型單位 (mU) 數目。MU 會針對指定的模型提供特定的輸送量層級。MU 的輸送量層次會指定下列項目:

    • MU 可以在一分鐘內處理所有請求的輸入令牌數量。

    • MU 可以在一分鐘內在所有請求中生成的輸出令牌數量。

    注意

    如需 MU 指定內容的詳細資訊,請聯絡您的 AWS 帳戶 經理。

  3. 您承諾保持佈建輸送量的持續時間。承諾期間越長,每小時價格的折扣就越多。您可以在下列承諾產品層級之間進行選擇:

    • 無承諾 — 您可以隨時刪除佈建輸送量。

    • 1 個月 — 在一個月的承諾期限結束之前,您無法刪除佈建輸送量。

    • 6 個月 — 在六個月的承諾期限結束之前,您無法刪除佈建輸送量。

    注意

    會繼續計費,直到您刪除佈建輸送量為止。

下列步驟概述了設定和使用佈建輸送量的程序。

  1. 決定您要針對佈建輸送量購買的 MU 數量,以及您要使用佈建輸送量認可的時間量。

  2. 針對基礎或自訂模型購買佈建輸送量。

  3. 建立佈建模型之後,您可以使用它來執行模型推論