本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
Amazon 基岩的佈建輸送量
輸送量是指模型處理和傳回的輸入和輸出的數量和速率。您可以購買佈建輸送量,以固定成本為模型佈建更高層級的輸送量。如果您自訂模型,則必須購買佈建輸送量才能使用它。
我們會按照您購買的佈建輸送量按小時計費。如需有關定價的詳細資訊,請參閱 Amazon 基岩
-
您選擇的型號(對於自訂模型,定價與自訂的基本模型相同)。
-
您為佈建輸送量指定的模型單位 (mU) 數目。MU 會針對指定的模型提供特定的輸送量層級。MU 的輸送量層次會指定下列項目:
-
MU 可以在一分鐘內處理所有請求的輸入令牌數量。
-
MU 可以在一分鐘內在所有請求中生成的輸出令牌數量。
注意
如需 MU 指定內容的詳細資訊,請聯絡您的 AWS 帳戶 經理。
-
-
您承諾保持佈建輸送量的持續時間。承諾期間越長,每小時價格的折扣就越多。您可以在下列承諾產品層級之間進行選擇:
-
無承諾 — 您可以隨時刪除佈建輸送量。
-
1 個月 — 在一個月的承諾期限結束之前,您無法刪除佈建輸送量。
-
6 個月 — 在六個月的承諾期限結束之前,您無法刪除佈建輸送量。
注意
會繼續計費,直到您刪除佈建輸送量為止。
-
下列步驟概述了設定和使用佈建輸送量的程序。
-
決定您要針對佈建輸送量購買的 MU 數量,以及您要使用佈建輸送量認可的時間量。
-
針對基礎或自訂模型購買佈建輸送量。
-
建立佈建模型之後,您可以使用它來執行模型推論。