本文為英文版的機器翻譯版本,如內容有任何歧義或不一致之處,概以英文版為準。
CREATE EXTERNAL MODEL
主題
的先決條件 CREATE EXTERNAL MODEL
使用CREATEEXTERNALMODEL陳述式之前,請先完成 中的先決條件使用 Amazon Redshift ML 的叢集設定。以下是先決條件的概要。
使用 AWS 管理主控台或 AWS 命令列介面 () 建立 Amazon Redshift 叢集AWS CLI。
在建立叢集時連接 AWS Identity and Access Management (IAM) 政策。
若要允許 Amazon Redshift 和 Amazon Bedrock 擔任與其他 服務互動的角色,請將適當的信任政策新增至該IAM角色。
如需IAM角色、信任政策和其他先決條件的詳細資訊,請參閱 使用 Amazon Redshift ML 的叢集設定。
所需權限
以下是 CREATE EXTERNAL 的必要權限MODEL:
超級使用者
具有 CREATEEXTERNALMODEL權限的使用者
具有 GRANTCREATEEXTERNALMODEL權限的角色
成本控制
Amazon Redshift ML 會使用現有的叢集資源建立預測模型,因此您不必支付額外費用。不過,根據您選取的模型使用 Amazon Bedrock 時 AWS 需付費。如需詳細資訊,請參閱使用 Amazon Redshift 資料 API。
CREATE EXTERNAL MODEL 語法
以下是 CREATEEXTERNALMODEL陳述式的完整語法。
CREATE EXTERNAL MODEL model_name FUNCTION function_name IAM_ROLE {default/'arn:aws:iam::<account-id>:role/<role-name>'} MODEL_TYPE BEDROCK SETTINGS ( MODEL_ID model_id [, PROMPT 'prompt prefix'] [, SUFFIX 'prompt suffix'] [, REQUEST_TYPE {RAW|UNIFIED}] [, RESPONSE_TYPE {VARCHAR|SUPER}] );
此CREATE EXTERNAL MODEL
命令會建立推論函數,供您用來產生內容。
以下是使用 的 CREATE EXTERNAL MODEL
建立的推論函數語法REQUEST_TYPE
RAW
:
SELECT inference_function_name(request_super) [FROM table];
以下是使用 的 CREATE EXTERNAL MODEL
建立的推論函數語法REQUEST_TYPE
UNIFIED
:
SELECT inference_function_name(input_text, [, inference_config [, additional_model_request_fields]]) [FROM table];
如需有關如何使用推論函數的資訊,請參閱 使用外部模型與 Amazon Bedrock 進行 Amazon Redshift ML 整合。
CREATE EXTERNAL MODEL 參數和設定
本節說明 CREATE EXTERNAL MODEL
命令的參數和設定。
CREATE EXTERNAL MODEL 參數
- model_name
-
外部模型的名稱。結構描述中的模型名稱必須是唯一的。
- FUNCTION function_name (data_type 【,...】 )
-
所
CREATE EXTERNAL MODEL
建立推論函數的名稱。您可以使用推論函數將請求傳送至 Amazon Bedrock,並擷取 ML 產生的文字。 - IAM_ROLE { 預設 | 'arn:aws:iam::<account-id>:role/<role-name>' }
-
Amazon Redshift 用來存取 Amazon Bedrock IAM的角色。如需IAM角色的相關資訊,請參閱 建立或更新 Amazon Redshift ML 與 Amazon Bedrock 整合IAM的角色。
- MODEL_TYPE BEDROCK
-
指定模型類型。唯一有效的值為
BEDROCK
。 - SETTINGS ( MODEL_ID model_id 【,...】 )
-
指定外部模型設定。如需詳細資訊,請參閱以下章節。
CREATE EXTERNAL MODEL 設定
- MODEL_ID model_id
-
外部模型的識別符,例如
anthropic.claude-v2
。如需有關 Amazon Bedrock 模型 的資訊IDs,請參閱 Amazon Bedrock 模型 IDs。 - PROMPT 「提示字首」
-
指定靜態提示,Amazon Redshift 會新增至每個推論請求的開頭。僅支援
REQUEST_TYPE
的UNIFIED
。 - SUFFIX 「提示字尾」
-
指定靜態提示,Amazon Redshift 會新增至每個推論請求的結尾。僅支援
REQUEST_TYPE
的UNIFIED
。 - REQUEST_TYPE { RAW | UNIFIED }
-
指定傳送至 Amazon Bedrock 的請求格式。有效值包括以下項目:
RAW:推論函數會將輸入視為單一超值,並一律傳回超值。超值的格式專屬於選取的 Amazon Bedrock 模型。Super 是一種預測模型,結合了多個演算法,以產生單一、改善的預測。
UNIFIED:推論函數使用統一 API。所有模型都具有與 Amazon Bedrock 統一且一致的介面。這適用於所有支援訊息的模型。此為預設值。
如需詳細資訊,請參閱 Amazon Bedrock API 文件 中的 Converse 文件。 API
- RESPONSE_TYPE { VARCHAR | SUPER }
-
指定回應的格式。如果
REQUEST_TYPE
是RAW
,RESPONSE_TYPE
則需要 ,且唯一有效的值是SUPER
。對於所有其他REQUEST TYPE
值,預設值為VARCHAR
,且RESPONSE_TYPE
為選用。有效值包括以下項目:VARCHAR:Amazon Redshift 只會傳回模型所產生的文字回應。
SUPER:Amazon Redshift 會將模型JSON所產生的完整回應傳回為超級回應。這包括文字回應,以及停止原因等資訊,以及模型輸入和輸出字符用量。Super 是一種預測模型,結合了多個演算法,以產生單一、改善的預測。
CREATE EXTERNAL MODEL 推論函數參數
本節說明CREATE EXTERNAL MODEL
命令建立之推論函數的有效參數。
CREATE EXTERNAL MODEL REQUEST_TYPE
的推論函數參數 RAW
使用 建立REQUEST_TYPE
的推論函數RAW
有一個超級輸入引數,並一律傳回超級資料類型。輸入的語法超級遵循從 Amazon Bedrock 選取的特定模型請求的語法。
CREATE EXTERNAL MODEL REQUEST_TYPE
的推論函數參數 UNIFIED
- input_text
Amazon Redshift 傳送至 Amazon Bedrock 的文字。
- inference_config
包含 Amazon Redshift 傳送至 Amazon Bedrock 之選用參數的超值。這些可能包括下列項目:
maxTokens
stopSequences
溫度
topP
這些參數都是選用的,且全部區分大小寫。如需有關這些參數的資訊,請參閱 Amazon Bedrock 參考 InferenceConfiguration 中的 。 API