CREATE EXTERNAL MODEL - Amazon Redshift

CREATE EXTERNAL MODEL

Pré-requisitos referentes a CREATE EXTERNAL MODEL

Antes de usar a instrução CREATE EXTERNAL MODEL, conclua os pré-requisitos em Configuração de cluster para usar o Amazon Redshift ML. A seguir está um resumo de alto nível dos pré-requisitos.

  • Crie um cluster do Amazon Redshift com o Console de Gerenciamento da AWS ou a Interface de linha de comando da AWS (AWS CLI).

  • Anexe a política de Identity and Access Management (IAM) da AWS ao criar o cluster.

  • Para permitir que o Amazon Redshift e o Amazon Bedrock assumam o perfil para interagir com outros serviços, adicione a política de confiança apropriada ao perfil do IAM.

Para obter detalhes sobre a função do IAM, a política de confiança e outros pré-requisitos, consulte Configuração de cluster para usar o Amazon Redshift ML.

Privilégios obrigatórios

Estes são os privilégios obrigatórios para CREATE EXTERNAL MODEL:

  • Superusuário

  • Usuários com o privilégio CREATE EXTERNAL MODEL

  • Perfis com o privilégio GRANT CREATE EXTERNAL MODEL

Controle de custos

O Amazon Redshift ML usa os recursos de cluster existentes para criar modelos de previsão. Portanato, você não precisa pagar a mais. No entanto, a AWS aplica cobranças ao uso do Amazon Bedrock com base no modelo selecionado. Para obter mais informações, consulte Custos de uso do Amazon Redshift ML.

Sintaxe de CREATE EXTERNAL MODEL

A seguir é apresentada a sintaxe completa da instrução CREATE EXTERNAL MODEL.

CREATE EXTERNAL MODEL model_name FUNCTION function_name IAM_ROLE {default/'arn:aws:iam::<account-id>:role/<role-name>'} MODEL_TYPE BEDROCK SETTINGS ( MODEL_ID model_id [, PROMPT 'prompt prefix'] [, SUFFIX 'prompt suffix'] [, REQUEST_TYPE {RAW|UNIFIED}] [, RESPONSE_TYPE {VARCHAR|SUPER}] );

O comando CREATE EXTERNAL MODEL cria uma função de inferência usada para gerar conteúdo.

Esta é a sintaxe de uma função de inferência que CREATE EXTERNAL MODEL cria usando RAW como REQUEST_TYPE:

SELECT inference_function_name(request_super) [FROM table];

Esta é a sintaxe de uma função de inferência que CREATE EXTERNAL MODEL cria usando UNIFIED como REQUEST_TYPE:

SELECT inference_function_name(input_text, [, inference_config [, additional_model_request_fields]]) [FROM table];

Para ter informações sobre como usar a função de inferência, consulte Usar um modelo externo para a integração do Amazon Redshift ML com o Amazon Bedrock.

Parâmetros e configurações de CREATE EXTERNAL MODEL

Esta seção descreve os parâmetros e as configurações do comando CREATE EXTERNAL MODEL.

Parâmetros de CREATE EXTERNAL MODEL

model_name

O nome do modelo externo. O nome do modelo em um esquema deve ser exclusivo.

FUNCTION function_name (data_type [,...] )

O nome da função de inferência que cria CREATE EXTERNAL MODEL. Use a função de inferência para enviar solicitações ao Amazon Bedrock e recuperar texto gerado por ML.

IAM_ROLE { default | 'arn:aws:iam::<account-id>:role/<role-name>' }

O perfil do IAM que o Amazon Redshift usa para acessar o Amazon Bedrock. Para obter informações sobre a função do IAM, consulte Criar ou atualizar um perfil do IAM para a integração do Amazon Redshift ML com o Amazon Bedrock.

MODEL_TYPE BEDROCK

Especifica o tipo de modelo. O único valor válido é BEDROCK.

SETTINGS ( MODEL_ID model_id [,...] )

Especifica as configurações externas do modelo. Para obter detalhes, consulte a seção a seguir.

Configurações de CREATE EXTERNAL MODEL

MODEL_ID model_id

O identificador do modelo externo; por exemplo, anthropic.claude-v2. Para ter informações sobre IDs de modelo do Amazon Bedrock, consulte Amazon Bedrock model IDs.

PROMPT 'prompt prefix'

Especifica um prompt estático que o Amazon Redshift adiciona ao início de cada solicitação de inferência. Compatível apenas com o REQUEST_TYPE UNIFIED.

SUFFIX 'prompt suffix'

Especifica um prompt estático que o Amazon Redshift adiciona ao final de cada solicitação de inferência. Compatível apenas com o REQUEST_TYPE UNIFIED.

REQUEST_TYPE { RAW | UNIFIED }

Especifica o formato da solicitação enviada ao Amazon Bedrock. Entre os valores válidos estão os seguintes:

  • RAW: a função de inferência considera a entrada como um único valor super e sempre envia de volta um valor super. O formato do valor super é específico para o modelo do Amazon Bedrock selecionado. Super é um modelo de previsão que combina vários algoritmos para produzir uma previsão única e aprimorada.

  • UNIFIED: a função de inferência usa a API unificada. Todos os modelos têm uma interface unificada e consistente com o Amazon Bedrock. Isso funciona para todos os modelos que comportam mensagens. Esse valor é o padrão.

    Para ter mais informações, consulte a documentação da API Converse na documentação de API do Amazon Bedrock.

RESPONSE_TYPE { VARCHAR | SUPER }

Especifica o formato da resposta. Se REQUEST_TYPE for RAW, o RESPONSE_TYPE é obrigatório e o único valor válido é SUPER. Com relação a todos os outros valores de REQUEST TYPE, o valor padrão é VARCHAR e RESPONSE_TYPE é opcional. Entre os valores válidos estão os seguintes:

  • VARCHAR: o Amazon Redshift retorna somente a resposta de texto gerada pelo modelo.

  • SUPER: o Amazon Redshift envia de volta toda a resposta JSON gerada pelo modelo como um super. Isso inclui a resposta de texto, além de informações como o motivo da parada e o uso do token de entrada e saída do modelo. Super é um modelo de previsão que combina vários algoritmos para produzir uma previsão única e aprimorada.

Parâmetros da função de inferência CREATE EXTERNAL MODEL

Esta seção descreve os parâmetros válidos para a função de inferência criada pelo comando CREATE EXTERNAL MODEL.

Parâmetros da função de inferência CREATE EXTERNAL MODEL usando RAW como REQUEST_TYPE

Uma função de inferência criada com RAW como REQUEST_TYPE tem um argumento super de entrada e sempre envia de volta um tipo de dados super. A sintaxe do super de entrada segue a sintaxe da solicitação do modelo específico selecionado no Amazon Bedrock.

Parâmetros da função de inferência CREATE EXTERNAL MODEL usando UNIFIED como REQUEST_TYPE

input_text

O texto que o Amazon Redshift envia ao Amazon Bedrock.

inference_config

Um valor super que contém parâmetros opcionais que o Amazon Redshift envia ao Amazon Bedrock. Isso pode incluir o seguinte:

  • maxTokens

  • stopSequences

  • temperatura

  • topP

Esses parâmetros são todos opcionais e diferenciam maiúsculas e minúsculas. Para ter informações sobre esses parâmetros, consulte InferenceConfiguration na Referência de API do Amazon Bedrock.