CRÉER UN MODÈLE EXTERNE - Amazon Redshift
PrérequisPrivilèges requisContrôle des coûtsSyntaxeParamètres et réglagesParamètres de la fonction d'inférence

Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.

CRÉER UN MODÈLE EXTERNE

Prérequis pour CREATE EXTERNAL MODEL

Avant d'utiliser l'instruction CREATE EXTERNAL MODEL, remplissez les conditions requises dansConfiguration du cluster pour l'utilisation d'Amazon Redshift ML. Vous trouverez ci-dessous un résumé général des étapes requises.

  • Créez un cluster Amazon Redshift à l'aide de la console de AWS gestion ou de l'interface de ligne de AWS commande (AWS CLI).

  • Attachez la politique AWS Identity and Access Management (IAM) lors de la création du cluster.

  • Pour permettre à Amazon Redshift et Amazon Bedrock d'assumer le rôle d'interaction avec d'autres services, ajoutez la politique de confiance appropriée au rôle IAM.

  • Activez l'accès aux informations spécifiques LLMs que vous souhaitez utiliser depuis la console Amazon Bedrock.

  • (Facultatif) Si vous rencontrez des exceptions de limitation provenant d'Amazon Bedrock, par exempleToo many requests, please wait before trying again, même avec de petites quantités de données, vérifiez les quotas dans la section Service Quotas de votre compte Amazon Bedrock. Vérifiez que le quota appliqué au niveau du compte est au moins identique à la valeur de quota AWS par défaut pour les InvokeModeldemandes relatives au modèle que vous utilisez.

Pour plus d’informations sur le rôle IAM, la politique d’approbation et d’autres prérequis, consultez Configuration du cluster pour l'utilisation d'Amazon Redshift ML.

Privilèges requis

Les privilèges requis pour CREATE EXTERNAL MODEL sont les suivants :

  • Superuser

  • Utilisateurs disposant du privilège CREATE MODEL

  • Rôles avec le privilège GRANT CREATE MODEL

Contrôle des coûts

Amazon Redshift ML utilise les ressources existantes du cluster pour créer des modèles de prédiction, de sorte que vous n’avez pas à payer de frais supplémentaires. Toutefois, les AWS frais d'utilisation d'Amazon Bedrock dépendent du modèle que vous sélectionnez. Pour obtenir plus d’informations, consultez Costs for using Amazon Redshift ML (Coûts d’utilisation d’Amazon Redshift ML).

Syntaxe CREATE EXTERNAL MODEL

Voici la syntaxe complète de l'instruction CREATE EXTERNAL MODEL.

CREATE EXTERNAL MODEL model_name 
FUNCTION function_name
IAM_ROLE {default/'arn:aws:iam::<account-id>:role/<role-name>'}
MODEL_TYPE BEDROCK
SETTINGS (
   MODEL_ID model_id
   [, PROMPT 'prompt prefix']
   [, SUFFIX 'prompt suffix']
   [, REQUEST_TYPE {RAW|UNIFIED}]
   [, RESPONSE_TYPE {VARCHAR|SUPER}]
);

La CREATE EXTERNAL MODEL commande crée une fonction d'inférence que vous utilisez pour générer du contenu.

Voici la syntaxe d'une fonction d'inférence CREATE EXTERNAL MODEL créée à l'aide d'un REQUEST_TYPE of RAW : 

SELECT inference_function_name(request_super) 
[FROM table];

Voici la syntaxe d'une fonction d'inférence CREATE EXTERNAL MODEL créée à l'aide d'un REQUEST_TYPE of UNIFIED : 

SELECT inference_function_name(input_text, [, inference_config [, additional_model_request_fields]])
[FROM table];

Pour plus d'informations sur l'utilisation de la fonction d'inférence, consultezUtilisation d'un modèle externe pour l'intégration d'Amazon Redshift ML à Amazon Bedrock.

PARAMÈTRES ET RÉGLAGES DE CRÉATION D'UN MODÈLE EXTERNE

Cette section décrit les paramètres et les réglages de la CREATE EXTERNAL MODEL commande.

PARAMÈTRES CREATE EXTERNAL MODEL

model_name

Nom du modèle externe. Le nom du modèle d’un schéma doit être unique.

FONCTION nom_fonction (type de données [,...])

Nom de la fonction d'inférence qui CREATE EXTERNAL MODEL crée. Vous utilisez la fonction d'inférence pour envoyer des demandes à Amazon Bedrock et récupérer du texte généré par ML.

<account-id><role-name>IAM_ROLE {par défaut | 'arn:aws:iam : :role/ '}

Rôle IAM utilisé par Amazon Redshift pour accéder à Amazon Bedrock. Pour obtenir des informations sur le rôle IAM, consultez Création ou mise à jour d'un rôle IAM pour l'intégration d'Amazon Redshift ML à Amazon Bedrock.

MODEL_TYPE SUBSTRATUM

Spécifie le type de modèle. La seule valeur valide est BEDROCK.

RÉGLAGES (MODEL_ID model_id [,...])

Spécifie les paramètres du modèle externe. Consultez la section suivante pour plus de détails.

Paramètres CREATE EXTERNAL MODEL

ID du modèle ID du modèle

L'identifiant du modèle externe, par exemple,anthropic.claude-v2. Pour plus d'informations sur le modèle Amazon Bedrock IDs, consultez le modèle Amazon Bedrock. IDs

PROMPT « préfixe rapide »

Spécifie une invite statique qu'Amazon Redshift ajoute au début de chaque demande d'inférence. Supporté uniquement avec un REQUEST_TYPE deUNIFIED.

SUFFIXE « suffixe rapide »

Spécifie une invite statique qu'Amazon Redshift ajoute à la fin de chaque demande d'inférence. Supporté uniquement avec un REQUEST_TYPE deUNIFIED.

REQUEST_TYPE {BRUT | UNIFIÉ}

Spécifie le format de la demande envoyée à Amazon Bedrock. Les valeurs valides sont notamment les suivantes :

  • RAW : La fonction d'inférence prend l'entrée comme une super valeur unique et renvoie toujours une super valeur. Le format de la super valeur est spécifique au modèle Amazon Bedrock sélectionné. Un super est un modèle de prédiction qui combine plusieurs algorithmes pour produire une seule prédiction améliorée.

  • UNIFIÉ : La fonction d'inférence utilise l'API unifiée. Tous les modèles disposent d'une interface unifiée et cohérente avec Amazon Bedrock. Cela fonctionne pour tous les modèles compatibles avec les messages. Cette valeur est celle par défaut.

    Pour plus d'informations, consultez la documentation de l'API Converse dans la documentation de l'API Amazon Bedrock.

RESPONSE_TYPE {VARCHAR | SUPER}

Spécifie le format de la réponse. Si REQUEST_TYPE c'est le casRAW, RESPONSE_TYPE c'est obligatoire et la seule valeur valide estSUPER. Pour toutes les autres REQUEST TYPE valeurs, la valeur par défaut RESPONSE_TYPE est facultative. VARCHAR Les valeurs valides sont notamment les suivantes :

  • VARCHAR : Amazon Redshift renvoie uniquement le texte de réponse généré par le modèle.

  • SUPER : Amazon Redshift renvoie l'intégralité de la réponse JSON générée par le modèle sous forme de super. Cela inclut la réponse textuelle et des informations telles que le motif de l'arrêt et l'utilisation du jeton d'entrée et de sortie du modèle. Un super est un modèle de prédiction qui combine plusieurs algorithmes pour produire une seule prédiction améliorée.

Paramètres de la fonction d'inférence CREATE EXTERNAL MODEL

Cette section décrit les paramètres valides pour la fonction d'inférence créée par la CREATE EXTERNAL MODEL commande.

Paramètres de la fonction d'inférence CREATE EXTERNAL MODEL pour REQUEST_TYPERAW

Une fonction d'inférence créée avec un REQUEST_TYPE de RAW possède un super argument d'entrée et renvoie toujours un super type de données. La syntaxe du super d'entrée suit la syntaxe de la demande du modèle spécifique sélectionné sur Amazon Bedrock.

Paramètres de la fonction d'inférence CREATE EXTERNAL MODEL pour REQUEST_TYPEUNIFIED

input_text

Le texte qu'Amazon Redshift envoie à Amazon Bedrock.

inférence_config

Une super valeur qui contient des paramètres facultatifs qu'Amazon Redshift envoie à Amazon Bedrock. Il peut s'agir des éléments suivants :

  • maxTokens

  • Séquences d'arrêt

  • temperature

  • topP

Ces paramètres sont tous facultatifs et distinguent tous les majuscules et minuscules. Pour plus d'informations sur ces paramètres, consultez le InferenceConfigurationmanuel Amazon Bedrock API Reference.