Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Modèles et instructions
Définissez un harnais une fois avec les valeurs par défaut pour le modèle, l'invite système, les outils, la mémoire et les limites d'exécution. Remplacez n'importe laquelle de ces options lors d'une seule invocation lorsque vous souhaitez expérimenter. La ressource de harnais reste inchangée ; seul cet appel utilise les remplacements.
C'est le cœur du modèle basé sur la configuration : les valeurs par défaut au moment de la création, les remplacements au moment de l'invocation. Vous pouvez tester les combinaisons N model/prompt /tool pendant le temps qu'il faudrait pour effectuer un seul redéploiement.
Exemple
Utilisez n'importe quel modèle, changez en cours de session
Utilisez des modèles d'Amazon Bedrock, d'OpenAI, de Google Gemini ou d'autres fournisseurs via LiteLLM, y compris des points de terminaison. OpenAI-compatible Changez de fournisseur entre les tours de la même session et la conversation se poursuit. Le contexte est conservé.
Si vous ne spécifiez pas de modèle, le harnais est défini par défaut sur Claude Sonnet 4.6 d'Anthropic sur Amazon Bedrock (global.anthropic.claude-sonnet-4-6) afin que vous puissiez commencer immédiatement. Vous pouvez modifier la valeur par défaut ou la remplacer par appel à tout moment.
Stockez des clés d'API tierces dans le coffre à jetons AgentCore d'Identity en tant que fournisseur d'informations d'identification de clés d'API. Le harnais tire sur la clé au moment de l'invocation. Votre code d'agent ne voit jamais les informations d'identification brutes.
Exemple
En savoir plus : AgentCore Identité, fournisseurs d'informations d'identification clés d'API.
Sélectionnez le format de l'API du modèle
Les configurations des modèles Amazon Bedrock et OpenAI acceptent chacune un apiFormat champ facultatif qui sélectionne le protocole d'API utilisé par le harnais pour appeler le modèle.
PourbedrockModelConfig, apiFormat sélectionne à la fois le protocole API et le point de terminaison Amazon Bedrock que le harnais appelle :
-
converse_stream- l'API Amazon Bedrock Converse, desservie par lebedrock-runtimeterminal. Il s’agit de l’option par défaut. -
responses- l'API OpenAI-compatible Responses, servie par lebedrock-mantleterminal. -
chat_completions- l'API OpenAI-compatible Chat Completions, desservie par lebedrock-mantleterminal.
Le bedrock-mantle point de terminaison prend en charge un ensemble de modèles et de fonctionnalités différent de celui du point de bedrock-runtime terminaison par défaut. Pour plus de détails, consultez la section Points de terminaison pris en charge par Amazon Bedrock.
CaropenAiModelConfig, apiFormat peut être l'un des suivants :
-
responses- l'API OpenAI Responses. Il s’agit de l’option par défaut. -
chat_completions- l'API OpenAI Chat Completions.
Les deux configurations acceptent également un additionalParams champ facultatif. Provider-specific les paramètres in additionalParams sont transmis au fournisseur de modèles sans modification.
Important
Les paramètres saisis additionalParams peuvent modifier le comportement du fournisseur, notamment le routage des terminaux, la gestion des informations d'identification et la sélection des régions. Si votre application transmet la configuration du modèle fournie par l'appelant àInvokeHarness, validez ces champs avant l'invocation. Consultez Modèle de responsabilité partagée.
Exemple
Appliquez Amazon Bedrock Guardrails
Utilisez Amazon Bedrock Guardrails pour filtrer les contenus dangereux ou bloquer les sujets refusés dans les entrées et les sorties du modèle. Pour appliquer un garde-corps à chaque demande de modèle, ajoutez un guardrailConfig objet à. bedrockModelConfig.additionalParams Le harnais transmet cet objet à Amazon Bedrock à chaque demande de modèle.
Pour utiliser Amazon Bedrock Guardrails avec le harnais, configurez bedrockModelConfig avec le converse_stream format API. Si vous omettezapiFormat, le harnais l'utilise converse_stream par défaut. Définissez cette configuration dans CreateHarness ouUpdateHarness, ou redéfinissez-la pour un appel entrant. InvokeHarness
L'exemple Python suivant appelle InvokeHarness avec une configuration de garde-corps. Remplacez-le HARNESS_ARN par l'ARN de votre harnais et SESSION_ID par un identifiant de session d'exécution unique.
import boto3 client = boto3.client("bedrock-agentcore") response = client.invoke_harness( harnessArn=HARNESS_ARN, runtimeSessionId=SESSION_ID, model={ "bedrockModelConfig": { "modelId": "us.amazon.nova-micro-v1:0", "apiFormat": "converse_stream", "additionalParams": { "guardrailConfig": { "guardrailIdentifier": "arn:aws:bedrock:us-west-2:111122223333:guardrail/abc123def456", "guardrailVersion": "1", "trace": "enabled_full", } }, } }, messages=[{"role": "user", "content": [{"text": "Help me plan a trip."}]}], )
Pour les autorisations du modèle de base, consultez la politique relative aux rôles d'exécution. Ajoutez l'instruction JSON suivante à la politique de rôle d'exécution du harnais :
{ "Effect": "Allow", "Action": "bedrock:ApplyGuardrail", "Resource": "arn:aws:bedrock:us-west-2:111122223333:guardrail/abc123def456" }
Utilisez un garde-corps dans la même AWS région que le modèle demandé. Lorsqu'un garde-corps intervient, le flux de réponse est indiqué guardrail_intervened comme motif d'arrêt.
Pour plus d'informations sur les champs de configuration du garde-corps, voir Utiliser un garde-corps avec l'API Converse. Pour plus d'informations sur les autorisations IAM, consultez la section Configuration des autorisations pour utiliser Amazon Bedrock Guardrails.
Utiliser un modèle via LiteLM
liteLlmModelConfigÀ utiliser pour contacter tous les fournisseurs pris en charge par modelId de modèle LiteLLM préfixé par le fournisseur, tel que ou. gemini/gemini-2.5-pro anthropic/claude-sonnet-4-6
Les fournisseurs qui s'authentifient à l'aide d'une clé API (comme Google ou Anthropic) en ont besoin. apiKeyArn Les modèles Amazon Bedrock auxquels on accède par le bedrock/ préfixe utilisent les autorisations du rôle d'exécution du harnais et n'ont pas besoin de clé API.
-
modelId(obligatoire) - l'ID de modèle préfixé par le fournisseur LiteLM. -
apiKeyArn- l'ARN de la clé API du fournisseur, stocké dans AgentCore Identity en tant que fournisseur d'informations d'identification de clé API. Le point de terminaison doit accepter cette clé d'API. -
apiBase- une URL de point de terminaison personnalisée pour une OpenAI-compatible passerelle, telle qu'un proxy ou un point de terminaison auto-hébergé. -
additionalParams- les paramètres spécifiques au fournisseur transmis à LiteLLM restent inchangés. Cela inclut les paramètres qui peuvent remplacer les points de terminaison (aws_bedrock_runtime_endpoint), assumer des rôles IAM (aws_role_name) ou modifier le routage des demandes. Consultez Modèle de responsabilité partagée.
liteLlmModelConfigaccepte également les topP champs temperature facultatifs maxTokens et.
Exemple
Lorsque votre harnais utilise un fournisseur d'informations d'identification de clé API, accordez au rôle d'exécution l'autorisation de lire la clé. Consultez Sécurité et contrôles d'accès.
Pour plus d'informations sur la configuration du harnais, consultez Documentation sur les API
Rubriques associées
-
Outils- connectez les outils à votre harnais
-
Mémoire- poursuivre les conversations d'une session à l'autre
-
Contrôlez les coûts avec des limites- définir des limites d'exécution et des stratégies de troncature