Les traductions sont fournies par des outils de traduction automatique. En cas de conflit entre le contenu d'une traduction et celui de la version originale en anglais, la version anglaise prévaudra.
Faire des demandes d'inférence
L'inférence est le processus de génération d'une sortie à partir d'une entrée fournie à un modèle. Avant de pouvoir envoyer une demande d'inférence à Amazon Bedrock, vous devez autoriser votre rôle à effectuer les actions de l'API d'invocation du modèle. Cela dépend du terminal que vous utilisez. Pour les nouvelles applications, nous recommandons le bedrock-runtime terminal.
bedrock-runtimepoint final (recommandé)
Si la politique AmazonBedrockFullAccess AWS gérée est associée à votre rôle, vous pouvez ignorer cette section. Sinon, attachez les autorisations suivantes pour permettre l'inférence via le bedrock-runtime point de terminaison (API Converse, Invoke, Chat Completions et Responses) :
{ "Version": "2012-10-17", "Statement": [ { "Sid": "ModelInvocationPermissions", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream", "bedrock:GetInvoke", "bedrock:CancelInvoke", "bedrock:DeleteInvoke", "bedrock:GetInferenceProfile", "bedrock:ListInferenceProfiles", "bedrock:RenderPrompt", "bedrock:GetCustomModel", "bedrock:ListCustomModels", "bedrock:GetImportedModel", "bedrock:ListImportedModels", "bedrock:GetProvisionedModelThroughput", "bedrock:ListProvisionedModelThroughputs", "bedrock:GetGuardrail", "bedrock:ListGuardrails", "bedrock:ApplyGuardrail" ], "Resource": "*" } ] }
Point de terminaison bedrock-mantle
Si la politique AmazonBedrockMantleInferenceAccess AWS gérée est associée à votre rôle, vous pouvez ignorer cette section. Sinon, attachez les autorisations suivantes pour permettre l'inférence via le bedrock-mantle point de terminaison (API Responses, Chat Completions, API Messages) :
{ "Version": "2012-10-17", "Statement": [ { "Sid": "MantleInferencePermissions", "Effect": "Allow", "Action": [ "bedrock-mantle:CreateInference", "bedrock-mantle:GetProject", "bedrock-mantle:ListProjects", "bedrock-mantle:ListTagsForResources" ], "Resource": "*" } ] }
Important
Si vous étendez votre politique à des ressources spécifiques au lieu de les utiliser"Resource": "*", l'API Responses sur le bedrock-runtime terminal a besoin de deux ressources au lieu d'une. Outre la cible d'inférence, la création d'une réponse nécessite bedrock:InvokeModel le projet par défaut de votre compte, et la récupération, l'annulation ou la suppression d'une réponse enregistrée nécessite bedrock:GetInvokebedrock:CancelInvoke, ou bedrock:DeleteInvoke sur ce même projet. La politique suivante accorde le minimum :
{ "Version": "2012-10-17", "Statement": [ { "Sid": "CreateResponses", "Effect": "Allow", "Action": [ "bedrock:InvokeModel", "bedrock:InvokeModelWithResponseStream" ], "Resource": [ "arn:aws:bedrock:*::foundation-model/openai.*", "arn:aws:bedrock:*:111122223333:inference-profile/*.openai.*", "arn:aws:bedrock:*:111122223333:project/default" ] }, { "Sid": "ManageStoredResponses", "Effect": "Allow", "Action": [ "bedrock:GetInvoke", "bedrock:CancelInvoke", "bedrock:DeleteInvoke" ], "Resource": "arn:aws:bedrock:*:111122223333:project/default" } ] }
Les API Converse, Invoke et Chat Completions ne nécessitent aucune ressource de projet. Pour plus d'informations sur le projet par défaut, consultezProjets (OpenAI-compatible).
Pour une description détaillée de chaque autorisation, consultezConditions préalables à l’exécution de l’inférence de modèle.
Rubriques
