View a markdown version of this page

Pré-requisitos para executar a inferência do modelo - Amazon Bedrock

As traduções são geradas por tradução automática. Em caso de conflito entre o conteúdo da tradução e da versão original em inglês, a versão em inglês prevalecerá.

Pré-requisitos para executar a inferência do modelo

Para que um perfil execute a inferência do modelo, é necessário permitir que ele execute as ações de API de invocação do modelo. Se sua função tiver a política AmazonBedrockFullAccess AWS gerenciada anexada, você poderá pular esta seção. Caso contrário, anexe as seguintes permissões à função para permitir que ela use o InvokeModel, InvokeModelWithResponseStream, Converse e ConverseStream as ações com todos os recursos suportados no Amazon Bedrock:

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

Para restringir ainda mais as permissões, você pode omitir ações ou especificar chaves de recurso e de condição que devem ser usadas para filtrar permissões. Para ter mais informações sobre ações, recursos e chaves de condição, consulte os tópicos a seguir na Referência de autorização do serviço.

A seguinte lista resume se você precisa de uma ação dependendo do seu caso de uso:

  • bedrock:InvokeModel: necessária para realizar a invocação do modelo. Permite que a função chame as operações da API InvokeModel e da Converse.

  • bedrock:InvokeModelWithResponseStream: necessária para realizar a invocação do modelo e exibir respostas de streaming. Permite que a função chame as operações da API Converse Stream InvokeModelWithResponseStream e da Converse Stream.

  • As ações a seguir permitem que uma função funcione com as respostas que a API de respostas armazenou no bedrock-runtime endpoint. Cada um autoriza o projeto ao qual a resposta pertence, não um modelo:

    • bedrock:GetInvoke— Necessário para recuperar uma resposta armazenada.

    • bedrock:CancelInvoke— Necessário para cancelar uma resposta que ainda está em andamento.

    • bedrock:DeleteInvoke— Necessário para excluir uma resposta armazenada.

    A criação de uma resposta também exige bedrock:InvokeModel do projeto, além da meta de inferência. As APIs Converse, Invoke e Chat Complements não armazenam respostas e não precisam dessas ações. Para obter mais informações, consulte Projetos (OpenAI-compatible).

  • As seguintes ações permitem que um perfil execute inferência com recursos do Amazon Bedrock que não sejam modelos de base:

  • As seguintes ações permitem que um perfil veja recursos do Amazon Bedrock que não sejam modelos de base no console do Amazon Bedrock e os selecione:

    • bedrock:ListInferenceProfiles: necessária para escolher um perfil de inferência no console do Amazon Bedrock.

    • bedrock:ListCustomModels: necessária para escolher um modelo personalizado no console do Amazon Bedrock.

    • bedrock:ListImportedModels: necessária para escolher um modelo importado no console do Amazon Bedrock.

    • bedrock:ListProvisionedModelThroughputs: necessária para escolher throughput provisionado no console do Amazon Bedrock.

  • As seguintes ações permitem que um perfil acesse e aplique barreiras de proteção das Barreiras de Proteção do Amazon Bedrock durante a invocação do modelo:

    • bedrock:GetGuardrail: necessária para usar uma barreira de proteção durante a invocação do modelo.

    • bedrock:ApplyGuardrail: necessária para aplicar uma barreira de proteção durante a invocação do modelo.

    • bedrock:ListGuardrails: necessária para escolher uma barreira de proteção no console do Amazon Bedrock.