View a markdown version of this page

Prerequisiti per l’esecuzione dell’inferenza del modello - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Prerequisiti per l’esecuzione dell’inferenza del modello

Affinché un ruolo esegua l’inferenza del modello, è necessario consentire al ruolo stesso di eseguire le azioni dell’API di invocazione del modello. Se al tuo ruolo è associata la policy AmazonBedrockFullAccess AWS gestita, puoi saltare questa sezione. Altrimenti, assegna le seguenti autorizzazioni al ruolo per consentirgli di utilizzare InvokeModel, InvokeModelWithResponseStream, Converse e ConverseStream le azioni con tutte le risorse supportate in Amazon Bedrock:

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

Per limitare ulteriormente le autorizzazioni, puoi omettere azioni o specificare risorse e chiavi di condizione con cui filtrare le autorizzazioni. Per ulteriori informazioni su azioni, risorse e chiavi di condizione, consultare i seguenti argomenti nella documentazione di riferimento per l’autorizzazione al servizio:

L’elenco indica se è necessaria un’azione, a seconda del caso d’uso:

  • bedrock:InvokeModel: necessaria per eseguire l’invocazione del modello. Consente al ruolo di chiamare le operazioni dell'API Converse InvokeModel e di Converse.

  • bedrock:InvokeModelWithResponseStream: necessaria per eseguire l’invocazione del modello e restituire risposte in streaming. Consente al ruolo di chiamare le operazioni dell'API Converse Stream InvokeModelWithResponseStream e di Converse Stream.

  • Le azioni seguenti consentono a un ruolo di lavorare con le risposte archiviate dall'API Responses sull'bedrock-runtimeendpoint. Ognuna autorizza il progetto a cui appartiene la risposta, non un modello:

    • bedrock:GetInvoke— Necessario per recuperare una risposta memorizzata.

    • bedrock:CancelInvoke— Necessario per annullare una risposta ancora in corso.

    • bedrock:DeleteInvoke— Necessario per eliminare una risposta memorizzata.

    La creazione di una risposta richiede anche bedrock:InvokeModel il progetto, oltre all'obiettivo di inferenza. Le API Converse, Invoke e Chat Completions non memorizzano risposte e non necessitano di queste azioni. Per ulteriori informazioni, consulta Progetti (OpenAI-compatible).

  • Le seguenti azioni consentono a un ruolo di eseguire inferenze con risorse Amazon Bedrock diverse dai modelli di fondazione:

  • Le seguenti azioni consentono a un ruolo di visualizzare risorse Amazon Bedrock diverse dai modelli di fondazione nella console Amazon Bedrock e di selezionarle:

    • bedrock:ListInferenceProfiles: necessaria per scegliere un profilo di inferenza nella console Amazon Bedrock.

    • bedrock:ListCustomModels: necessaria per scegliere un modello personalizzato nella console Amazon Bedrock.

    • bedrock:ListImportedModels: necessaria per scegliere un modello importato nella console Amazon Bedrock.

    • bedrock:ListProvisionedModelThroughputs: necessaria per scegliere throughput allocato nella console Amazon Bedrock.

  • Le seguenti azioni consentono a un ruolo di accedere e applicare guardrail da Guardrail per Amazon Bedrock durante l’invocazione al modello:

    • bedrock:GetGuardrail: necessaria per utilizzare un guardrail durante l’invocazione al modello.

    • bedrock:ApplyGuardrail: necessaria per applicare un guardrail durante l’invocazione al modello.

    • bedrock:ListGuardrails: necessaria per scegliere un guardrail nella console Amazon Bedrock.