View a markdown version of this page

Voraussetzungen für die Ausführung der Modellinferenz - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Voraussetzungen für die Ausführung der Modellinferenz

Damit eine Rolle Modellinferenz ausführen kann, müssen Sie ihr erlauben, die API-Aktionen für den Modellaufruf auszuführen. Wenn an Ihre Rolle die AmazonBedrockFullAccess AWS verwaltete Richtlinie angehängt ist, können Sie diesen Abschnitt überspringen. Andernfalls fügen Sie der Rolle die folgenden Berechtigungen hinzu, damit sie die ConverseStream Aktionen InvokeModel InvokeModelWithResponseStream, Converse und alle unterstützten Ressourcen in Amazon Bedrock verwenden kann:

JSON
{
    "Version":"2012-10-17",
    "Statement": [
        {
            "Sid": "ModelInvocationPermissions",
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel",
                "bedrock:InvokeModelWithResponseStream",
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:RenderPrompt",
                "bedrock:GetCustomModel",
                "bedrock:ListCustomModels",
                "bedrock:GetImportedModel",
                "bedrock:ListImportedModels",
                "bedrock:GetProvisionedModelThroughput",
                "bedrock:ListProvisionedModelThroughputs",
                "bedrock:GetGuardrail",
                "bedrock:ListGuardrails",
                "bedrock:ApplyGuardrail"
            ],
            "Resource": "*"
        }
    ]
}

Wenn Sie Berechtigungen weiter einschränken möchten, können Sie Aktionen weglassen oder Ressourcen und Bedingungsschlüssel angeben, nach denen Berechtigungen gefiltert werden sollen. Weitere Informationen über Aktionen, Ressourcen und Bedingungsschlüssel finden Sie in den folgenden Themen in der Referenz zur Serviceautorisierung:

Die folgende Liste fasst zusammen, ob Sie je nach Anwendungsfall eine Aktion benötigen:

  • bedrock:InvokeModel – Für den Modellaufruf erforderlich. Ermöglicht der Rolle, die API-Operationen InvokeModel und https://docs.aws.amazon.com/bedrock/latest/APIReference/API_runtime_Converse.html Converse-Operationen aufzurufen.

  • bedrock:InvokeModelWithResponseStream – Für den Modellaufruf und die Rückgabe von Streaming-Antworten erforderlich. Ermöglicht der Rolle, die API-Operationen InvokeModelWithResponseStream und Converse Stream aufzurufen.

  • Die folgenden Aktionen ermöglichen es einer Rolle, mit Antworten zu arbeiten, die die Responses API auf dem bedrock-runtime Endpunkt gespeichert hat. Jede autorisiert das Projekt, zu dem die Antwort gehört, nicht ein Modell:

    • bedrock:GetInvoke— Erforderlich, um eine gespeicherte Antwort abzurufen.

    • bedrock:CancelInvoke— Erforderlich, um eine Antwort abzubrechen, die noch in Bearbeitung ist.

    • bedrock:DeleteInvoke— Erforderlich, um eine gespeicherte Antwort zu löschen.

    Das Erstellen einer Antwort erfordert zusätzlich bedrock:InvokeModel zum Inferenzziel auch Informationen über das Projekt. Die APIs von Converse, Invoke und Chat Completions speichern keine Antworten und benötigen diese Aktionen nicht. Weitere Informationen finden Sie unter Projekte (OpenAI-compatible).

  • Die folgenden Aktionen ermöglichen einer Rolle, Inferenzen mit anderen Amazon-Bedrock-Ressourcen als den Basismodellen auszuführen:

    • bedrock:GetInferenceProfile – Für die Ausführung einer Inferenz mit einem Inferenzprofil erforderlich.

    • bedrock:RenderPrompt – Für den Aufruf eines Prompts im Prompt-Management erforderlich.

    • bedrock:GetCustomModel – Für die Ausführung einer Inferenz mit einem benutzerdefinierten Modell erforderlich.

    • bedrock:GetImportedModel – Für die Ausführung einer Inferenz mit einem importierten Modell erforderlich.

    • bedrock:GetProvisionedModelThroughput – Für die Ausführung einer Inferenz mit einem bereitgestellten Durchsatz erforderlich.

  • Die folgenden Aktionen ermöglichen einer Rolle, andere Amazon-Bedrock-Ressourcen als die Basismodelle in der Amazon-Bedrock-Konsole anzuzeigen und auszuwählen:

    • bedrock:ListInferenceProfiles – Für die Auswahl eines Inferenzprofils in der Amazon-Bedrock-Konsole erforderlich.

    • bedrock:ListCustomModels – Für die Auswahl eines benutzerdefinierten Modells in der Amazon-Bedrock-Konsole erforderlich.

    • bedrock:ListImportedModels – Für die Auswahl eines importierten Modells in der Amazon-Bedrock-Konsole erforderlich.

    • bedrock:ListProvisionedModelThroughputs – Für die Auswahl eines bereitgestellten Durchsatzes in der Amazon-Bedrock-Konsole erforderlich.

  • Die folgenden Aktionen ermöglichen einer Rolle, beim Modellaufruf auf einen Integritätsschutz für Amazon Bedrock zuzugreifen und diesen anzuwenden:

    • bedrock:GetGuardrail – Für die Verwendung eines Integritätsschutzes beim Modellaufruf erforderlich.

    • bedrock:ApplyGuardrail – Für die Anwendung eines Integritätsschutzes beim Modellaufruf erforderlich.

    • bedrock:ListGuardrails – Für die Auswahl eines Integritätsschutzes in der Amazon-Bedrock-Konsole erforderlich.