Voraussetzungen für Inferenzprofile - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Voraussetzungen für Inferenzprofile

Bevor Sie ein Inferenzprofil verwenden können, überprüfen Sie, ob Sie die folgenden Voraussetzungen erfüllt haben:

  • Ihre Rolle hat Zugriff auf die API-Aktionen für das Inferenzprofil. Wenn mit Ihrer Rolle die AmazonBedrockFullAccess AWS verwaltete Richtlinie verknüpft ist, können Sie diesen Schritt überspringen. Andernfalls gehen Sie wie folgt vor:

    1. Folgen Sie den Schritten unter IAM-Richtlinien erstellen und erstellen Sie die folgende Richtlinie, die es einer Rolle ermöglicht, Aktionen im Zusammenhang mit Inferenzprofilen durchzuführen und Modellinferenzen unter Verwendung aller Foundation-Modelle und Inferenzprofile auszuführen.

      {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*",
                "bedrock:CreateInferenceProfile"
            ],
            "Resource": [
                "arn:aws:bedrock:*::foundation-model/*",
                "arn:aws:bedrock:*:*:inference-profile/*",
                "arn:aws:bedrock:*:*:application-inference-profile/*"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:GetInferenceProfile",
                "bedrock:ListInferenceProfiles",
                "bedrock:DeleteInferenceProfile",
                "bedrock:TagResource",
                "bedrock:UntagResource",
                "bedrock:ListTagsForResource"
            ],
            "Resource": [
                "arn:aws:bedrock:*:*:inference-profile/*",
                "arn:aws:bedrock:*:*:application-inference-profile/*"
            ]
        }
    ]
}

      (Optional) Sie können den Zugriff der Rolle auf folgende Weise einschränken:

      • Um die API-Aktionen einzuschränken, die die Rolle ausführen kann, ändern Sie die Liste im Action Feld so, dass sie nur die API-Operationen enthält, für die Sie Zugriff gewähren möchten.

      • Um den Zugriff der Rolle auf bestimmte Inferenzprofile einzuschränken, ändern Sie die Resource Liste so, dass sie nur die Inferenzprofile und Fundamentmodelle enthält, für die Sie Zugriff gewähren möchten. Systemdefinierte Inferenzprofile beginnen mit inference-profile und Anwendungs-Inferenzprofile beginnen mit. application-inference-profile

        Wichtig

        Wenn Sie in der ersten Anweisung in dem Resource Feld ein Inferenzprofil angeben, müssen Sie auch das Basismodell in jeder Region angeben, die diesem Profil zugeordnet ist.

      • Um den Benutzerzugriff so einzuschränken, dass sie ein Foundation-Modell nur über ein Inferenzprofil aufrufen können, fügen Sie ein Condition Feld hinzu und verwenden Sie den aws:InferenceProfileArn Bedingungsschlüssel. Geben Sie das Inferenzprofil an, nach dem Sie den Zugriff filtern möchten. Diese Bedingung kann in eine Anweisung aufgenommen werden, die sich auf die foundation-model Ressourcen bezieht.

      • Sie können beispielsweise die folgende Richtlinie an eine Rolle anhängen, damit sie das aufrufen kann Anthropic Claude 3 Haiku Modell nur in den USA Anthropic Claude 3 Haiku Inferenzprofil im Konto 111122223333 in us-west-2:

        {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
            ]
        },
        {
            "Effect": "Allow",
            "Action": [
                "bedrock:InvokeModel*"
            ],
            "Resource": [
                "arn:aws:bedrock:us-east-1::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
                "arn:aws:bedrock:us-west-2::foundation-model/anthropic.claude-3-haiku-20240307-v1:0"
            ],
            "Condition": {
                "StringLike": {
                    "bedrock:InferenceProfileArn": "arn:aws:bedrock:us-west-2:111122223333:inference-profile/us.anthropic.claude-3-haiku-20240307-v1:0"
                }
            }
        }
    ]
}

    2. Folgen Sie den Schritten unter Hinzufügen und Entfernen von IAM-Identitätsberechtigungen, um die Richtlinie an eine Rolle anzuhängen und der Rolle Berechtigungen zum Anzeigen und Verwenden aller Inferenzprofile zu erteilen.

  • Sie haben Zugriff auf das Modell angefordert, das in dem Inferenzprofil definiert ist, das Sie verwenden möchten, und zwar in der Region, von der aus Sie das Inferenzprofil aufrufen möchten.