Führen Sie Amazon API Bedrock-Beispielanfragen mit einem Amazon SageMaker AI-Notizbuch aus - Amazon Bedrock
Listen Sie die Fundamentmodelle auf, die Amazon Bedrock zu bieten hatSenden Sie eine Textaufforderung an ein Modell und generieren Sie eine Antwort

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Führen Sie Amazon API Bedrock-Beispielanfragen mit einem Amazon SageMaker AI-Notizbuch aus

Dieser Abschnitt führt Sie durch das Ausprobieren einiger gängiger Vorgänge in Amazon Bedrock mit einem Amazon SageMaker AI-Notizbuch, um zu testen, ob Ihre Amazon Bedrock-Rollenberechtigungen ordnungsgemäß eingerichtet sind. Bevor Sie die folgenden Beispiele ausführen, sollten Sie überprüfen, ob Sie die folgenden Voraussetzungen erfüllt haben:

Voraussetzungen

  • Sie verfügen über eine AWS-Konto und haben die erforderlichen Berechtigungen für den Zugriff auf eine Rolle mit den erforderlichen Berechtigungen für Amazon Bedrock. Andernfalls folgen Sie den Schritten unterIch habe bereits eine AWS-Konto.

  • Sie haben Zugriff auf das angefordert Amazon Titan Text G1 - Express Modell. Andernfalls folgen Sie den Schritten unterZugriff auf ein Amazon Bedrock Foundation-Modell anfordern.

  • Führen Sie die folgenden Schritte aus, um IAM Berechtigungen für SageMaker KI einzurichten und ein Notizbuch zu erstellen:

    1. Ändern Sie die Vertrauensrichtlinie der Amazon Bedrock-Rolle, die Sie Ich habe bereits eine AWS-Konto über die Konsole eingerichtet haben CLI, oder API. Fügen Sie der Rolle die folgende Vertrauensrichtlinie hinzu, damit sowohl die Amazon Bedrock- als auch die SageMaker KI-Dienste die Amazon Bedrock-Rolle übernehmen können:

      {
    "Version": "2012-10-17",
    "Statement": [
        {
            "Sid": "BedrockTrust",
            "Effect": "Allow",
            "Principal": {
                "Service": "bedrock.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        },
        {
            "Sid": "SagemakerTrust",
            "Effect": "Allow",
            "Principal": {
                "Service": "sagemaker.amazonaws.com"
            },
            "Action": "sts:AssumeRole"
        }
    ]
}

    2. Melden Sie sich bei der Amazon Bedrock-Rolle an, deren Vertrauensrichtlinie Sie gerade geändert haben.

    3. Folgen Sie den Schritten unter Amazon SageMaker AI Notebook Instance erstellen für das Tutorial und geben Sie die ARN Amazon Bedrock-Rolle an, die Sie zum Erstellen einer SageMaker AI-Notebook-Instance erstellt haben.

    4. Wenn der Status der Notebook-Instance lautet InService, wählen Sie die Instance aus und klicken Sie dann auf Öffnen JupyterLab.

Nachdem Sie Ihr SageMaker KI-Notizbuch geöffnet haben, können Sie die folgenden Beispiele ausprobieren:

Listen Sie die Fundamentmodelle auf, die Amazon Bedrock zu bieten hat

Im folgenden Beispiel wird der ListFoundationModelsVorgang mit einem Amazon Bedrock-Client ausgeführt. ListFoundationModelslistet die Foundation-Modelle (FMs) auf, die in Amazon Bedrock in Ihrer Region verfügbar sind. Führen Sie das folgende SDK Python-Skript aus, um einen Amazon Bedrock-Client zu erstellen und den ListFoundationModelsVorgang zu testen:

# Use the ListFoundationModels API to show the models that are available in your region.
import boto3
             
# Create an &BR; client in the &region-us-east-1; Region.
bedrock = boto3.client(
    service_name="bedrock"
)

bedrock.list_foundation_models()

Wenn das Skript erfolgreich ist, gibt die Antwort eine Liste der Foundation-Modelle zurück, die in Amazon Bedrock verfügbar sind.

Senden Sie eine Textaufforderung an ein Modell und generieren Sie eine Antwort

Im folgenden Beispiel wird der Converse-Vorgang mit einem Amazon Bedrock-Client ausgeführt. Converseermöglicht es Ihnen, eine Aufforderung zur Generierung einer Modellantwort einzureichen. Führen Sie das folgende SDK Python-Skript aus, um einen Amazon Bedrock Runtime-Client zu erstellen und den Converse-Vorgang zu testen:

# Use the Conversation API to send a text message to Amazon Titan Text G1 - Express.

import boto3
from botocore.exceptions import ClientError

# Create an Amazon Bedrock Runtime client.
brt = boto3.client("bedrock-runtime")

# Set the model ID, e.g., Amazon Titan Text G1 - Express.
model_id = "amazon.titan-text-express-v1"

# Start a conversation with the user message.
user_message = "Describe the purpose of a 'hello world' program in one line."
conversation = [
    {
        "role": "user",
        "content": [{"text": user_message}],
    }
]

try:
    # Send the message to the model, using a basic inference configuration.
    response = brt.converse(
        modelId=model_id,
        messages=conversation,
        inferenceConfig={"maxTokens": 512, "temperature": 0.5, "topP": 0.9},
    )

    # Extract and print the response text.
    response_text = response["output"]["message"]["content"][0]["text"]
    print(response_text)

except (ClientError, Exception) as e:
    print(f"ERROR: Can't invoke '{model_id}'. Reason: {e}")
    exit(1)

Wenn der Befehl erfolgreich ist, gibt die Antwort den Text zurück, der vom Modell als Antwort auf die Aufforderung generiert wurde.