View a markdown version of this page

Web Grounding - Amazon Nova

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Web Grounding

Web Grounding ermöglicht es Amazon Nova, im Internet nach aktuellen Informationen zu suchen und Antworten mit Zitaten bereitzustellen. Diese Funktion ist nützlich für Abfragen, die up-to-date Informationen erfordern, die über die Trainingsdaten des Modells hinausgehen.

Wie funktioniert Web Grounding

Wenn Web Grounding für einen Prompt aktiviert ist, werden die folgenden Schritte ausgeführt:

  1. Konfiguration anfordern: Ihre Anwendung sendet eine Benutzeraufforderung an die Amazon Bedrock API, wobei nova_grounding als aktiviert ist. systemTool

  2. Suche und Analyse: Das Modell bestimmt, ob eine Suche erforderlich ist, führt eine oder mehrere Suchen nach relevanten Informationen durch und bewertet, ob zusätzliche Suchen erforderlich sind, um das Verständnis zu erweitern oder sich eingehender mit bestimmten Unterthemen zu befassen.

  3. Generierung von Antworten: Amazon Nova synthetisiert automatisch Informationen aus Suchergebnissen, um eine endgültige API-Antwort zu generieren, die auf Echtzeitinformationen basiert, einschließlich Quellenangaben.

Web Grounding verwenden

Vollständige Beispiele für Code, der Web Grounding verwendet, finden Sie im Abschnitt Codebeispiele.

Um Web Grounding in Ihre Ergebnisse einzubeziehen, geben Sie den folgenden systemTool Parameter in Ihrem ToolConfig-Block an:

import boto3 from botocore.config import Config # Create the Bedrock Runtime client with extended timeout bedrock = boto3.client( "bedrock-runtime", region_name="us-east-1", config=Config(read_timeout=3600) ) # Define the tool configuration tool_config = { "tools": [{ "systemTool": { "name": "nova_grounding" } }] } # Send the request response = bedrock.converse( modelId="us.amazon.nova-2-lite-v1:0", messages=[{ "role": "user", "content": [{"text": "What are the latest developments in quantum computing?"}] }], toolConfig=tool_config ) # Extract text with interleaved citations output_with_citations = "" content_list = response["output"]["message"]["content"] for content in content_list: if "text" in content: output_with_citations += content["text"] elif "citationsContent" in content: citations = content["citationsContent"]["citations"] for citation in citations: url = citation["location"]["web"]["url"] output_with_citations += f" [{url}]" print(output_with_citations)

Regionale Verfügbarkeit

Web Grounding ist derzeit nur in US-Regionen verfügbar und wird nur von US-amerikanischen CRIS-Profilen unterstützt.

Struktur der Antworten

Nachfolgend finden Sie eine Beispielantwort. Die Antwort wurde gekürzt:

{ "output": { "message": { "content": [ { "text": "Recent quantum computing developments include...", "citationsContent": [ { "location": { "web": { "url": "https://example.com/quantum-news", "domain": "example.com" } } } ] } ] } } }

Jedes Zitat beinhaltet:

  • text: Ein Abschnitt der vom Modell generierten Antwort.

  • citationsContent: Der primäre Container für die Zitationsdaten, die sich auf ein Textsegment beziehen.

  • citations: Ein Container darincitationsContent, der den Ort eines Zitats enthält.

  • location: Ein Container darincitations, der die Quelle eines Zitats enthält.

  • web: Ein Container darinlocation, der die Informationen zur Webquelle enthält.

  • url: Die vollständige Webadresse (URL) der Quelle des Zitats.

  • domain: Die Stammdomain der Quell-URL.

Sicherheit bei der Erdung

Ihre Daten verlassen niemals die AWS Infrastruktur. Modellgenerierte Abfragen verbleiben innerhalb der AWS Dienste und werden niemals an das breitere Internet gesendet. Unser umfangreicher interner Websuchindex und unsere Wissensdiagramme priorisieren vertrauenswürdige und qualitativ hochwertige Quellen und filtern schädliche Inhalte beim Eindringen. Schließlich schützen wir Ihre Anwendung mit Laufzeitfilterung vor indirekter Promptinjektion und Fehlinformationen (bitte beachten Sie, dass diese Schutzmaßnahme für nicht-englische Sprachen eingeschränkt ist).

Fehlerbehandlung

Fügen Sie dem Namen nova_grounding keinen toolSpec-Eintrag hinzu. Wenn Sie ein Tool mit diesem Namen hinzufügen, führt das zu einem Fehler.

Im Folgenden finden Sie eine Liste potenzieller Fehler, die auftreten können, wenn Sie Web Grounding verwenden:

  • malformed_tool_use

  • max_tokens

  • malformed_model_output

Für integrierte Tools sind Berechtigungen erforderlich

Um sicherzustellen, dass Ihre Rolle auf Web Grounding auf Amazon Bedrock zugreifen kann, haben Sie zwei Möglichkeiten:

  1. BedrockFullAccess Aktivieren Sie dies für Ihre IAM-Rolle: Wenn Ihre Rolle dies getan hat BedrockFullAccess, hat sie automatisch Zugriff auf Web Grounding.

  2. Spezifische Berechtigungen hinzufügen (falls erforderlich): Wenn Sie eine detailliertere Zugriffskontrolle benötigen, fügen Sie diese Richtlinie der IAM-Richtlinie Ihrer Rolle hinzu und ersetzen Sie die Konto-ID durch Ihre ID: AWS-Konto

{ "Statement": [ { "Effect": "Allow", "Action": ["bedrock:InvokeTool"], "Resource": ["arn:aws:bedrock::{111122223333}:system-tool/amazon.nova_grounding"] } ] }

Bei Web Grounding ist der aws:requestedRegion Bedingungsschlüssel auf „nicht spezifiziert“ gesetzt. Wenn Ihre bestehenden Richtlinien oder Service Control-Richtlinien (SCPs) diese Bedingung erzwingen, können Zugriffsprobleme auftreten. Dieses Problem kann durch eine Aktualisierung der Bedingung behoben werden, sodass eine „nicht spezifizierte“ requestedRegion zulässig ist.

Anmerkung

Wenn Sie das Web-Grounding-Tool aktivieren, sind Sie für Ihre Nutzung und die Nutzung durch Ihre Endnutzer von Ausgaben verantwortlich, die begründete Informationen enthalten. Anhand von Zitaten oder Links zum Quellenmaterial wissen Sie, dass Ihre Ausgabe fundierte Informationen enthält. Sie müssen diese Zitate und Links in den Ausgabedaten, die Sie Ihren Endnutzern zur Verfügung stellen, beibehalten und anzeigen.

Anmerkung

Web Grounding ist mit zusätzlichen Kosten verbunden. Weitere Informationen finden Sie unter AWS Bedrock Pricing.