View a markdown version of this page

Fallback-Gutschrift für abgelehnte Anfragen (Beta) - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Fallback-Gutschrift für abgelehnte Anfragen (Beta)

Wenn Claude Fable 5 eine Anfrage ablehnt, zahlen Kunden, die dieselbe Konversation auf einem anderen Modell (z. B. Claude Opus 4.8) erneut versuchen, in der Regel die Cache-Schreibgebühren für das Konversationspräfix, das bereits auf Fable 5 zwischengespeichert wurde. Bei einer Ausweichgutschrift entfällt diese doppelte Belastung, da bei Ablehnung ein einmaliges Gutschrift-Token ausgestellt wird, das beim erneuten Versuch eingelöst werden kann.

Für diese Funktion ist das Beta-Flag fallback-credit-2026-06-01 im anthropic_beta Array sowohl bei der ursprünglichen Anfrage als auch beim erneuten Versuch erforderlich.

Unterstützte Modelle

Rolle Model
Quelle (gibt bei Ablehnung eine Gutschrift aus) Claude Fable 5
Target (löst Guthaben bei erneutem Versuch ein) Muss ein gültiges Fallback-Ziel des Quellmodells sein

Funktionsweise

Schritt 1: Bei Ablehnung erhalten Sie ein Ersatzguthaben-Token

Wenn eine Anfrage an Claude Fable 5 zurückkehrt stop_reason: "refusal" und das Beta-Flag vorhanden ist, enthält das stop_details Objekt: fallback_credit_token

{ "id": "msg_...", "type": "message", "role": "assistant", "model": "anthropic.claude-fable-5", "content": [], "stop_reason": "refusal", "stop_details": { "type": "refusal", "category": "cyber", "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.", "fallback_credit_token": "<opaque token>" }, "usage": { "input_tokens": 106, "output_tokens": 1 } }

Das fallback_credit_token ist eine undurchsichtige Zeichenfolge. Dies ist der null Fall, wenn die Bedingungen für Neuware nicht erfüllt sind (bei der ursprünglichen Anfrage wurde kein Cache gelesen, das Modell ist nicht kreditfähig oder die Beta-Flagge fehlt). Server-side Fehler bei der Prägung führen zu einem Fehlernull, niemals zu einem Fehler.

Im Streaming-Modus wird das Token bei der letzten message_delta Veranstaltung zugestellt. stop_details

Schritt 2: Löse das Token bei einer Wiederholungsanforderung ein

Übergeben Sie das Token beim erneuten Versuch als Parameter der obersten Ebene an das Fallback-Modell:

{ "anthropic_version": "bedrock-2023-05-31", "anthropic_beta": ["fallback-credit-2026-06-01"], "model": "anthropic.claude-opus-4-8", "max_tokens": 4096, "system": "...", "messages": [...], "tools": [...], "fallback_credit_token": "<token from the refusal's stop_details>" }

Regeln für die Einlösung

Regel Anforderung
Zeitfenster Der Token muss innerhalb von 5 Minuten nach Ausstellung eingelöst werden.
Bindung an die Plattform Ein Token, das geprägt wurde, bedrock-mantle kann nur am eingelöst werden. bedrock-mantle
Körperlich passend Die tools Felder systemmessages, und müssen exakt mit der abgelehnten Anfrage übereinstimmen. Senden Sie sie so, wie sie sind; entfernen Sie keine Denkblockaden.
Versuchen Sie es erneut mit Formen Der Wiederholungstext muss entweder (a) exakt mit der abgelehnten Anfrage übereinstimmen (das Fallback-Modell generiert die Antwort erneut) oder (b) ihm eine angehängte Assistentennachricht zuordnen, die die teilweise Ausgabe der abgelehnten Antwort enthält (das Fallback-Modell wird an der Stelle fortgesetzt, an der Fable 5 unterbrochen wurde).
Zielmodell Muss ein gültiges Ersatzziel des abgelehnten Modells sein.

Fehlerbehandlung

Wenn das Beta-Flag vorhanden ist, gibt jeder Fehler bei der Überprüfung der Einlösung den Wert a zurück. 400 invalid_request_error Der Wiederherstellungsweg besteht in jedem Fall darin, es ohne erneut zu versuchen. fallback_credit_token Zu den Fehlerbedingungen gehören:

  • Falsch formatiertes oder nicht erkennbares Token

  • Token, das älter als 5 Minuten ist

  • Der Text der Anfrage entspricht nicht der ursprünglich abgelehnten Anfrage

  • Das Zielmodell ist kein gültiges Ersatzziel

  • Das Token wurde bereits eingelöst

Wird ohne Betaflag fallback_credit_token als unbekanntes Feld abgelehnt (400). Der Parameter wird auch bei count_tokens Anfragen abgelehnt.

Auswirkungen auf die Abrechnung

Wenn ein Fallback-Credit-Token erfolgreich eingelöst wurde, wird der Wiederholungsanforderung eine Gutschrift für Cache-Write-Token gutgeschrieben, die sich mit dem zwischengespeicherten Präfix der abgelehnten Anfrage überschneiden. Der Kunde zahlt beim erneuten Versuch nur für die nettoneuen Tokens, nicht für das erneute Zwischenspeichern des Konversationspräfixes.

Beispiel-ArbeitsFlows

  1. Schicken Sie eine Anfrage an Claude Fable 5 mit. anthropic_beta: ["fallback-credit-2026-06-01"]

  2. Erhalte eine Absage mit einem Hinweisfallback_credit_token. stop_details

  3. Versuchen Sie es sofort mit dem gleichen system messagestools, und plus dem fallback_credit_token erneut auf Claude Opus 4.8.

  4. Der Wiederholungsversuch wird zu reduzierten Preisen für das überlappende zwischengespeicherte Präfix in Rechnung gestellt.

Wenn das Token abgelaufen oder ungültig istnull, versuchen Sie es normal ohne es erneut. Bei der Gutschrift handelt es sich um eine Kostenoptimierung und nicht um eine funktionale Voraussetzung für den erfolgreichen Wiederholungsversuch.