View a markdown version of this page

Credito alternativo per richieste rifiutate (beta) - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Credito alternativo per richieste rifiutate (beta)

Quando Claude Fable 5 rifiuta una richiesta, i clienti che riprovano la stessa conversazione su un modello diverso (ad esempio Claude Opus 4.8) normalmente rimborsano le tariffe di scrittura nella cache del prefisso di conversazione già memorizzato nella cache di Fable 5. Il credito fallback elimina questo doppio addebito emettendo un token di credito una tantum in caso di rifiuto che può essere riscattato al nuovo tentativo.

Questa funzionalità richiede il flag beta nell'anthropic_betaarray sia alla richiesta fallback-credit-2026-06-01 originale che al nuovo tentativo.

Modelli supportati

Ruolo Modello
Fonte (emette credito in caso di rifiuto) Claude Fable 5
Target (riscatta il credito in caso di nuovo tentativo) Deve essere un obiettivo di riserva valido del modello di origine

Come funziona

Passaggio 1: ricevi un token di credito alternativo in caso di rifiuto

Quando ritorna una richiesta a Claude Fable 5 stop_reason: "refusal" ed è presente il flag beta, l'oggetto include: stop_details fallback_credit_token

{ "id": "msg_...", "type": "message", "role": "assistant", "model": "anthropic.claude-fable-5", "content": [], "stop_reason": "refusal", "stop_details": { "type": "refusal", "category": "cyber", "explanation": "This request triggered restrictions on violative cyber content and was blocked under Anthropic's Usage Policy.", "fallback_credit_token": "<opaque token>" }, "usage": { "input_tokens": 106, "output_tokens": 1 } }

fallback_credit_tokenÈ una stringa opaca. È null quando le condizioni di produzione non sono soddisfatte (non è stata letta alcuna cache nella richiesta originale, il modello non è idoneo al credito o il flag beta è assente). Server-side un errore di conio non produce null mai un errore.

In modalità streaming, il token viene consegnato durante l'message_deltaevento finale. stop_details

Passaggio 2: riscatta il token su una richiesta di nuovo tentativo

Passa il token come parametro di primo livello al momento del tentativo al modello di fallback:

{ "anthropic_version": "bedrock-2023-05-31", "anthropic_beta": ["fallback-credit-2026-06-01"], "model": "anthropic.claude-opus-4-8", "max_tokens": 4096, "system": "...", "messages": [...], "tools": [...], "fallback_credit_token": "<token from the refusal's stop_details>" }

Regole di rimborso

Regola Requisito
Finestra temporale Il token deve essere riscattato entro 5 minuti dall'emissione.
Vincolo alla piattaforma Un token emesso bedrock-mantle può essere riscattato solo il. bedrock-mantle
Body Match I tools campi systemmessages, e devono corrispondere esattamente alla richiesta rifiutata. Inviateli così come sono; non eliminate i blocchi mentali.
Riprova con le forme Il corpo del tentativo deve (a) corrispondere esattamente alla richiesta rifiutata (il modello di fallback rigenera la risposta) oppure (b) abbinarlo a un messaggio di assistenza aggiunto contenente l'output parziale della risposta rifiutata (il modello di fallback continua dal punto in cui Fable 5 è stato interrotto).
Modello di destinazione Deve essere un obiettivo di riserva valido del modello rifiutato.

Gestione degli errori

Con il flag beta presente, qualsiasi errore di convalida del rimborso restituisce un. 400 invalid_request_error Il percorso di ripristino in ogni caso consiste nel riprovare senza. fallback_credit_token Le condizioni di errore includono:

  • Token non valido o irriconoscibile

  • Token più vecchio di 5 minuti

  • Il corpo della richiesta non corrisponde alla richiesta originale rifiutata

  • Il modello di destinazione non è un obiettivo di riserva valido

  • Il token è già stato riscattato

Senza il flag beta, fallback_credit_token viene rifiutato come campo sconosciuto (400). Il parametro viene rifiutato anche nelle count_tokens richieste.

Impatto sulla fatturazione

Quando un token di credito di riserva viene riscattato con successo, la richiesta di nuovo tentativo riceve un credito per i token di scrittura nella cache che si sovrappongono al prefisso memorizzato nella cache della richiesta rifiutata. Il cliente paga solo i token netti nuovi al nuovo tentativo, non per la memorizzazione nella cache del prefisso della conversazione.

Flusso di lavoro di esempio

  1. Invia una richiesta a Claude Fable 5 con. anthropic_beta: ["fallback-credit-2026-06-01"]

  2. Ricevi un rifiuto con un Pin. fallback_credit_token stop_details

  3. Riprova immediatamente a Claude Opus 4.8 con gli stessi valori,, e system messagestools, più il. fallback_credit_token

  4. Il nuovo tentativo viene fatturato a tariffe ridotte per il prefisso memorizzato nella cache sovrapposto.

Se il token è scaduto o non null valido, riprova normalmente senza di esso. Il credito è un'ottimizzazione dei costi, non un requisito funzionale per il successo del nuovo tentativo.