Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Compatibilità API per modelli

Amazon Bedrock supporta quattro famiglie di API di runtime, ciascuna progettata per diversi modelli di integrazione e casi d'uso.

Famiglia Invoke: InvokeModel gestisce chiamate sincrone a risposta singola. InvokeModelWithResponseStreamrestituisce le risposte come stream in tempo reale. InvokeModelWithBidirectionalStreamconsente lo streaming full-duplex per applicazioni interattive. AsyncInvokeinvia richieste di lunga durata in modo asincrono, archiviando l'output su Amazon S3.

Famiglia Converse: Converse fornisce un'interfaccia unificata e indipendente dal modello per conversazioni sincrone a più turni. ConverseStreamoffre la stessa esperienza con l'output di streaming.

OpenAI-compatible famiglia: ChatCompletions implementa l'interfaccia OpenAI Chat Completions, consentendo l'esecuzione delle OpenAI-based integrazioni esistenti su Bedrock con modifiche minime. Responses L'API implementa l'interfaccia OpenAI Responses, supportando interazioni stateful e agentiche con l'uso degli strumenti integrati e la gestione della cronologia delle conversazioni.

Famiglia Messages: Messages implementa l'interfaccia Anthropic Messages sull'bedrock-mantleendpoint, consentendo l'esecuzione delle integrazioni Anthropic SDK-based esistenti su Bedrock con modifiche minime.

Ora esamineremo l'elenco delle API supportate da ciascun modello.

AI21

Amazon

Anthropic

Cohere

DeepSeek

Google

Meta

MiniMax

Mistral

Moonshot

NVIDIA

OpenAI

Qwen

Stabilità

TwelveLabs

Istanza di scrittura

xAI

Z.AI

Modelli che supportano StartAsyncInvoke

StartAsyncInvoke è un'API Amazon Bedrock Runtime che consente ai chiamanti di inviare una richiesta di richiamo del modello e ricevere immediatamente un InvocationARN senza attendere che il modello termini l'elaborazione. Il processo viene eseguito in background e l'output viene scritto in un bucket S3 specificato dal chiamante una volta completato. I chiamanti possono quindi verificare lo stato del lavoro utilizzando il compagno e le API. GetAsyncInvoke ListAsyncInvokes Lo schema è stato creato appositamente per carichi di lavoro che coinvolgono ingressi di grandi dimensioni o non sensibili alla latenza, in particolare la generazione di video, audio e incorporamento di massa, per i quali mantenere una connessione sincrona aperta non sarebbe pratico.

Per quanto riguarda i modelli che lo supportano, sono supportati i seguenti modelli: StartAsyncInvoke

InvokeModelWithBidirectionalStream

InvokeModelWithBidirectionalStreamè un'API Amazon Bedrock Runtime che stabilisce un canale full duplex persistente tra il chiamante e il modello, consentendo ai dati audio di fluire in entrambe le direzioni contemporaneamente e continuamente. A differenza delle API standard InvokeModel o addirittura delle InvokeModelWithResponseStream API, che seguono uno schema di richiesta e risposta, questa API mantiene la connessione aperta per tutta la durata di una sessione in modo che il modello possa elaborare l'audio in ingresso non appena arriva e trasmettere in streaming il parlato generato quasi in tempo reale, senza attendere il completamento dell'enunciato completo. L'interazione è strutturata in tre fasi: inizializzazione della sessione (in cui il client invia eventi di configurazione per impostare lo stream), streaming audio (in cui l'audio acquisito viene codificato e inviato come flusso di eventi continuo) e streaming di risposta (in cui il modello restituisce simultaneamente trascrizioni testuali del parlato dell'utente e dell'output audio sintetizzato). InvokeModelWithBidirectionalStreamnon può essere utilizzato con le chiavi API di Amazon Bedrock e richiede l'autenticazione standard basata su credenziali AWS, che riflette il ciclo di vita della sessione più complesso rispetto ad altre operazioni di Bedrock Runtime.

I seguenti modelli supportano questa API: