Anthropic Claude modelli - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Anthropic Claude modelli

Questa sezione descrive i parametri di richiesta e i campi di risposta per Anthropic Claude modelli. Usa queste informazioni per effettuare chiamate di inferenza a Anthropic Claude modelli con operazioni InvokeModeland InvokeModelWithResponseStream(streaming). Questa sezione include anche Python esempi di codice che mostrano come chiamare Anthropic Claude modelli. Per utilizzare un modello in un'operazione di inferenza, è necessario l'ID del modello. Per ottenere l'ID del modello, consultaModello Amazon Bedrock IDs. Alcuni modelli funzionano anche con Converse. API Per verificare se la Converse API supporta uno specifico Anthropic Claude modello, vediModelli e caratteristiche del modello supportati. Per altri esempi di codice, vediEsempi di codice per l'utilizzo di Amazon Bedrock AWS SDKs.

I modelli Foundation di Amazon Bedrock supportano modalità di input e output, che variano da modello a modello. Per verificare le modalità che Anthropic Claude supporto per i modelli, vediModelli di fondazione supportati in Amazon Bedrock. Per verificare quali Amazon Bedrock include Anthropic Claude modelli supportati, vediSupporto del modello per funzionalità. Per verificare quali AWS regioni Anthropic Claude i modelli sono disponibili in, vediSupporto del modello per AWS regione.

Quando si effettuano chiamate di inferenza con Anthropic Claude modelli, si include una richiesta per il modello. Per informazioni generali sulla creazione di prompt per i modelli supportati da Amazon Bedrock, consulta. Concetti ingegneristici rapidi In Anthropic Claude informazioni specifiche sui prompt, consulta il Anthropic Claude guida tecnica tempestiva.

Puoi usare Amazon Bedrock per inviare Anthropic Claude Completamenti del testo API o Anthropic Claude Messaggi API inferire richieste.

I messaggi vengono utilizzati API per creare applicazioni conversazionali, come un'assistente virtuale o un'applicazione di coaching. Utilizzate il completamento del testo API per applicazioni di generazione di testo a turno singolo. Ad esempio, generare testo per un post di blog o riepilogare il testo fornito da un utente.

Nota

Per utilizzare i prompt di sistema nelle chiamate di inferenza, è necessario utilizzare uno dei seguenti modelli:

  • Anthropic Claude 3.5 Sonnet

  • Anthropic Claude versione 2.1

  • Anthropic Claude 3 modello, ad esempio Anthropic Claude 3 Opus

Per informazioni sulla creazione di prompt di sistema, vedere https://docs.anthropic.com/claude/how-to-use-systemdocs/ -prompts in Anthropic Claude documentazione.

Per evitare i timeout con Anthropic Claude versione 2.1, consigliamo di limitare il numero di token di input nel prompt campo a 180K. Prevediamo di risolvere presto questo problema di timeout.

Nella chiamata di inferenza, compila il body campo con un JSON oggetto conforme al tipo di chiamata che desideri effettuare, oppure. Anthropic Claude Completamenti del testo API Anthropic Claude Messaggi API

Argomenti