AnthropicClaudemodelli - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

AnthropicClaudemodelli

Questa sezione fornisce parametri di inferenza ed esempi di codice per l'utilizzo dei Anthropic Claude modelli.

Puoi usare Amazon Bedrock per inviare AnthropicClaudeAPI di completamento del testo o AnthropicClaudeAPI Messaggi inferire richieste.

Utilizzi l'API dei messaggi per creare applicazioni conversazionali, come un assistente virtuale o un'applicazione di coaching. Utilizza l'API di completamento del testo per applicazioni di generazione di testo a turno singolo. Ad esempio, generare testo per un post sul blog o riepilogare il testo fornito da un utente.

Si effettuano richieste di inferenza a un Anthropic Claude modello con InvokeModelo InvokeModelWithResponseStream(streaming). È necessario l'ID modello per il modello che desideri utilizzare. Per ottenere l'ID del modello per Anthropic Claude i modelli, consulta ID del modello base di Amazon Bedrock (throughput su richiesta) eID del modello base di Amazon Bedrock per l'acquisto di Provisioned Throughput.

Nota

Per utilizzare i prompt di sistema nelle chiamate di inferenza, è necessario utilizzare la Anthropic Claude versione 2.1 o un Anthropic Claude 3 modello, ad esempio. Anthropic Claude 3 Opus Per informazioni sulla creazione di prompt di sistema, vedere https://docs.anthropic.com/claude/docs/ how-to-use-system -prompts nella documentazione. Anthropic Claude

Per evitare i timeout con la Anthropic Claude versione 2.1, consigliamo di limitare il numero di token di input nel campo a 180K. prompt Prevediamo di risolvere presto questo problema di timeout.

Nella chiamata di inferenza, compila il body campo con un oggetto JSON conforme al tipo di chiamata che desideri effettuare, oppure. AnthropicClaudeAPI di completamento del testo AnthropicClaudeAPI Messaggi

Per informazioni sulla creazione di prompt per i Anthropic Claude modelli, vedete Introduzione alla progettazione dei prompt nella documentazione. Anthropic Claude