Verwenden Sie ein Inferenzprofil beim Modellaufruf - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Verwenden Sie ein Inferenzprofil beim Modellaufruf

Sie können anstelle eines Basismodells ein regionsübergreifendes Inferenzprofil verwenden, um Anfragen an mehrere Regionen weiterzuleiten. Um die Kosten und die Nutzung eines Modells in einer oder mehreren Regionen nachzuverfolgen, können Sie ein Anwendungs-Inferenzprofil verwenden. Um zu erfahren, wie Sie ein Inferenzprofil bei der Ausführung von Modellinferenzen verwenden, wählen Sie die Registerkarte für Ihre bevorzugte Methode und gehen Sie dann wie folgt vor:

Console

In der Konsole können Sie nur das Inferenzprofil USA verwenden Anthropic Claude 3 Opus Inferenzprofil in der Region USA Ost (Nord-Virginia).

Um dieses Inferenzprofil zu verwenden, wechseln Sie zur Region USA Ost (Nord-Virginia). Führen Sie einen der folgenden Schritte aus und wählen Sie Anthropic Claude 3 Opus Modell und regionsübergreifende Inferenz als Durchsatz, wenn Sie den Schritt zur Modellauswahl erreicht haben:

API

Sie können ein Inferenzprofil verwenden, wenn Sie Inferenzen aus einer beliebigen Region ausführen, die darin enthalten ist, und zwar mit den folgenden Operationen: API

Anmerkung

Wenn Sie ein regionsübergreifendes (systemdefiniertes) Inferenzprofil verwenden, können Sie entweder die oder die ID des Inferenzprofils verwenden. ARN