Stellen Sie zusätzlichen Durchsatz für das Modell Ihres Agenten bereit - Amazon Bedrock

Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.

Stellen Sie zusätzlichen Durchsatz für das Modell Ihres Agenten bereit

Um die Rate und Anzahl der Token zu erhöhen, die der Agent während der Modellinferenz verarbeiten kann, ordnen Sie dem Modell, das Ihr Agent verwendet, einen bereitgestellten Durchsatz zu, den Sie gekauft haben. Weitere Informationen über Provisioned Throughput und wie Sie ihn erwerben können, finden Sie unter. Erhöhen Sie die Kapazität für den Modellaufruf mit Provisioned Throughput in Amazon Bedrock

Sie können einen Provisioned Throughput zuordnen, wenn Sie einen Agent-Alias erstellen oder aktualisieren. In der Amazon Bedrock-Konsole wählen Sie den bereitgestellten Durchsatz aus, wenn Sie den Alias einrichten oder bearbeiten. Im Amazon Bedrock geben Sie anAPI, routingConfiguration wann Sie eine CreateAgentAliasOder UpdateAgentAlias; -Anfrage senden. provisionedThroughput